Openai מכין שינויים רציניים בעבודת TATGPT – החברה תציג את מבחן הגיל. הכללים החדשים ישפיעו על כל המשתמשים, אך ראשית, מטרת הגנה על בני נוער. הסיבה היא ש- Chatgting משמש יותר ויותר לשיחות גלויות בנושאים אישיים, כולל בריאות הנפש.
החברה היא כמו מקרה טרגי: באביב, נער דן בנושא ההתאבדות עם צ'אט בוט במשך כמה שעות ואז הרגתי את עצמי. המשפחה תבעה, ופתוח החליטו לחזק את אמצעי האבטחה.
פרק נוסף נקרא גם לגריניץ ': צ'טגפט עורר אמריקאי אמריקאי בן 56 -שנה עם אדם מדוכא שהרג את אמו לאחר שהתאבד.
לאחר מכן, Openai אמר כי הם ינחו את תיבות הדו-שיח של משתמשים הרגישים למשתמשים לדגמי מחשבה יותר כמו GPT-5 ובחודש הבא הם יתחילו לשלוט בהורים.
איך זה יעבוד
מסם אלטמן, המנכ"ל Openai, הציגה החברה מערכת חיזוי גיל. האלגוריתם ינתח את האופן בו משתמש TATGPT וינסה לקבוע אם הוא נער או מבוגר. אם עדיין יש ספק, המשתמשים יפרטו אוטומטית את משטר העשרה. במדינות ובמצבים מסוימים, יתכן ויהיה צורך באישור גיל בעזרת מסמך.
עבור בני נוער, יוחלו מגבלות קשות. לדוגמה, Chatgpt יפסיק להגיב לפלרטט אפילו לפי דרישה, ודיון על התאבדות ייאסר לחלוטין. במקרה של מחשבת התאבדות, לחברה יש את הזכות ליצור קשר עם הורים או אפילו עם הממשלה, אם ההורים אינם זמינים.
מה המשמעות של מבוגרים
משתמשים בוגרים עשויים להידרש להסכם עם העובדה שהחופש שלהם יהיה מוגבל באופן חלקי – לדוגמה, תצטרך לאשר את גילך. אלטמן כינה זאת מחיר סביר לוויקינג לבטיחותם של בני נוער.
למה זה חשוב
צ'טגפט ושיחות אחרות הופכות ליותר ויותר דיאלוג לשיחות רציניות, משאלות בריאותיות וזכויות תמיכה לתמיכה במצבים קשים. אולם, כפי שציינו חוקרים מסטנפורד, אלה שעוזרים שלא התמודדו עם מטפל פסיכולוגי: הם יכולים להמעיט במצב הנפשי או לתת עצות בלתי ניתנות לטעות.
