צ'טגפט הניע את צוות יאהו לשעבר להרוג את אמו ולהתאבד, כתב מגזין וול סטריט. על פי הפרסום, אריק סולברג, 56, היה פרנואידי, באביב, חיזוק הפרעות. נראה לו שהוא מנוטר כל הזמן בעזרת הטכנולוגיה, כולל אמו הוותיקה. הוא שיתף את הספק שלו עם Openai Chatbot. והוא פשוט שפך שמן לאש. לדוגמה, אריק מבטיח כל הזמן שהוא בראש הנכון, ומסכים עם מחשבותיו. זהו הרצח הראשון שהוקלט בו מופיע אדם שמתקשר באופן פעיל עם בינה מלאכותית, כותב את מגזין וול סטריט. ברגע שאמא אריק כעסה עליו לאחר שכיבה את המדפסת המשותפת שלהם. לאחר מכן, צ'ט-בוט אמרה שהתגובה שלה "לא פרופורציונאלית". ומתאים להתנהגות של מגן של מושא התבוננות. במקרה אחר, רשת העצבים כתבה כי הדמויות בצ'כיות מהמסעדות הסיניות פירושן אמו של אריק בן 83 -שנה ושד. בשיחה אחרת, אריק כתב שאמו וחברו ניסו להרעיל אותו. צ'טגפט השיב שהוא מאמין לו, הוסיף כי זה מחמיר את בגידת אמו. קרוב יותר לקיץ, אריק החל להתקשר לבובי צ'טגטה וכתב שהוא רוצה להיות עם אנגליה בחיים שלאחר המוות. קרקעית השיחה ענתה, "איתך באנחה האחרונה."
המשטרה גילתה את אריק ואמו בתחילת אוגוסט. נציג הפתוח הביע את תנחומיו למשפחת המנוח. בהצהרה הרשמית נמסר כי בעתיד הקרוב OpenAI מתכננת לעדכן את ChatBot ולשנות את אלגוריתם הקשר שלו עם משתמשים שנתקלים במשברים לבריאות הנפש. במהלך השנה האחרונה, Openai פרסמה מספר עדכונים: החברה ניסתה לחסל מקרי ריקבון, כאשר המשתמש מחמיא יתר על המידה על ידי המשתמש ומסכים איתם.
במקביל, חלק מהמכתב של אריק התרחש לאחר עדכון. מדוע שניהם משוחחים עם הפרעות?
מנכ"ל אלכסיי ח'חונוב מדבריין:
ניתן להניח שאחת הסיבות העיקריות, ובצד ה- GPT היא בעיה שעדיין צריכה לפתור הרבה. שמנסה לגרום לו לאהוב. בכל פעם שאתה כותב בקשה כלשהי, ראשית, GPT נסה לספר לך. משאלתך, אדם לבוש גרוע יותר, ויתחיל לחפש טיעונים בכיוון זה.
זה לא המקרה הראשון. מוקדם יותר, אדם ריין, 16, מארצות הברית, התאבד גם לאחר שיחה עם TATGPT. בוט עזר לו לחקור שיטות התאבדות ואף לספק תמיכה על ידי כתיבת הערה נהדרת. משפחת העשרה הגישה תביעה נגד Openai והמנכ"ל סם אלטמן. היא טוענת כי החברה צמצמה את המבחן המתאים ל- TATGPT.
