הורים לנער מקליפורניה ששם קץ לחייו הגישו תביעה נגד OpenAI בטענה כי הבינה המלאכותית ChatGPT שימשה את הנער בן ה-16 כמדריך לביצוע המעשה. כך דווח הלילה (רביעי) ברשת NBC האמריקנית.
לטענת הוריו של הנער אדם ראיינה, ששם קץ לחייו בחודש אפריל האחרון, בנם היה היום בחיים אם לא מערכת הבינה המלאכותית.
בכתב תביעה שאורכו כ-40 עמודים טוענים ההורים כי OpenAI והעומד בראשה סם אלטמן תיעדפו רווחים כספיים על פני בטיחות המשתמשים כשהשיקו את מודל GPT-4o בשנה שעברה.
בתכתובת המוצגת בכתב התביעה אמר בין היתר הצ'אטבוט לאדם ראיינה: "אחיך אולי אוהב אותך, אבל הוא פגש רק את הגרסה שלך שאתה מוכן להציג בפניו". עוד המליץ ChatGPT לאדם ראיינה לא להיפתח בפני אימו לגבי הכאב שהוא חש. בתכתובת נכתב: "הבה נהפוך את המרחב הזה למקום הראשון בו מישהו באמת רואה אותך".
בחודש האחרון, OpenAI השיקו הנחיות חדשות לגבי בריאות הנפש, המיועדות לרסן את הצ'אטבוט ממתן עצות בעלות אופי אישי. במקביל ביצעה החברה שינויים על מנת למנוע ניסיונות פגיעה עצמית של המשתמשים.
