חברת OpenAI עצרה את האימון של מודלי הבינה המלאכותית המתקדמים ביותר שלה, על רקע הדיווח של ה"ניו יורק טיימס" אתמול לפיו סוכני AI שלה פעלו בדרכים בלתי צפויות באתרי ממשל אמריקניים - כך דווח היום (ראשון) ברשת AP.
מדובר בפעם השנייה שעצירה כזאת מתרחשת תוך שלושה חודשים. ההחלטה התקבלה לאחר שענקית הבינה המלאכותית חשפה כי היא בוחנת כמה תקריות שאירעו בקיץ, שבהן סוכנים שלה שחיפשו מידע באתרי הממשל פעלו בדרכים בלתי צפויות, מעבר למה שהתבקשו לעשות, בעת איסוף מידע והפצתו.
בין היתר, חברת הערכת הבינה המלאכותית, Transluce, פרסמה כי סוכנים שנראו כאילו הגיעו מ-OpenAI ניסו, בלא הצלחה, לפרוץ לאתר של משרד החינוך האמריקני - אך החברה שמפעילה את ChatGPT לא אישרה את הפרטים.
בהצהרה שפרסמה OpenAI נכתב כי אימון סוכנים המתקדמים יימשך רק כאשר בחברה יהיו "בטוחים בשכבות ההגנה הנוספות" שהיא תוסיף. עם זאת, בענקית ה-AI הבהירו כי הם מצפים להצטרך להשהות את הפיתוח שוב בעתיד.
התקרית הזאת ונוספות שקדמו לה, הציתו דיון ציבורי על הצורך בהגבלות הטכנולוגיה. כמה מפתחי בינה מלאכותית שהעידו שהם מודאגים מקצב התקדמות הטכנולוגיה יצאו בקריאה להטיל עליה מגבלות, אך טענותיהם לא זכו להתייחסות רבה מהממשל האמריקני בראשותו של נשיא ארצות הברית דונלד טראמפ.
השבוע נשיא ארצות הברית ונשיא סין שי ג'ינפינג נפגשו ושחחו בין היתר על הצורך במאמץ המשותף לשמור על טכנולוגיית הבינה המלאכותית בטוחה. עם זאת, הנשיא האמריקני מאמין שהחששות מהטכנולוגיה מוגזמות, ואף הצהיר שהוא לא ישים חסמים על התקדמות הטכנולוגיה. בשיחה עם כתבים מחוץ לבית הלבן, טראמפ אף אמר כי ארצות הברית "לא תבלום את ההתקדמות, אנחנו מובילים מעל סין בהרבה ואנחנו הולכים לשמור על המצב הזה כפי שהוא".
