ג'ייקוב קוקסון, חוקר בכיר בחברת אנת'רופיק שמתמחה בבינה מלאכותית, התפטר והודיע כי יעזוב לחלוטין את תחום הבינה המלאכותית. כך דיווח אתמול (שלישי) עיתון "וול סטריט ג'ורנל". על פי הדיווח, המהלך התרחש בתקופה רגישה עבור החברה, שנמצאת בתהליכי הנפקה מתקדמים.
עם התפטרותו, הצהיר קוקסון בפוסט ארוך שפרסם ברשת X, כי הוא "מודאג מכך שענקיות הטכנולוגיה ממהרות לפתח מערכות בלתי נשלטות עם יכולות שיפור עצמי". קוקסון טען כי הוא עוזב את החברה משום שאינו רוצה להשתתף במרוץ בתעשיית ה-AI לבנות מערכות שיכולות לשפר את עצמן, ומתוך חשש שמערכות כאלו יוכלו לצאת משליטה ולהשמיד את האנושות.
קוקסון עבד בעבר ב-OpenAI והצטרף לאנתרופיק מוקדם יותר השנה, ועסק בעיקר באימון מקדים ועיבוד נתונים עבור מודלים של בינה מלאכותית בחזית השוק. על פי הדיווח, עזיבתו את החברה, כמומחה מרכזי לנתונים והכשרה מקדימה, תשפיע על אופטימיזציית זרם הנתונים ועל קצב האימון של מודלים מהדור הבא כמו קלוד 4 ומודלים של חשיבה בחזית השוק.
"אל תמעיטו בערכה של כוחה של טכנולוגיה זו", אמר קוקסון. "אלה יהיו בקרוב מערכות על-אנושיות שמסוגלות לפרוץ לכל דבר, להפוך ללא היכר כל תחום בן לילה, ולרכוש כוח אמיתי ומשאבים. כולנו עדים להתקדמות בכל אחד מהתחומים האלה, וההתקדמות אינה מאטה".
"האנשים שבונים AI מאמינים בתקיפות שהוא עלול להרוג את כולנו עד סוף העשור", טען עוד בפוסט. "זה לא תעלול שיווקי. אם בכלל, רבים מהמנהלים הבכירים וחוקרים בכירים ינמקו את ניסוחיהם בעיתונות כדי להישמע הגיוניים, אבל אני שומע את אותם אנשים מביעים פחד באופן פרטי. אין פעילות אנושית אחרת שמציבה סכנה ברמה הזו".
