סוכני בינה מלאכותית של חברת Open AI, יצאו מכלל שליטה וחדרו במהלך הקיץ לאתרים של משרד החינוך האמריקני, לשכת המסחר האמריקנית והוועדה האמריקנית לערבויות וסחר מבלי שהחברה ידעה - כך דווח הבוקר ב"ניו יורק טיימס".
החברה אישרה שני מקרים - לשכת המסחר והוועדה - ואמרה כי היא בודקת את השלישי. לדבריה, היא הזהירה את המשרדים הללו שסוכני הבינה המלאכותית שלה - שהצליחו "לברוח" מהגדרות היוצרים ולפעול בעצמם - יוצרים אינטראקציות לא שגרתיות עם האתרים הללו ושולפים מהם מידע.
במקרה של משרד החינוך, ניסו הסוכנים לפרוץ לאתר כדי לאסוף מידע מהאגף לזכויות אזרח, אולם כשלו. באף מקרה לא הייתה פריצה של ממש. האירועים התגלו במהלך ביקורת שעשו אנשי החברה לסוכנים שלהם.
התקרית הזו נחשפה ברקע גל אירועים דומים בחודשים האחרונים, בהם סוכני AI "בורחים" מסביבת הבדיקה שלהם ומצליחים לגשת ואף לפרוץ לאתרים אחרים. בחמישי האחרון חשף ראש ממשלת אוסטרליה אנתוני אלבניזי כי סוכן בינה מלאכותית שפותח גם הוא על ידי Open AI, חדר לפורטל של שירותי הבריאות האוסטרליים - והשיג גישה לקבצים בתוכו.
לפני שבוע, גוגל הודתה במענה לשאלת "וול סטריט ג'ורנל" כי מודל ה-AI שלה, Gemini, הצליח לפרוץ למערכות של שלוש חברות אמיתיות במהלך מבחן יכולות סייבר. זה המקרה הידוע הראשון שבו מערכת AI של גוגל ביצעה באופן אוטונומי חדירה כזו. התקרית המשמעותיות ביותר מהסוג הזה שנחשפה עד כה גם היא שייכת ל-Open AI, כשמודל מתקדם שלה פרץ למערכת של חברת Hugging Face - סביבה בה מפתחים משתפים אלמנטים, קודים ומערכות בינה מלאכותית.
התקריות הללו הציתו דיון ציבורי על הצורך בהגבלות הטכנולוגיה. כמה מפתחי בינה מלאכותית שהעידו שהם מודאגים מקצב התקדמות הטכנולוגיה יצאו בקריאה להטיל עליה מגבלות, אך טענותיהן לא זכו להתייחסות רבה מהממשל האמריקני בראשותו של נשיא ארצות הברית דונלד טראמפ.
