חברת הטכנולוגיה "אנת'רופיק" (Anthropic), אשר מפעילה את מודל הבינה המלאכותית "קלוד" (Claude), הודיעה אתמול (חמישי) כי חסמה ניסיונות להשתמש במודלים שלה לפעילות זדונית, לרבות מחקר שהיה עלול לסייע בפיתוח נשק ביולוגי.
ההודעה הגיעה בהמשך לדו"ח שהחברה פרסמה, בו תועדו שימושים לרעה במודלי הבינה המלאכותית של אנת'רופיק בתקופה שבין דצמבר 2025 ועד לחודש שעבר. בין היתר, בדו"ח פורטו שימושים לצורך מתקפות סייבר, מעקבים ומבצעי השפעה ברשתות החברתיות. עם זאת, הודעת החברה התייחסה למקרה אחד בו התבקש קלוד לסייע בכתיבת בקשה למימון מחקר שנועד להגביר את יכולת ההדבקה של נגיף "צ'יקונגוניה" ואת יכולתו לחמוק ממערכת החיסון.
בחברה ציינו כי מחקר כזה אכן עשוי לשמש לפיתוח חיסונים וטיפולים, אולם גם עשוי לאפשר פיתוח של נגיף מסוכן יותר. "המקרים שאנו מציינים בדו"ח זה אינם דוגמאות לשימושים לרעה שגרתיים, כי אם האיומים הבולטים והחדשניים ביותר שזיהינו עד היום", נמסר מטעם החברה.
"אנו מפרסמים את הדברים הללו כיוון ואנו מאמינים שיש לנו את האחריות לדווח על שימוש לרעה בשירותים שאנו מספקים. ככל שמודלים נעשים מורכבים יותר, כך הסכנות שהם טומנים בחובם גדלות, אלא אם מפתחי בינה מלאכותית ומגיניה של החברה יפעלו לעשותם בטוחים יותר", לשון הודעת אנת'רופיק. בחברה מסרו עוד כי בעקבות הממצאים הוחמרו אמצעי ההגנה במודלים החדשים שלה.
"מהמרים על החיים שלנו"
הודעת החברה מגיעה בצל אירועים שהעלו סימני שאלה סביב הסכנות שטמונות במירוץ הפיתוח של מודלי בינה מלאכותית. שלשום התפטר ג'ייקוב קוקסון, חוקר בכיר באנת'רופיק שמתמחה בבינה מלאכותית, והודיע כי יעזוב לחלוטין את תחום ה-AI.
עם התפטרותו, הצהיר קוקסון בפוסט ארוך שפרסם ברשת X כי הוא "מודאג מכך שענקיות הטכנולוגיה ממהרות לפתח מערכות בלתי נשלטות עם יכולות שיפור עצמי". קוקסון טען כי הוא עוזב את החברה משום שאינו רוצה להשתתף במרוץ בתעשיית ה-AI לבנות מערכות שיכולות לשפר את עצמן, ומתוך חשש שמערכות כאלו יוכלו לצאת משליטה ולהשמיד את האנושות.
ביוני הודיעה החברה כי חסמה את הגישה של כלל המשתמשים למודלי ה-AI המתקדמים ביותר שלה. זאת, לאחר שהממשל האמריקני הורה שלא לאפשר לאזרחים זרים גישה למודלים בשל חששות לביטחון הלאומי של ארצות הברית.
