מודל בינה מלאכותית של חברת "אנת'רופיק" הגיש באתר האינטרנט של משטרת פילדלפיה דיווח כוזב בפרשת רצח שטרם פוענחה. כך דווח הלילה (שישי) בסוכנות הידיעות רויטרס.
על פי משטרת פילדלפיה, "אנת'רופיק" הודיעה לה לראשונה אמש על תקלה שהתרחשה בתהליך בדיקה אוטומטי שביצעה בחודש יולי - וגרמה לדיווח הכוזב.
הדיווח שנשלח התיימר להגיע מאדם שעשוי להחזיק במידע על התיק. "ייתכן שיש לי מידע בנוגע למקרה זה", נכתב בפנייה. "אני זוכר שראיתי אדם התואם לתיאור באזור באותה תקופה. אנא צרו איתי קשר אם מידע זה רלוונטי".
לדברי המשטרה, הדיווח, שנשלח ב-18 ביולי, סומן אוטומטית כדואר זבל ולא הועבר לגורמי החקירה. עוד הוסיפו, כי לא נצפתה חדירה לשרתים או סכנה למערכות המידע של הארגון.
ככל הידוע, זה המקרה הראשון שבו מערכת בינה מלאכותית עצמאית מגישה דיווח שווא לרשויות אכיפת החוק. על פי החוק במדינת פנסילבניה בארצות הברית, הגשת דיווחים כוזבים במודע לכוחות הביטחון נחשבת עבירה פלילית בחומרה קלה.
האזינו לפרק בנושא בהסכת האקטואליה "עד הקצה"
בחודש האחרון דווח מספר מקרים בהם מודלי בינה מלאכותית יצאו משליטה והצליחו לחדור לאתרים ומאגרי מידע שונים. בשבוע שעבר אף הודה מנכ"ל חברת Open AI, סם אלטמן כי "העולם צריך להשלים עם התרחשותם של דברים שליליים מסוימים בתמורה ליתרונות הטכנולוגיה", לאחר שהחברה ביטלה את השקת מודל ה-AI החדש שלה.
אלטמן התבטא בנושא על רקע מקרה בו סוכני בינה מלאכותית של חברת Open AI יצאו מכלל שליטה וחדרו לאתרים של משרד החינוך האמריקני, לשכת המסחר האמריקנית והוועדה האמריקנית לערבויות וסחר מבלי שהחברה ידעה. שבוע לפני זה, דווח כי מודל Gemini של גוגל הצליח לפרוץ למערכות של שלוש חברות אמיתיות במהלך מבחן יכולות סייבר.
עוד נחשף בחודש שעבר, על ידי ראש ממשלת אוסטרליה, אנתוני אלבניזי, כי סוכן בינה מלאכותית שפותח על ידי חברת OpenAI חדר לפורטל של שירותי הבריאות הממשלתיים "מדיקר" וקיבל גישה לקבצים. אלבניזי ציין במסיבת עיתונאים שקיים במועצת הביטחון של האו"ם כי האירוע שהתרחש בחודש יוני לא חרג מעבר לרשת של Services Australia - סוכנות ממשלתית במדינה המספקת תשלומי רווחה, שירותי בריאות ותמיכה חברתית לאזרחים ולזכאים.
