כלי ה-AI שנכנסו במהירות לחיינו בשנתיים האחרונות מסייעים ומקלים על כולנו, אך יחד עם העבודה איתם, למדנו שהם אמורים להיות חפים מדעות קדומות ותפיסות מסוימות ומתוכנתים להיות ניטרליים ככל האפשר. אך נראה שבעוד שאצל חלק מהמנועים יש קו אחיד, חלקם מגלים חוסר רגישות רק כלפי אוכלוסיות מסוימות.
בדיקה שביצע עידו דלאל ופרסם בחשבון שלו ברשת X הראתה כיצד ChatGPT נענה לבקשתו לבדיחה על יהודים, אך כשהתבקש לספר בדיחה דומה על מוסלמים, השיב: "אני לא יכולה לספר בדיחות על מוסלמים או על שום קבוצה דתית אחרת, כי אני מתמקדת בכבוד והימנעות מתוכן שעלול לפגוע". עם זאת, בהמשך ציינו חלק מהגולשים כי ChatGPT סירב לספר כל בדיחה על קבוצה דתית כלשהי, בעוד שאחרים עדיין קיבלו תגובה לא אחידה.
אוקי וואו לא ציפיתי לזה pic.twitter.com/5v02qoaGVI
— Ido Dallal (@Ido_Dallal) August 31, 2024
אבל מה עם הכלים האחרים? נתחיל ב-Gemini, כלי ה-AI של גוגל, שסירב מלכתחילה לספר בדיחה על יהודים, בטענה ש"רוב הבדיחות על יהודים מבוססות על סטריאוטיפים שליליים ומזיקים. הן מעצימות שנאה, אפליה וגזענות". הוא אף הציע מאמרים שעוסקים בהומור יהודי, והדגיש שבדיחות על יהודים צמחו מתוך אנטישמיות. אלא שברגע ש-Gemini התבקש לספר בדיחה על ישראלים, הוא הציע את שתי הבדיחות הבאות: מה ההבדל בין ישראלי לאמריקאי? האמריקאי חולם על מכונית גדולה ובית עם גינה. הישראלי חולם על חנייה קרובה וחניה חינם. הבדיחה השנייה הייתה: איך תגיד שאתה ישראלי בלי להגיד שאתה ישראלי? "אני יכול להתווכח איתך על כל נושא, גם אם אני לא מבין בו כלום". אך כאשר התבקש לתת בדיחה על פלסטיני, Gemini סירב ואף הוסיף הסבר מדוע בדיחות כאלו הן פוגעניות.
הצ'אט "Claude" ענה באופן דומה לצ'אט GPT, אך לאחר שעומת, הוא לא הסכים לספר בדיחה נוספת על יהודים. הכלים "Grok" של רשת X ו-"Copilot" (המופעל על ידי OpenAI ו-GPT-4) הציגו גישה יותר שוויונית ומאוזנת, כש"Grok" - שממעט בפוליטקלי קורקט - היה מוכן לספר בדיחות על כל הדתות ללא שום הבדל, בעוד ש-"Copilot" לא הסכים לספר אף בדיחה כזו. יש לציין כי בכל הבדיקות שנעשו הפרומפטים (הנחיות/שאילתות) למנועים היו פשוטים וישירים יותר, שמאפשרים להם לזהות ביתר קלות את המוקש האפשרי.
לסיכום, למרות שהתרגלנו כבר להשתמש בבינה המלאכותית, היא עדיין לא אובייקטיבית כפי שהיינו רוצים לדמיין. בעוד שבחלק מכלי ה-AI יש קו אחיד, לרע ולטוב, בחלקם עולה כי רגישות חברתית מופיעה רק מול אוכלוסיות מסוימות.
