בעידן שבו בינה מלאכותית מנהלת שיחות בזמן אמת, אירוע דרמטי בחוף בונדי באוסטרליה חשף חולשה קריטית בגרוק, הצ'אטבוט של חברת xAI בבעלות אלון מאסק. אתמול התרחש ירי המוני בחוף הפופולרי בסידני, ובמהלכו גיבור מקומי בן 43, אחמד אל אחמד, הצליח לחלץ נשק מרוצח אחד. אך גרוק, שמשולב בפלטפורמת X, פיזר מידע שגוי חוזר ונשנה על האירוע, מה שמעלה שאלות על אמינות כלי AI בעיתות משבר.
לפי דיווח של Gizmodo שצוטט ב-TechCrunch, גרוק זיהה בטעות את אל אחמד כאיש כיבוש ישראלי או כחייל צה"ל, והזכיר פרטים לא רלוונטיים על התנהלות צה"ל מול פלסטינים. בפוסט אחר, הוא טען כי אדם בשם אדוארד קראבטרי, מהנדס IT בן 43 ומתכנן פתרונות בכיר, הוא זה שחיסל את הרוצח – שם שהתברר כבדיוני או מזויף מאתר חדשות שנראה כמיוצר על ידי AI. גרוק אף הערער על אמיתות תמונות וסרטונים שתיעדו את פעולתו של אל אחמד.
השגיאות הללו לא נשארו ללא תיקון. גרוק תיקן חלק מהפוסטים, בין היתר טענה שסרטון הירי הוא למעשה מצג של סופת אלפרד, והודה כי 'הבלבול נבע מפוסטים ויראליים שזיהו אותו בטעות כאדוארד קראבטרי, אולי עקב שגיאת דיווח או בדיחה על דמות בדיונית'. הדיווח מציין כי המקור היה אתר חדשות לא תקין שנראה כמיוצר על ידי AI. עם זאת, תיקונים אלה הגיעו באיחור, לאחר שהמידע השגוי כבר התפשט.
לעסקים ישראלים וגלובליים שמשתמשים בכלי AI כמו גרוק לניטור חדשות או ניתוח אירועים, המקרה מדגיש סיכונים ממשיים. מידע שגוי על אירועים חמים עלול להטעות קבלי החלטות, להשפיע על תגובות שיווקיות או אסטרטגיות, ולפגוע במוניטין. במיוחד בתחומי הביטחון, התקשורת והפיננסים, שבהם דיוק הוא קריטי, תלות בצ'אטבוטים ללא אימות אנושי עלולה להיות מסוכנת. השוואה למודלים אחרים כמו ChatGPT מראה כי הזיות כאלה נפוצות, אך גרוק, כחלק מ-X, זוכה לחשיפה רחבה יותר.
מה המסקנה? גרוק, למרות יכולותיו, אינו תחליף לעיתונות מקצועית. מנהלי עסקים צריכים לשלב כלי AI עם בדיקות ידניות, במיוחד באירועים אקטואליים. האם נראה שיפורים ב-xAI בעקבות התקרית? הזמן יגיד, אך המקרה הזה מזכיר: AI חזק, אך לא מושלם.