בעולם שבו פלטפורמות משחקים צריכות להגן על ילדים מפני טורפים מקוונים, רובלוקס השיקה מערכת אימות גיל מבוססת AI – והיא התגלתה ככישלון מוחלט. רק ימים ספורים לאחר ההשקה בארה"ב ובמדינות נוספות, שחקנים זועמים, מפתחים דורשים ביטול, ומומחים מזהירים שהמערכת לא פותרת דבר. ילדים מוצאים כמבוגרים, מבוגרים כילדים, וחשבונות מאומתים לילדים צעירים נמכרים באיביי ב-4 דולר בלבד. האם זהו עתיד אימות הגיל ב-AI?
רובלוקס, פלטפורמת המשחקים הפופולרית בקרב ילדים, השיקה בשבוע שעבר את מערכת אימות הגיל באמצעות סריקת פנים, שמטרתה לאפשר צ'אט בטוח רק עם גילאים דומים. המשתמשים נדרשים לצלם סרטון קצר עם מצלמת המכשיר, שמעובד על ידי חברת פרסונה להערכת גיל. לחלופין, ניתן להעלות תעודה מזהה ממלכתית מגיל 13. לפי רובלוקס, כל המידע נמחק מיד לאחר העיבוד. אולם, הסירוב לאימות חוסם גישה לצ'אט – תכונה מרכזית בפלטפורמה.
המערכת גרמה למרד בקרב השחקנים. מאות פוסטים בפורומים, רדיט, X וטיקטוק מתלוננים על זיהויים שגויים: מבוגר בן 23 זוהה כ-16-17, נער בן 18 כ-13-15, ואפילו ילד בן 10 כמבוגר מעל 18. שחקנים משתפים סרטונים שבהם הם מרמים את המערכת בעזרת אווטארים, תמונות של קורט קוביין או איפור קווים עם טוש. לפי החברה, רק מחצית מהשחקנים אימתו גיל באוסטרליה, ניו זילנד והולנד בהשקה הראשונית.
הרקע להשקה קשה: רובלוקס ספגה תביעות רבות בשנה האחרונה. היועצים המשפטיים של לואיזיאנה, טקסס וקנטאקי תבעו אותה על כשל בהגנה על ילדים מפני גידול על ידי טורפים. היועץ של פלורידה הוציא צווי חקירה פליליים לבדיקת האם רובלוקס מסייעת לטורפים. החברה טוענת שהמערכת תמנע מבוגרים ליצור קשר עם ילדים זרים, אך מומחים כמו רי טראן, חוקר קיצוניות, מזהירים שהזיהויים השגויים מקשים על הורים ומפקחים לזהות ניצול.
למרות הבעיות, רובלוקס מודעת לחלקן. בפרסום ביום שישי, היא ציינה שהורים מאמתים עבור ילדיהם וגורמים לזיהוי כ-21+, ומבטיחה פתרונות בקרוב. החברה מתכננת בדיקות מחדש אקראיות אם חשודה זיוף, אך לא פירטה כיצד או אם יוודע למשתמשים. בפורום המפתחים, אלפי תגובות שליליות דורשות ביטול, ומפתחים מדווחים על ירידה דרמסטית בשימוש בצ'אט – מ-85% ל-36% במשחקים שלהם.
השחקנים מתארים את הפלטפורמה כ'עיר רפאים' ללא צ'אט חי. מפתחים אחד כתב: 'למה לדחוף שינוי כזה? זה פוגע בבסיס המשתמשים במקום להגן'. המחאה הגיעה אפילו לתוך המשחקים. מומחים חוששים שהמערכת לא רק לא בטוחה, אלא גם פוגעת בחווית המשחק החברתית, שזו נקודת החוזק של רובלוקס.
עבור עסקים ישראלים בתחום הגיימינג והטכנולוגיה, המקרה מדגים את הסיכונים בשימוש AI לאימות גיל. פלטפורמות ישראליות כמו פליי באז או משחקים מקומיים חייבות לבחון טכנולוגיות כאלו בזהירות, במיוחד עם חוקי הגנת הילד המחמירים בישראל. האם AI יכול להיות אמין לביטחון ילדים?
קראו את המאמר המלא כדי להבין כיצד להגן על ילדיכם בפלטפורמות כאלו, ומה השלכות על עתיד אימות הגיל ב-AI.