סוכני AI צבאיים: Scout AI מפוצצת מטרות בדרון

סערה ב-Google: עובדי מעבדת המחקר DeepMind שבלונדון מקדמים מהלך התאגדות היסטורי בשיתוף עם איגודי עובדים בריטיים, במטרה ברורה – לבלום את שיתופי הפעולה של ענקית הטכנולוגיה עם משרד ההגנה האמריקאי ועם כוחות הביטחון הישראליים. המהלך נוצר כתגובה ישירה לדיווחים כי חברת האם, Alphabet, אישרה לכאורה חוזים צבאיים חדשים המספקים שירותי ענן ללא הבטחת פיקוח אנושי הרמטי. המשבר הפנימי, המקבל רוח גבית מעובדים בחברות נוספות כגון Anthropic ו-Palantir, מציף מחדש את שאלת הסיכון בספקיות יחיד – עבור עסקים ישראליים המסתמכים על תשתיות Google לפעילות השוטפת שלהם, מדובר בנורת אזהרה המחייבת גיוון טכנולוגי בהקדם.

האם אלגוריתם גיוס שלל מכם משרה ראויה? תחקיר חדש של מגזין WIRED חושף את סיפורו של סטודנט לרפואה, שגילה כי מערכות סינון קורות חיים אוטומטיות (ATS) פסלו את מועמדותו להתמחות בשל היעדרות רפואית שהוזנה במונח העמום "סיבות אישיות". על רקע ההצפה של מחלקות משאבי האנוש בפניות המיוצרות בעצמן על ידי מודלי שפה, חברות רבות ממהרות לאמץ פתרונות סינון מהירים ללא הבנה מלאה של מנגנון הפעולה שלהם. המקרה ממחיש את הסכנה בהסתמכות עיוורת על 'קופסאות שחורות' לקבלת החלטות גיוס מהותיות. עבור עסקים בישראל, בהם קורות חיים מכילים תכופות פערי זמן עקב שירות צבאי ושירות מילואים, המסקנה ברורה: מערכות אוטומציה מתקדמות הן אכן הכרח ניהולי, אך חובה לשלב בהן שקיפות מלאה ובקרה אנושית מדוקדקת כדי למנוע אפליה בלתי מכוונת ופספוס של מועמדים איכותיים.

גרג ברוקמן, נשיא אחת מחברות התוכנה המובילות בתחום הבינה המלאכותית, חשף בבית המשפט הפדרלי נתונים פיננסיים חסרי תקדים על עושרו האישי ועל המבנה הארגוני של החברה. במסגרת משפט מתוקשר מול אילון מאסק, ברוקמן גילה כי החזקותיו האישיות במניות החברה מוערכות בכ-30 מיליארד דולר. בעדותו ניסה ברוקמן להדוף את טענותיו של מאסק כי הנהלת החברה זנחה את ייעודה הציבורי המקורי לטובת התעשרות פרטית, והסביר כי ההצלחה הפיננסית היא תוצר של עבודה קשה מאז שמאסק עזב את הדירקטוריון. הנתונים חושפים מבט נדיר על ניגודי העניינים והקשרים המסחריים בצמרת תעשיית פיתוח מודלי השפה, עם השלכות גם על החברות הישראליות המסתמכות על תשתיות אלו כבסיס לפעילותן העסקית דרך קריאות API.

הנוף של אבטחת המידע הארגוני עובר טלטלה חסרת תקדים. דיווחים חדשים חושפים כי הסוכנות לביטחון לאומי של ארצות הברית (NSA) בוחנת בימים אלו את מודל הבינה המלאכותית Mythos מבית Anthropic, במטרה לאתר חולשות קוד במערכות תוכנה מרכזיות. במקביל, ארגונים נאלצים להתמודד עם אתגרי פרטיות חדשים הנובעים משימוש הולך וגובר במערכות ביומטריות – כמו הכנסת טכנולוגיית זיהוי הפנים לפארקים של דיסנילנד. המגמות הללו, לצד תקריות מדאיגות של דליפות מידע ומעצר האקרים צעירים מקבוצות כופר מתוחכמות, מדגישות כי עסקים חייבים לנהל מדיניות נתונים נוקשה יותר. חברות ישראליות האוספות נתוני לקוחות נדרשות כעת לבחון מחדש את אסטרטגיית ההגנה שלהן ולשלב אוטומציות אבטחה כדי להימנע מקנסות רגולטוריים ופגיעה אנושה במוניטין.

האם אלגוריתם גיוס שלל מכם משרה ראויה? תחקיר חדש של מגזין WIRED חושף את סיפורו של סטודנט לרפואה, שגילה כי מערכות סינון קורות חיים אוטומטיות (ATS) פסלו את מועמדותו להתמחות בשל היעדרות רפואית שהוזנה במונח העמום "סיבות אישיות". על רקע ההצפה של מחלקות משאבי האנוש בפניות המיוצרות בעצמן על ידי מודלי שפה, חברות רבות ממהרות לאמץ פתרונות סינון מהירים ללא הבנה מלאה של מנגנון הפעולה שלהם. המקרה ממחיש את הסכנה בהסתמכות עיוורת על 'קופסאות שחורות' לקבלת החלטות גיוס מהותיות. עבור עסקים בישראל, בהם קורות חיים מכילים תכופות פערי זמן עקב שירות צבאי ושירות מילואים, המסקנה ברורה: מערכות אוטומציה מתקדמות הן אכן הכרח ניהולי, אך חובה לשלב בהן שקיפות מלאה ובקרה אנושית מדוקדקת כדי למנוע אפליה בלתי מכוונת ופספוס של מועמדים איכותיים.

המעבר של כלי בינה מלאכותית מחיפוש פסיבי לפעולה אקטיבית עתיד לשנות את דרכי ההתקשרות של הציבור מול מוסדות ועסקים. על פי ניתוח המבוסס על נתוני משרד אריק שמידט, השלב הבא במהפכת ה-AI הוא 'סוכנים אישיים' שיקבלו החלטות, ייצגו אינטרסים של אזרחים ולקוחות, ויבצעו פעולות עצמאיות כמו ניסוח מסמכים וביטול שירותים. עבור עסקים בישראל, מדובר באתגר טכנולוגי ומשפטי מורכב. כאשר רוב הפניות יגיעו מסוכנים אוטומטיים במקום מבני אדם, ארגונים יצטרכו להתאים את מערכות ה-CRM והאוטומציה שלהם (כדוגמת N8N ו-Zoho), ליישם מנגנוני אימות זהות קפדניים, ולעמוד בדרישות חוק הגנת הפרטיות, כדי לאפשר תקשורת אמינה ומאובטחת בין מערכות החברה לבוטים של הלקוחות.

פלטפורמת פיתוח הקוד מבוססת ה-AI עשתה זינוק חסר תקדים מהכנסות של 2.8 מיליון דולר ב-2024 למסלול הכנסות שנתי (ARR) של מיליארד דולר. הנתונים שנחשפו בכנס TechCrunch מצביעים על כך שארגוני ענק מאמצים סוכני AI כמחליפים למערכות נתונים מסורתיות, תוך הגעה לשימור לקוחות של עד 300%. בעוד מתחרות כדוגמת Cursor רושמות הפסדים גולמיים ומחפשות עסקאות רכישה מצד תאגידים כמו SpaceX, חברת Replit מציגה מודל רווחי המבוסס על סביבות ענן מבודדות. הנתונים מדגישים את החשיבות של אבטחת מידע בעבודה עם מחוללי קוד ואת המאבק המחריף בין ספקיות התשתית לחברות כמו Apple סביב השליטה בהפצת אפליקציות שנוצרו על ידי בינה מלאכותית.

תעשיית הבינה המלאכותית בארצות הברית לא מסתפקת רק בפיתוח מודלי שפה, אלא משקיעה מאות מיליוני דולרים כדי לעצב את דעת הקהל העולמית. דיווח של מגזין WIRED חושף כיצד ארגון המקושר לבכירי החברות OpenAI ו-Palantir, מממן משפיעני רשת בסכומים של כ-5,000 דולר לסרטון במטרה להציג את ההתפתחות הטכנולוגית של סין כאיום ביטחוני מוחשי על נתונים אישיים בארצות הברית ובעולם המערבי כולו. המטרה האסטרטגית מאחורי המהלך התקשורתי הזה היא לבלום הליכי חקיקה ורגולציה על חברות הטכנולוגיה האמריקאיות עצמן, באמתלה של פטריוטיות וביטחון לאומי מול האיום הסיני. חברות ישראליות, המסתמכות באופן הדוק על ממשקי ה-API של אותן חברות אמריקאיות לפיתוח תהליכי שירות ומכירה, חייבות להבין כיצד מאבקי השליטה הללו עלולים להשפיע על רמת אבטחת הנתונים של הלקוחות שלהן, וכיצד ניתן להיערך לכך תוך בניית ארכיטקטורת נתונים עצמאית המותאמת לחוק הגנת הפרטיות הישראלי.