בעידן שבו מערכות רב-סוכנים מבוססות מודלי שפה גדולים פותרות משימות מורכבות על ידי תיאום סוכנים רבים דרך זרימות עבודה, עולה השאלה: האם תמיד חייבים לייצר זרימות עבודה ברמת שאילתה לכל שאלה בנפרד? מאמר חדש שפורסם ב-arXiv טוען שלא. החוקרים ניתחו מחדש את הגישות הקיימות ומצאו כי יצירה ברמת שאילתה אינה הכרחית תמיד, שכן קבוצה קטנה של זרימות העליונות ברמת משימה מכסה כבר שאילתות רבות באותה מידה או יותר.
המאמר, שכותרתו 'האם תמיד צריך זרימות עבודה ברמת שאילתה? חשיבה מחדש על יצירת זרימות עבודה אג'נטיות במערכות רב-סוכנים', מבקר את הגישות הנוכחיות. גישות קיימות מייצרות זרימות או ברמת משימה או ברמת שאילתה, אך עלויות התועלת שלהן לא ברורות. החוקרים ביצעו ניתוחים אמפיריים ומצאו כי הערכה מבוססת הרצה מלאה של זרימות ברמת משימה היא יקרה מאוד בטוקנים ולא אמינה לעיתים קרובות.
כדי לפתור זאת, החוקרים מציעים מסגרת חדשה בשם SCALE – Self prediction of the optimizer with few shot CALibration for Evaluation. במקום הרצה מלאה של כל זרימה, SCALE משתמשת בחיזוי עצמי עם כיול few-shot להערכה מהירה וזולה. ניסויים נרחבים מראים כי SCALE שומרת על ביצועים תחרותיים, עם ירידה ממוצעת של 0.61% בלבד בהשוואה לגישות קיימות על פני מספר מערכות נתונים, תוך חיתוך שימוש טוקנים כולל של עד 83%.
המשמעות של SCALE היא עצומה לעסקים ישראליים שמפתחים מערכות AI מבוססות סוכנים. במקום לבזבז משאבים רבים על יצירת זרימות מותאמות אישית לכל שאילתה, ניתן להסתמך על קבוצה מוגבלת של זרימות איכותיות ברמת משימה. זה מפחית עלויות תפעול ומאיץ פיתוח, במיוחד בסביבות כמו ענן שבהן כל טוקן עולה כסף. בהשוואה לחלופות, SCALE מציעה איזון אופטימלי בין דיוק לחיסכון.
לסיכום, המחקר הזה משנה את חוקי המשחק ביצירת זרימות עבודה במערכות רב-סוכנים. מנהלי טכנולוגיה צריכים לשקול אימוץ גישות כמו SCALE כדי לייעל את מערכות ה-AI שלהם. מה תהיה ההשפעה על הפרויקטים שלכם? קראו את המאמר המלא ב-arXiv כדי להעמיק.