איך בונים סוכן AI

מה ההרצאה של אנתרופיק על סוכנים אומרת?

בארי ז'אנג, מהנדס באנתרופיק, נתן בכנס AI Engineer הרצאה של רבע שעה בשם How We Build Effective Agents. היא מבוססת על המאמר של אנתרופיק Building effective agents, ויש בה שלושה רעיונות שכל מי שרוצה סוכן צריך להכיר:

1. לא לבנות סוכן לכל דבר. סוכן מתאים למשימות מורכבות ושוות, שקשה לכתוב להן מראש את כל השלבים. לכל השאר, תהליך קבוע זול יותר וצפוי יותר.
2. לשמור על פשוט. סוכן הוא מודל שעובד בלולאה עם כלים, ובליבה יש רק שלושה חלקים: הסביבה שבה הוא עובד, הכלים שדרכם הוא פועל, וההוראות שמגדירות לו מטרה וגבולות.
3. לחשוב כמו הסוכן. הסוכן רואה רק את מה שנמצא בחלון ההקשר שלו. לפי ההרצאה, זה בדרך כלל בסביבות 10,000 עד 20,000 טוקנים. כשמשהו לא עובד, צריך לשבת במקום שלו ולשאול: האם היה לי מספיק מידע כדי להחליט נכון?

ההרצאה מכוונת למפתחים, אבל הרעיונות מתאימים לכל מי שרוצה סוכן לעסק. גם אם מישהו אחר יבנה לכם אותו, אתם צריכים לדעת להגיד לו מה הסוכן רואה, במה הוא משתמש ומה נחשב גמור.

איך יודעים אם המשימה בכלל צריכה סוכן?

זו הטעות הכי נפוצה: לבנות סוכן למשימה שהייתה מסתדרת עם תהליך קבוע. תהליך קבוע הוא רשימת שלבים ידועה מראש, למשל: כל טופס שנכנס, קח את השם והמייל, שלח מייל תודה, הוסף שורה לגיליון. אין פה החלטות, אז אין צורך בסוכן.

ההרצאה נותנת כמה שאלות לבדיקה, והפרומפט שלנו בנוי עליהן:

• מורכבות: האם אפשר לכתוב מראש עץ החלטות מלא? אם כן, תהליך קבוע עדיף.
• ערך: האם המשימה שווה מספיק כדי לשלם על סוכן שמנסה, בודק ומנסה שוב? בהרצאה יש דוגמה של שירות לקוחות עם תקציב של בערך 10 סנט לפנייה, שמספיק רק ל-30,000 עד 50,000 טוקנים. שם תהליך קבוע לרוב המקרים נותן את רוב הערך.
• יכולת: האם מודל היום יודע לעשות את החלקים הקשים במשימה?
• מחיר הטעות: כמה גרועה טעות, וכמה קל לגלות אותה. ההרצאה נותנת קוד כדוגמה טובה לסוכן: המשימה מורכבת, שווה, ויש בדיקות שמגלות טעויות.

אם רוב התשובות מראות שאין צורך בסוכן, זה חדשות טובות. תהליך קבוע מהיר יותר לבנות, זול יותר להריץ, וקל יותר לתקן.

הפרומפט המלא לשרטוט סוכן

כתבתי את הפרומפט הזה מתוך ההרצאה והמאמר של אנתרופיק. הוא עובד בקלוד, וגם בכל צ'אט AI חזק אחר. מדביקים, ממלאים את המשימה בשורה השלישית, ועונים על השאלות.

העתקהאתה עוזר לי לשרטט סוכן AI לפני שבונים אותו. אל תכתוב קוד. אני לא טכנולוגי, אז תדבר איתי בשפה פשוטה.

המשימה שאני רוצה לתת לסוכן: [תארו במשפט או שניים]

שלב 1: שאלות
תשאל אותי עד 6 שאלות קצרות, אחת בכל פעם, כדי להבין:
- מה בדיוק נכנס (מייל, קובץ, טופס, הודעה) ומה צריך לצאת בסוף.
- כמה פעמים בשבוע זה קורה, וכמה זמן זה לוקח לי היום.
- מה קורה אם הסוכן טועה, ואיך אגלה שהוא טעה.
- באילו כלים ומערכות אני כבר משתמש.

שלב 2: האם בכלל צריך סוכן?
תבדוק את המשימה בארבע שאלות, ותכתוב על כל אחת "כן" או "לא" עם משפט הסבר:
1. האם המשימה מורכבת ולא צפויה, כך שאי אפשר לכתוב מראש את כל השלבים כרשימה קבועה?
2. האם היא שווה מספיק כדי להצדיק את העלות של סוכן שמנסה, בודק ומנסה שוב?
3. האם מודל היום יודע לעשות את החלקים הקשים בה?
4. האם טעות זולה וקל לגלות אותה?
אם התשובה לאחת מהן היא "לא", תמליץ על תהליך קבוע (שלבים ידועים מראש) במקום סוכן, ותכתוב לי את השלבים שלו. אם כולן "כן", תמשיך לשלב 3.

שלב 3: השרטוט
תכתוב שרטוט של הסוכן בשלושה חלקים בלבד:
א. סביבה: איפה הסוכן עובד ומה הוא רואה בכל צעד (תיבת דואר, תיקייה, גיליון, אתר).
ב. כלים: רשימה של עד 5 כלים. לכל כלי: שם, מה הוא עושה במשפט אחד, מה הוא מקבל ומה הוא מחזיר. בלי כלים "ליתר ביטחון".
ג. הוראות: הוראות מערכת קצרות, עד 15 שורות: המטרה, מה נחשב "גמור", מה אסור לעשות, ומתי לעצור ולשאול אותי.

שלב 4: תחשוב כמו הסוכן
תעבור על המשימה צעד אחרי צעד מנקודת המבט של הסוכן, שרואה רק את מה שבחלון שלו.
בכל צעד תכתוב: מה הוא רואה, מה הוא מחליט, ואיזה מידע או כלי חסר לו כדי להחליט נכון.
בסוף תכתוב רשימה של מה שחסר, ותעדכן את השרטוט.

שלב 5: בדיקה ותקציב
תכתוב 3 מקרים לבדיקה (רגיל, קשה, ומקרה שבו הסוכן צריך לעצור ולשאול),
ומגבלה של מספר צעדים מקסימלי לכל משימה.

בסוף תציג את השרטוט המלא בטבלה אחת, ואת ההוראות בבלוק נפרד שאפשר להעתיק.

שימו לב שהפרומפט אוסר לכתוב קוד. המטרה כאן היא לחשוב לפני שבונים. את השרטוט אפשר אחר כך לתת לקלוד קוד, למפתח, או לכלי לבניית סוכנים, וכל אחד מהם יעבוד הרבה יותר טוב כשיש לו תוכנית ברורה.

מה זה אומר "לחשוב כמו הסוכן"?

זה החלק הכי חשוב בהרצאה, והכי קל לפספס. אנחנו רואים את כל התמונה: יודעים מה הלקוח רוצה, מה קרה אתמול, ואיפה נמצא הקובץ. הסוכן לא יודע כלום מזה. הוא רואה רק את ההוראות, את תיאורי הכלים, ואת מה שהכלים החזירו לו עד עכשיו.

בהרצאה יש דוגמה של סוכן שמשתמש במחשב. הוא מקבל צילום מסך, מחליט על פעולה, ורק בצילום המסך הבא הוא מגלה אם הפעולה הצליחה. בין שני הצילומים הוא בעצם עיוור. כשמבינים את זה, מבינים למה כדאי לתת לו מידע כמו רזולוציית המסך, פעולות מומלצות ומגבלות.

בגלל זה שלב 4 בפרומפט מבקש מהמודל לעבור על המשימה מנקודת המבט של הסוכן, ולכתוב בכל צעד מה חסר לו. ברוב המקרים יוצאת רשימה של שניים או שלושה דברים שלא חשבתם עליהם: כלי לחיפוש לקוח במערכת, דוגמה של תשובה טובה, או הוראה מה לעשות כשאין מידע.

ז'אנג מציע גם לשאול את המודל עצמו: האם ההוראות לא ברורות? האם תיאור הכלי מובן? זה בדיוק מה שהפרומפט עושה בשבילכם.

דוגמה: סוכן לפניות מהאתר

נגיד שאתם מאמני כושר אישיים, ומגיעות אליכם פניות מטופס באתר. הרבה מהן שואלות אותן שאלות, וחלקן רוצות לקבוע שיחת היכרות. ככה השרטוט יוצא בערך:

• הבדיקה: הפניות שונות זו מזו, טעות בתשובה זולה כי הכל עובר דרככם כטיוטה, והמשימה חוזרת עשרות פעמים בשבוע. מתאים לסוכן.
• סביבה: תיבת הדואר של הטופס והיומן.
• כלים: קריאת פנייה, חיפוש זמן פנוי ביומן, יצירת טיוטת תשובה. שלושה כלים, לא עשרה.
• הוראות: לענות בטון חם וקצר, להציע שני זמנים לשיחה, לא להבטיח מחירים, ולעצור כשמישהו מזכיר בעיה רפואית.
• מה היה חסר: המחירון ודוגמאות של תשובות קודמות שאהבתם. בלי זה, הסוכן היה מנחש.

זה שרטוט שמפתח, או קלוד קוד, יכולים לבנות ממנו סוכן תוך זמן קצר. ואם הבדיקה הייתה יוצאת שלילית, הייתם חוסכים לעצמכם את כל הבנייה.

מה עושים עם השרטוט אחרי שהוא מוכן?

יש שלוש דרכים להפוך את השרטוט לסוכן, לפי כמה אתם רוצים להיות מעורבים:

• לבד, עם קלוד קוד: מדביקים את השרטוט ומבקשים לבנות גרסה ראשונה שעובדת על שלושת מקרי הבדיקה. ההוראות מהשרטוט הופכות להוראות של הסוכן כמעט כמו שהן.
• בכלי אוטומציה: אם יצא שמספיק תהליך קבוע, אותם שלבים נבנים בכלי כמו n8n או Make, בלי סוכן בכלל.
• עם מפתח: השרטוט הוא בדיוק המסמך שמפתח צריך. הוא חוסך פגישות, ומקטין את הסיכוי שתקבלו משהו אחר ממה שדמיינתם.

בכל אחת מהדרכים, תתחילו מהמקרה הרגיל, תעברו למקרה הקשה, ורק בסוף תריצו על פניות אמיתיות.

חשוב לדעת

• זה שרטוט, לא סוכן. הפרומפט לא בונה ולא מריץ כלום. הוא נותן תוכנית שמישהו, או כלי, צריך לממש.
• הפרומפט שלי, הרעיונות של אנתרופיק. כתבתי אותו מתוך ההרצאה והמאמר. זה לא פרומפט רשמי של אנתרופיק.
• עלויות. סוכן שעובד בלולאה צורך הרבה יותר טוקנים מתשובה אחת. לפני שמריצים אותו על כל הפניות, תבדקו כמה עולה משימה אחת.
• אחריות. כל דבר שיוצא ללקוחות בשמכם כדאי שיעבור כטיוטה בהתחלה. גם סוכן טוב טועה לפעמים, ועדיף לגלות את זה לפני הלקוח.
• מידע אישי. סוכן שקורא פניות של לקוחות מטפל במידע אישי. תבדקו איפה המידע נשמר ומי רואה אותו.