פיילוט ממוקד של Agent עם כלי אחד יכול להתחיל סביב 8-15 אלף ש״ח. מערכת עסקית עם RAG, כמה אינטגרציות, הרשאות, ממשק וניטור נעה לעיתים בין 25 ל-80 אלף ש״ח ויותר. הטווח נקבע בעיקר לפי הפעולות והסיכון, לא לפי שם המודל.
רמת מורכבות ראשונה: עוזר
עוזר קורא מידע, מסכם, מסווג או מציע תשובה. הוא אינו משנה מערכת חיצונית ולכן קל יותר לבנות ולבדוק אותו. עדיין צריך להגדיר מידע מותר, מקורות ומדדי איכות.
רמה שנייה: Agent שמבצע
כשה-Agent יוצר ליד, מעדכן הזמנה או קובע פגישה, צריך אינטגרציות, הרשאות, Idempotency, אישורים ו-Audit log. כל מערכת חיצונית מוסיפה מקרי קצה ותחזוקה.
רמה שלישית: תהליך קריטי
פעולות כספיות, מידע רפואי, החלטות על לקוחות או תהליך רב-שלבי דורשים Evaluation רחב, Human-in-the-loop, ניטור ואבטחה. כאן רוב העלות נמצאת בהנדסת המערכת ובבקרה, לא ב-Prompt.
עלויות שוטפות
חשבו שימוש במודל, Embeddings, בסיס וקטורי, שירותי צד שלישי, Hosting, ניטור ותמיכה. עלות Tokens יכולה להיות קטנה ביחס לזמן האנושי שנדרש לטפל בחריגים , ולכן מודדים עלות לכל משימה שהושלמה נכון.
איך מוזילים בלי לפגוע
מתחילים ב-Workflow אחד, מגבילים כלים, משתמשים במודל פשוט כשאפשר ומוסיפים אישור אנושי לפני אוטונומיה. פיילוט טוב מוכיח חיסכון לפני שבונים פלטפורמת Agents כללית.
מה חייב להופיע בהצעה
בקשו Use Cases, מערכות מחוברות, Dataset הערכה, מדדי קבלה, מודל הרשאות, עלות חודשית משוערת, בעלות על הקוד ותכנית לתקלות. הצעה שמפרטת רק מודל ו-Prompt אינה הצעת Production.