RAG (Retrieval-Augmented Generation, בעברית "יצירה מועשרת באחזור") היא שיטה שבה מערכת AI קודם מחפשת מידע רלוונטי במאגר שלכם, ורק אז מוסיפה אותו להוראה למודל שכותב את התשובה. במקום לסמוך על מה שהמודל "זוכר", נותנים לו את הדפים הנכונים לפני שהוא עונה.
בקצרה
- RAG היא שיטה: קודם שולפים מהמסמכים של העסק את הקטעים הרלוונטיים לשאלה, ואז המודל עונה על בסיסם.
- היא לא מאמנת את המודל מחדש. הקטעים שנשלפו נוספים להוראה, בכל שאלה מחדש.
- היא מתאימה כשיש הרבה מידע פנימי: מחירון, נהלים, שאלות נפוצות, מסמכי מוצר.
- היא מצמצמת טעויות אבל לא מבטלת אותן. איכות התשובה תלויה באיכות המסמכים ובשליפה.
ההמחשה: מבחן עם חומר פתוח
תלמיד אחד נבחן בעל פה, על סמך מה שהוא זוכר. תלמיד שני נבחן עם הספרים על השולחן: הוא מקבל שאלה, מדפדף למקום הנכון, קורא ועונה.
מודל שפה בלי RAG הוא התלמיד הראשון. עם RAG הוא התלמיד השני. הוא לא נהיה חכם יותר, אבל יש לו את הדף הנכון מולו. ובדיוק כמו במבחן, הכול תלוי בשאלה אם הוא פתח את העמוד הנכון.
איך RAG עובד
לפי ההסבר של Anthropic, מכינים את המאגר מראש: מחלקים אותו לקטעי טקסט קטנים, ממירים כל קטע לייצוג מספרי שנקרא embedding, ושומרים במאגר שאפשר לחפש בו. בזמן שאלה מוצאים את הקטעים שהכי קרובים לשאלה ומוסיפים אותם להוראה.
מהמסמכים שלכם לתשובה
- הכנת המאגרמסמכים נחתכים לקטעים ונשמרים לחיפוש
- שאלהלקוח או עובד שואלים
- שליפהנבחרים הקטעים הקרובים לשאלה
- תשובההמודל עונה לפי הקטעים שקיבל
גם OpenAI מציעה את זה כשירות מובנה: כלי חיפוש בקבצים עובד מול מאגרים שנקראים vector stores, ומחפש לפי משמעות וגם לפי מילות מפתח. אפשר להגביל כמה תוצאות יוחזרו ולסנן לפי מאפיינים של הקבצים.
למה RAG חשוב לעסק?
- שירות לקוחות. מענה על שאלות על משלוחים, החזרות ושעות פעילות, לפי המסמך העדכני ולא לפי ניחוש.
- נהלים פנימיים. עובד חדש שואל "איך מטפלים בהחזר?" ומקבל תשובה מתוך הנוהל שלכם.
- קטלוג ומחירון. שאלות על מוצרים נענות מהקובץ שעודכן, ולא ממה שהמודל למד פעם.
- הצעות ומסמכים. הכנת טיוטה על בסיס הצעות קודמות ותנאים קבועים, לבדיקה שלכם.
- ידע שנמצא במייל ובמסמכים. במקום לחפש ידנית, שואלים ומקבלים את הקטע הרלוונטי.
בלי RAG
תלמיד שנבחן בעל פה
- עונה ממה שלמד באימון
- לא מכיר מסמכים של העסק
- עלול להשלים פרטים בניחוש
עם RAG
מבחן עם חומר פתוח
- מקבל קטעים רלוונטיים עם השאלה
- עונה על בסיס המסמכים שלכם
- אפשר להציג מאיזה קטע נלקחה התשובה
מיתוסים נפוצים על RAG
מיתוס"RAG מאמן את המודל על המידע שלי"
בפועלהמודל לא משתנה. הקטעים שנשלפו מצטרפים להוראה בכל שאלה, ונשארים רק כל עוד הם בהוראה.
מיתוס"עם RAG אין הזיות"
בפועלהוא מצמצם אותן, אבל לא מבטל. אם נשלף הקטע הלא נכון, או שהמסמך עצמו שגוי, התשובה תהיה שגויה. Anthropic מציינת שטכניקות כאלה מפחיתות הזיות ולא מסלקות אותן לגמרי.
מיתוס"צריך RAG לכל דבר"
בפועלאם כל המידע הרלוונטי קצר ונכנס בהוראה, אפשר פשוט לצרף אותו. RAG נחוץ כשהמאגר גדול מדי להכניס בבת אחת.
מיתוס"מעלים קבצים וזה עובד"
בפועלAnthropic מזהירה שחיתוך מסמכים לקטעים עלול לאבד הקשר. משפט כמו "ההכנסות עלו" לא אומר דבר בלי לדעת על איזו חברה ואיזו תקופה מדובר. מסמכים מסודרים עוזרים.
מושגים קרובים
- LLM: מודל השפה שעונה בסוף
- הזיה: מה קורה כשהמודל לא יודע
- טוקן: למה לא אפשר להכניס הכול בבת אחת
- MCP: חיבור מודל למקורות מידע וכלים
- סוכן AI: מודל שמחובר לעסק
פלטין דיגיטל היא OpenAI Select Partner. כשאנחנו מקימים סוכן לעסק, שאלה ראשונה שלנו היא אילו מסמכים הוא צריך להכיר, ומי אחראי לעדכן אותם.
שאלות נפוצות
מה זה RAG?
RAG, ראשי תיבות של Retrieval-Augmented Generation, היא שיטה שבה מערכת AI מחפשת קודם קטעי מידע רלוונטיים במאגר, כמו מסמכי העסק, ומוסיפה אותם להוראה למודל לפני שהוא עונה. כך התשובה נשענת על מקור ולא רק על מה שהמודל למד באימון.
מה ההבדל בין RAG לאימון מודל?
באימון המודל עצמו משתנה. ב־RAG המודל נשאר כמו שהוא, ומקבל בכל שאלה את הקטעים המתאימים. לכן אפשר לעדכן מסמך והתשובה תתעדכן, בלי לאמן מחדש.
האם RAG מתאים לעסק קטן?
כשיש מאגר ידע ממשי, כמו שאלות חוזרות, נהלים או קטלוג, כן. כשכל המידע נכנס בעמוד אחד, אפשר לצרף אותו להוראה בלי RAG. מתחילים מהשאלות שחוזרות הכי הרבה.
האם RAG מבטיח תשובות נכונות?
לא. הוא משפר את הסיכוי, אבל התשובה תלויה בכך שנשלף הקטע הנכון ושהמסמך מעודכן. ממליצים לבקש מהמודל לצטט את המקור, לאפשר לו לומר שאינו יודע, ולבדוק תשובות חשובות. עוד בהסבר על הזיות.
