LLM (Large Language Model, בעברית "מודל שפה גדול") הוא מודל בינה מלאכותית שאומן על כמות עצומה של טקסט, ויודע לייצר טקסט חדש בתגובה להוראה. זה המנוע שמאחורי ChatGPT ושל רוב כלי ה־AI שאתם פוגשים היום, וגם בבסיס של כל סוכן AI.
בקצרה
- LLM הוא מודל שפה גדול: תוכנה שלמדה דפוסים בהרבה טקסט, וכותבת המשך הגיוני להוראה שקיבלה.
- הוא לא מנוע חיפוש ולא מסד נתונים. הוא מייצר תשובה סבירה, ולכן הוא יכול גם לטעות בביטחון.
- מודל שפה, ChatGPT וסוכן AI הם לא אותו דבר: מודל הוא המנוע, ChatGPT הוא מוצר שבנוי עליו, וסוכן הוא מודל שמחובר לכלים.
- הוא מצוין לניסוח, סיכום ומיון. מה שהוא לא קרא, הוא לא יודע, אלא אם מביאים לו את זה.
ההמחשה: עוזר שקרא ספרייה שלמה
דמיינו עוזר חדש שקרא ספרייה שלמה. הוא כותב מצוין, מבין כמעט כל נושא ויודע לנסח מייל בכל סגנון. אבל הוא מעולם לא ראה את התיקים של העסק שלכם, והוא לא יודע מה סוכם עם הלקוח אתמול. מה שלא נתתם לו, הוא ינחש.
זה LLM. שפה הוא יודע. את העסק שלכם הוא מכיר רק מה שתספרו לו.
איך LLM עובד, בארבעה צעדים
מהוראה לתשובה
- הוראהאתם כותבים מה צריך
- טוקניםהטקסט נחתך לחתיכות קטנות
- חישובהמודל בוחר את ההמשך הסביר
- תשובהאתם בודקים ומאשרים
כמה מושגים שכדאי להכיר:
- טוקן. לפי OpenAI, טוקנים הם רצפים נפוצים של תווים, ובאנגלית טוקן שווה בערך ארבעה תווים או שלושה רבעים של מילה. מודלים עובדים בטוקנים, ולא במילים. עוד על כך בהסבר על טוקנים.
- חלון הקשר. זה הגבול לכמה טקסט המודל מעבד בבת אחת. לפי OpenAI, ההוראה והתשובה יחד לא יכולות לעבור את האורך המרבי של המודל.
- אימון. בשלב הזה המודל לומד מהטקסט לחזות את ההמשך. מכאן הוא יודע לכתוב, ומכאן גם נובעות הטעויות. פירוט בהסבר על הזיות.
- אקראיות. OpenAI מציינת שתוכן שמודל מייצר אינו דטרמיניסטי, כלומר אותה הוראה יכולה להניב ניסוחים שונים.
מודל, ChatGPT וסוכן: שלוש שכבות
מודל שפה (LLM)
המנוע
- מקבל טקסט ומחזיר טקסט
- מכיר רק את מה שבהוראה ובאימון
- אין לו ידיים: לא נכנס לאתר ולא שולח
סוכן AI
המנוע, מחובר לעסק
- אותו סוג מודל, עם חיבור לכלים
- מקבל הרשאות והקשר על העסק
- מבצע משימות, ואתם מאשרים
ChatGPT הוא המוצר שבנוי על מודלים כאלה: שיחה נוחה, בלי צורך לדעת מה קורה מתחת. והמעבר למודל שמחובר לכלים הוא מה שמסביר מהו סוכן AI.
למה LLM חשוב לעסק?
טיוטות למענה
- ניסוח תשובה ללקוח לפי הטון שלכם
- אתם קוראים ומאשרים לפני שליחה
סיכום
- מסמך ארוך או שרשור מיילים בפסקה אחת
- עדיף לבדוק מול המקור כשזה חשוב
מיון פניות
- זיהוי מה דחוף, מה מכירה ומה שירות
- כלל ברור מה עובר לאדם
תוכן ותרגום
- תיאורי מוצרים, פוסטים וגרסאות בשפות נוספות
- פרסום תמיד באישורכם
הכלל שלנו: משתמשים ב־LLM איפה שטיוטה טובה חוסכת זמן, ושם שיש אדם שבודק. איפה שטעות עולה ביוקר, כמו מחיר, הבטחה משפטית או נתון פיננסי, לא סומכים על ניחוש.
מיתוסים נפוצים על LLM
מיתוס"LLM הוא מנוע חיפוש חכם"
בפועלמנוע חיפוש מוצא מקורות קיימים. מודל שפה מייצר טקסט חדש לפי דפוסים שלמד. מוצרים מסוימים מוסיפים לו חיפוש, אבל זו תוספת ולא מהות.
מיתוס"הוא מכיר את העסק שלי"
בפועלהוא מכיר רק מה שנמצא בהוראה שלכם ובמה שהמערכת מוסיפה לה. מידע על העסק צריך להגיע אליו, למשל דרך RAG.
מיתוס"אם הוא כותב בביטחון, זה נכון"
בפועלניסוח בטוח אינו הוכחה. OpenAI מגדירה הזיה כהצהרה סבירה אך שגויה, שנאמרת בביטחון.
מיתוס"כל המודלים זהים"
בפועלמודלים שונים בגודל, במהירות, בעלות ובאיכות. בוחרים לפי המשימה ובודקים על דוגמאות מהעסק.
מושגים קרובים
- סוכן AI: מודל שמחובר לכלים ומבצע
- RAG: להביא למודל מידע מהעסק
- הזיה: למה מודל ממציא
- טוקן: יחידת הטקסט של המודל
- MCP: דרך לחבר מודל לכלים
פלטין דיגיטל היא OpenAI Select Partner, ואנחנו מקימים לעסקים סוכנים שמבוססים על מודלים כאלה, של OpenAI, Anthropic, Google ואחרים, לפי מה שמתאים לכל עסק, עם אישור שלכם על כל פעולה רגישה.
שאלות נפוצות
מה זה LLM?
LLM, או מודל שפה גדול, הוא מודל בינה מלאכותית שאומן על כמות עצומה של טקסט ולמד דפוסים בשפה. הוא מקבל הוראה בטקסט ומייצר טקסט בתגובה: תשובה, סיכום, ניסוח או קוד. ChatGPT הוא מוצר שבנוי על מודלים כאלה.
מה ההבדל בין LLM ל־ChatGPT?
LLM הוא המודל עצמו, המנוע. ChatGPT הוא מוצר שלם שבנוי על מודלים, עם ממשק שיחה ותכונות נוספות. אפשר להשתמש באותו סוג מודל גם דרך ממשקי תכנות, בתוך כלים אחרים ובתוך סוכנים.
האם LLM יודע דברים עדכניים?
המודל לומד עד נקודת זמן מסוימת, ולכן מה שקרה אחריה לא בהכרח מוכר לו. כדי שיענה על מידע עדכני או פנימי, מביאים לו את המידע בהוראה, או מחברים אותו למקור, כפי שמוסבר ב־RAG.
האם אפשר לסמוך על LLM בעסק?
אפשר לסמוך עליו כעל עוזר שמכין טיוטות, לא כעל מי שמחליט. הוא יכול לטעות, כמו שמסביר ההסבר על הזיות. לכן בודקים תוצרים חשובים, ופעולות כמו פרסום ושליחה נשארות באישורכם.
