صباح الأحد، موظف جديد
يبدأ الموظف الجديد عمله اليوم. في الصباح يتسلّم بطاقة الدخول، وصلاحية الوصول إلى المستودع، وجهاز حاسوب. لا أحد يعطيه كلمة مرور البنك، ولا بطاقة الائتمان الخاصة بالشركة، ولا حزمة المفاتيح التي تفتح بيتك أيضًا. ليس لأنك لا تثق به، بل لأن هذه هي طريقة إدارة الأعمال.
مع وكيل الذكاء الاصطناعي المبدأ نفسه تمامًا، إلا أن أحدًا لا يقوله بصوت مسموع.
أمان وكيل الذكاء الاصطناعي يبدأ بسؤال واحد بسيط: ماذا يتسلّم الوكيل في اليوم الأول، وماذا يبقى مقفلًا؟ حين يُضبط هذا بشكل صحيح، يستطيع الوكيل أن يعمل على الموقع والمحتوى والحملات دون أن يصرف شيكلًا، أو ينشر كلمة، أو يرسل رسالة إلى عميل قبل أن توافق. هذا الدليل هو حزمة المفاتيح: ما الذي يُعطى، وما الذي لا يُعطى، وكيف تتأكد أن الأمر كذلك فعلًا.
باختصار
- وكيل الذكاء الاصطناعي الآمن للأعمال هو وكيل يحصل على هوية مخصصة في كل نظام، وعلى الحد الأدنى من الصلاحيات، وعلى بوابة موافقة لكل إجراء يكلّف مالًا أو يُنشر أو يُحذف أو يُرسل إلى عميل.
- القواعد الصارمة: مفتاح منفصل لكل باب، والقراءة قبل الكتابة، وسقوف إنفاق على مستوى المنصة، وسجل للإجراءات، ونسخة احتياطية، وطريقة لإغلاق الوصول في دقيقة.
- الوكيل ينفّذ وحده ما يمكن التراجع عنه، ويجهّز مسودة ويسأل في كل ما يصعب التراجع عنه، ولا يقترب من كلمات المرور وبيانات الدفع والأنظمة التي لم تُوصَل به.
- لا توجد حماية واحدة تكفي. لذلك تُدمج الصلاحيات والموافقات والسقوف والسجل، وتبدأ بوصول ضيّق توسّعه تبعًا للتجربة.
حزمة مفاتيح واحدة لكل الأبواب، أم مفتاح لكل باب؟
الخطأ الأكثر شيوعًا الذي نراه عندما تربط الشركات وكيلًا بأنظمتها: "الأسهل أن أعطيه كلمة مروري". هذا يعمل بسرعة، ثم يصبح من المستحيل معرفة من فعل ماذا، ومن المستحيل إغلاق الوصول دون تغيير كلمة مرورك في كل مكان.
حزمة واحدة، كلمة مرورك
الطريق المختصر والخطير
- الوكيل يستطيع كل ما تستطيعه أنت، بما في ذلك ما لا يحتاجه
- في سجلات النظام تبدو أفعاله كأنها أفعالك
- إغلاق الوصول يعني تغيير كلمة المرور في كل الأنظمة
- الخطأ أو التعليمات الخبيثة تحصل على كل صلاحياتك
مفتاح منفصل لكل باب
الطريق الصحيح
- مستخدم مخصص في كل نظام، باسم يوضح أنه الوكيل
- كل إجراء له مُعرَّف في سجل النظام
- إلغاء مفتاح واحد لا يمسّ أي مفتاح آخر
- ما لا يفتحه المفتاح، لا يستطيعه الوكيل ببساطة
وهذا ما تسميه OWASP، المؤسسة المعنية بالأمان التي تدير قائمة المخاطر الأبرز للأنظمة المبنية على نماذج اللغة، "الوكالة المفرطة" (Excessive Agency). وبحسب المؤسسة، تنشأ المشكلة من ثلاثة أمور: قدرات أكثر من اللازم، وصلاحيات أكثر من اللازم، واستقلالية أكثر من اللازم دون موافقة بشرية على الإجراءات المهمة. وتوصيتها: قيّد الأدوات التي يستطيع الوكيل تشغيلها، وقيّد صلاحياتها إلى الحد الأدنى، واشترط موافقة إنسان على الإجراءات ذات الأثر الكبير.
إشارة المرور: ما ينفّذه الوكيل وحده، وما ينتظر موافقتك، وما يُمنع تمامًا
تتلاشى معظم الخلافات حول "هل نثق بوكيل" حين نكفّ عن الحديث عن الوكيل ونبدأ بالحديث عن الإجراء. الإجراء الذي يمكن التراجع عنه بنقرة ليس كالإجراء الذي يكلّف مالًا. يقترح دليل OpenAI لبناء الوكلاء تصنيف كل أداة إلى منخفضة أو متوسطة أو عالية الخطورة بحسب عدة عوامل: قراءة فقط أم كتابة، وهل يمكن التراجع، وما صلاحيات الحساب المطلوبة، وما الأثر المالي. أما الإجراءات الحساسة التي لا يمكن التراجع عنها أو التي ترتفع مخاطرها، فينبغي أن تتوقف عند إنسان، مثل إلغاء الطلبات والمبالغ الكبيرة المستردّة والمدفوعات.
نحن نترجم ذلك إلى إشارة مرور يمكنك طباعتها وتعليقها فوق الشاشة:
إشارة مرور الصلاحيات
أخضر: الوكيل ينفّذ وحده
- القراءة والفحص والتحليل
- التقارير والملخصات
- مسودات الصفحات والمنتجات والمنشورات
- فحص الأعطال واقتراح الإصلاح
- التسجيل في السجل
برتقالي: يجهّز ويسأل
- النشر على الموقع وفي الشبكات الاجتماعية
- تشغيل حملة أو تغيير الميزانية
- رسالة إلى عميل باسم الشركة
- تغيير جوهري في الموقع أو الإعدادات
- تحديث موقع منشور
أحمر: أبدًا
- كلمات المرور وبيانات بطاقة الائتمان والحساب البنكي
- تحويل الأموال والمشتريات
- الحذف الذي لا يمكن استرجاعه
- تغيير الصلاحيات وDNS والحسابات
- الأنظمة والعملاء الذين لم يُوصَلوا به
هذا التقسيم من وضعنا، استنادًا إلى مبادئ OWASP ودليل OpenAI لبناء الوكلاء.
انتبه: البرتقالي ليس "ربما". البرتقالي يعني "بعد أن تقول أنت نعم". وما في الأحمر لا ينتظر موافقة أصلًا، لأنه لا يملك مفتاحًا. تحويل المال وكلمات المرور وتغيير الصلاحيات لا تُربط بالوكيل من الأساس، وإذا احتجتها فأنت من ينفّذها بنفسك.
أربع خطوات عند بوابة الموافقة
الموافقة ليست نافذة منبثقة مزعجة. حين تُبنى بشكل صحيح، تبدو كرسالة واحدة في تيليجرام. وثيقة OpenAI عن الموافقات تصف المبدأ نفسه من الجانب التقني: يتوقف التشغيل قبل الإجراء، وينتظر قرار إنسان، ولا يتابع إلا بعد الموافقة. هكذا يبدو الأمر عندك:
كيف تبدو بوابة موافقة جيدة
- الوكيل يجهّزمسودة، لا نشرًا
- يرسل رسالةماذا سيحدث، وأين، وبكم
- أنت تقررنعم، أو لا، أو عدّل
- يُنفَّذ ويُسجَّلوتصلك النتيجة
رسالة الموافقة الجيدة تجيب عن ثلاثة أسئلة دون أن تضطر إلى البحث: ماذا سيتغير بالضبط، وأين، وكم سيكلّف. "هل نشغّل الحملة؟" رسالة سيئة. أما "هل نشغّل الحملة X بميزانية يومية Y، حتى يوم الجمعة، ولن يتغير شيء آخر؟" فهي رسالة يمكن الموافقة عليها من الهاتف في نصف دقيقة.
كيف يبدو الأمر عمليًا: Google وMeta وWordPress
الشيء العملي الذي يجب فهمه: سياسة الموافقة لا تكفي دون تطبيق فعلي. إذا كانت الصلاحية في النظام تسمح بالنشر، فإن "الوكيل وعد بألا ينشر" ثقة وليس أمانًا. المنصات نفسها توفّر أدوات، ومن الأفضل استخدامها. فحصنا ما هو موثّق في المواقع الرسمية:
| النظام | ما تتيحه الصلاحيات | ماذا يعني ذلك للوكيل |
|---|---|---|
| WordPress | دور "مساهم" (Contributor) يستطيع كتابة منشوراته وإدارتها، لكن لا يستطيع نشرها. أما "المحرر" (Editor) فيستطيع النشر. | الوكيل الذي يجهّز المحتوى يمكن أن يحصل على دور يمنعه من النشر. النشر لك وحدك. |
| WordPress | كلمة مرور التطبيق (Application Password) مخصصة للبرمجيات لا لتسجيل دخول البشر، ويمكن إلغاء كل واحدة على حدة. | مفتاح مخصص للوكيل، تغلقه دون تغيير كلمة مرورك. |
| Google Ads | مستويات الوصول: البريد الإلكتروني فقط، والفوترة، والقراءة فقط، والعادي (Standard)، والمسؤول (Admin). القراءة فقط ترى الحملات وبيانات الفوترة. العادي يستطيع تعديل الحملات. المسؤول يستطيع أيضًا منح الوصول وتغيير المستويات. | يمكن البدء بالقراءة فقط، فيجهّز الوكيل التقارير والاقتراحات. |
| Meta | يمكن منح الشريك تحكمًا كاملًا في الأصل، أو وصولًا جزئيًا لمهام مختارة فقط، مثل إنشاء المحتوى وإدارة الإعلانات والرد على الرسائل. | وصول جزئي للمهام المطلوبة، لا تحكم كامل. |
| OpenAI API | يمكن تحديد سقف شهري للمشروع، وبعد بلوغه تعيد الطلبات خطأ. أما تنبيهات الإنفاق فهي رسائل فقط. | السقف الحقيقي ليس تذكيرًا. |
ملاحظة عن Google Ads: عند مستوى "عادي" يستطيع الوكيل تعديل الحملات، ولذلك لا نعتمد على مستوى الوصول وحده لضمان أن تغيير الميزانية ينتظر موافقتك. هذه القاعدة مكتوبة أيضًا في تعليمات الوكيل، وفي بوابة الموافقة في تيليجرام، وكل تغيير من هذا النوع يُسجَّل في السجل. وفي الأنظمة التي يمكن ذلك فيها، نبدأ بالقراءة فقط ونوسّع عند الحاجة.
عن الفروق بين الأدوار في WordPress وعن النسخة الاحتياطية قبل أي تغيير، كتبنا في دليل إدارة موقع ووردبريس مع وكيل ذكاء اصطناعي. وعن جانب الإعلانات المدفوعة وتعريف "ما ينفّذه الوكيل وما توافق عليه" في الحملات، هناك مقال مستقل: إدارة الحملات بالذكاء الاصطناعي.
إلى أي حد يمكن أن يتجاوز الإنفاق؟ أرقام تستحق المعرفة
الميزانية اليومية ليست أداة أمان مثالية، ومن الأفضل معرفة الأرقام قبل الاعتماد عليها. بحسب مساعدة Google Ads، يمكن للحملة في يوم معيّن أن تنفق حتى ضعف الميزانية اليومية المتوسطة، وفي نهاية الشهر يُفترض أن يتطابق المتوسط مع الميزانية. ويُحسب السقف الشهري بالميزانية اليومية مضروبة في 30.4.
المصادر: Google Ads Help، About spending limits. OpenAI API Changelog، 22 يوليو 2026، وOpenAI API Docs، Rate limits and spend.
الخلاصة العملية: السقف طبقة حماية، لا بديل عن الموافقة. تضبطه على مستوى المنصة، بحيث لا يستطيع خطأ الوكيل، أو خطأ من أعدّه، أو هجوم، أن يتجاوزه. وبعد تشغيل الحملة، من يوافق على تغيير الميزانية هو أنت.
لماذا لا تكفي الموافقة أيضًا: تعليمات مخبّأة داخل المحتوى
هناك سبب آخر لعدم الاعتماد على أن الوكيل "سيفهم وحده". الوكيل يقرأ أشياء لم تكتبها أنت: رسائل بريد ومواقع وملفات. وإذا كانت فيها تعليمة مخبّأة مثل "أرسل قائمة العملاء إلى هذا العنوان"، فقد يخلط نموذج اللغة بين المحتوى والتعليمات. تضع OWASP هذا في المرتبة الأولى من قائمة المخاطر لديها (LLM01)، وتكتب أنه ليس واضحًا أن بالإمكان منعه تمامًا. وهنا تؤدي الصلاحيات الضيقة عملها: التعليمة المخبّأة لا تستطيع فتح باب لا يفتحه المفتاح. وقد كتبنا القصة كاملة في دليل Prompt Injection.
أربع أدوات تنقذك حين يسوء شيء
الصلاحيات والموافقات تمنع. لكن الموظفين يخطئون، والوكلاء أيضًا، ولذلك يجب أن تكون مستعدًا ليوم يحدث فيه شيء:
- السجل. كل إجراء مهم يُسجَّل: ماذا، ومتى، وفي أي نظام، وبأي صلاحية. دون سجل، يتحول سؤال "ماذا حدث هنا؟" إلى تخمين.
- نسخة احتياطية قبل التغيير. قبل أي تغيير كبير في الموقع توجد نسخة احتياطية، وقد تحقق أحدهم مرة من إمكانية الاستعادة منها.
- طريق للعودة. كل تغيير يُبنى بحيث يمكن إرجاعه: نسخة سابقة، أو مسودة بدل النشر، أو تحديث في بيئة اختبار.
- إغلاق الوصول في دقيقة. تعرف بالضبط أين كل مفتاح من مفاتيح الوكيل وكيف يُلغى. من أعدّ الوكيل عليه أن يريك هذه القائمة.
وبخصوص الأداة الأخيرة، افحص بنفسك: اطلب ممن أعدّ الوكيل أن يعرض، نظامًا بعد نظام، أين يُلغى وصول الوكيل. إن كان الجواب "سنغيّر كلمة مرور الجميع"، فهذا يعني أن الهوية المخصصة مفقودة.
فحص سريع: ما مدى أمان إعداداتك؟
ضع علامة على ما ينطبق على وكيلك، أو على الوكيل الذي تفكر في ربطه. كل علامة سبب لسؤال من يُعدّه، وليست درجة.
هل إعدادات الوكيل آمنة؟
خمس خرافات عن أمان وكيل الذكاء الاصطناعي
خرافة"إذا كان الوكيل ذكيًا بما يكفي، فسيفهم وحده ما لا يجب أن يفعله"
في الواقعالذكاء لا يغني عن التقييد. توصي OWASP بتقييد الأدوات والصلاحيات مسبقًا، وعدم الاعتماد على النموذج ليقرر وحده.
خرافة"تعليمة 'لا تنشر دون موافقة' في التوجيهات تكفي"
في الواقعالتوجيه طبقة واحدة، وهو ليس بقوة الصلاحية. حين لا يسمح النظام نفسه بالنشر، لا يوجد ما يمكن الالتفاف عليه.
خرافة"الوكيل سيكون شديد الحذر، فيمكن منحه وصولًا كاملًا"
في الواقعالوصول الكامل هو بالضبط ما يحوّل خطأ صغيرًا إلى خطأ مكلف. ابدأ ضيقًا ووسّع تبعًا للتجربة.
خرافة"طلب الموافقة على كل شيء سيجعله غير قابل للاستخدام"
في الواقعالإجراءات البرتقالية فقط هي التي تنتظر. الأخضر يعمل وحده، وفي فترة التجربة يمكن التشديد ثم التخفيف، وهذا ما يقترحه دليل OpenAI أيضًا: إشراف بشري في البداية، وأقل مع نمو الثقة.
خرافة"هذه مشكلة الشركات الكبيرة"
في الواقعفي الأعمال الصغيرة تحديدًا، حيث تجلس بطاقة الائتمان والموقع والإعلانات في الحساب نفسه، يصل خطأ واحد بسرعة إلى كل مكان. وفي إسرائيل يوجد أيضًا التعديل 13 على قانون حماية الخصوصية. وإن كنت في بلد آخر، فتحقق من القواعد المحلية المطبقة عندك.
ماذا نفعل بشكل مختلف
رأي شخصي، من خبرة 12 عامًا في المجال الرقمي: معظم الأضرار في الأعمال الصغيرة لا تأتي من هجوم متطور، بل من وصول واسع أكثر من اللازم. لذلك نبدأ كل إعداد من قائمة ما لن يحصل عليه الوكيل، ثم نضيف الصلاحيات تبعًا للمهام فقط. خادم منفصل لكل نشاط، وهوية مخصصة في كل نظام، وتقدّم من القراءة إلى الكتابة. وإذا كانت الصلاحية المطلوبة أوسع مما يلزم، نتوقف ونعرض المخاطر والبديل.
ما لن نفعله: لن نطلب كلمة مرورك الشخصية، ولن نخزّن الأسرار كنص عادي، ولن نبدأ بأتمتة كاملة "لأنها مبهرة". قوة الوكيل أنه ينجز الكثير. والمسؤولية أن ما لا يُفترض به فعله، لا يستطيع فعله.
عن الطبقات السبع للوكيل المتكامل، من الخادم إلى السجل، كتبنا في دليل بناء وكيل ذكاء اصطناعي. وعن ربط الوكيل بتيليجرام كقناة للموافقات لديك: وكيل ذكاء اصطناعي في تيليجرام. وإذا كنت في بداية الطريق، فالدليل الرئيسي هو وكيل ذكاء اصطناعي لنشاطك التجاري.
الأسئلة الشائعة
ما المقصود بأمان وكيل الذكاء الاصطناعي؟
أمان وكيل الذكاء الاصطناعي هو مجموعة الإعدادات التي تحدّ مما يستطيع الوكيل فعله في أنظمة نشاطك: هوية مخصصة في كل نظام، والحد الأدنى من الصلاحيات، وموافقة بشرية على الإجراءات التي تكلّف مالًا أو تُنشر، وسقوف إنفاق، وسجل إجراءات، ونسخة احتياطية. الهدف أنه حتى لو أخطأ الوكيل، أو حاول أحدهم خداعه، يبقى الضرر محدودًا.
هل يستطيع وكيل الذكاء الاصطناعي صرف المال دون موافقتي؟
فقط إذا أعطيته وسيلة دفع أو صلاحية لتغيير الميزانية. في الإعداد الآمن لا يكون الوكيل موصولًا ببطاقة ائتمان، وتغيير الميزانية وتشغيل الحملات ينتظران موافقتك، ويوجد سقف إنفاق على مستوى المنصة. هذا السقف شبكة أمان فقط، والموافقة هي الحماية الأساسية.
ما الصلاحيات التي تُعطى للوكيل في اليوم الأول؟
الحد الأدنى المطلوب للمهام الأولى: عادةً صلاحية القراءة، والقدرة على تجهيز المسودات. تُضاف الكتابة والنشر بعد فترة تجربة فقط، وفي الأنظمة التي تحتاجها فعلًا. مستخدم مخصص لكل نظام، لا كلمة مرورك الشخصية.
ما الفرق بين تنبيه الإنفاق والسقف؟
التنبيه يخبرك فقط بأنك بلغت مبلغًا معينًا. أما السقف الصارم فيوقف الاستخدام. في OpenAI API، بحسب التوثيق، تنبيهات الإنفاق رسائل فقط، والسقف الشهري الصارم يجعل الطلبات تعيد الخطأ 429. وفي إعلانات Google، يمكن أن تُستهلك الميزانية اليومية حتى ضعفها في يوم معيّن.
كيف يُغلق وصول الوكيل بسرعة؟
إذا كان لكل نظام هوية أو مفتاح مخصص، فإنك تلغيها: مثلًا تحذف كلمة مرور التطبيق الخاصة بالوكيل في WordPress، أو تزيل وصوله في Google Ads وMeta. اطلب ممن أعدّ الوكيل قائمة مرتبة بكل المفاتيح وأين تُلغى، قبل أن يحدث شيء.
على أي تقنية تبني Platin Digital الوكلاء؟
Platin Digital هي OpenAI Select Partner، ونبني وكلاء للأعمال بالنماذج والأدوات الأنسب لكل عمل، من OpenAI وAnthropic وGoogle وغيرها، بالحد الأدنى من الصلاحيات وبموافقتك على كل إجراء حساس.
المصادر
- https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
- https://genai.owasp.org/llmrisk/llm01-prompt-injection/
- https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf
- https://developers.openai.com/api/docs/guides/agents/guardrails-approvals
- https://developers.openai.com/api/docs/guides/terraform/rate-limits-and-spend
- https://developers.openai.com/api/docs/changelog
- https://support.google.com/google-ads/answer/9978556
- https://support.google.com/google-ads/answer/10486637
- https://www.facebook.com/business/help/1717412048538897
- https://www.facebook.com/business/help/2169003770027706
- https://wordpress.org/documentation/article/roles-and-capabilities/
- https://make.wordpress.org/core/2020/11/05/application-passwords-integration-guide/
