أمن روبوتات المحادثة: قائمة التحقق التي ترسلونها لمزوّدكم قبل التوقيع

قبل أن توقّعوا العقد مع أي مزوّد لروبوت محادثة يتعامل مع عملائكم أو موظفيكم في الإمارات، أرسلوا له قائمة تحقق مكتوبة. أمن روبوتات المحادثة ليس تفصيلاً تقنياً يُحال إلى قسم تقنية المعلومات، بل قرار قانوني ومالي يقع على عاتق شركتكم أنتم بموجب الأنظمة الاتحادية النافذة. القائمة التالية تُغطي أربعة محاور: تخزين البيانات، التحكم في الوصول، مقاومة هجمات الذكاء الاصطناعي، والالتزامات التعاقدية.

أهم النقاط

• المسؤولية القانونية تقع عليكم لا على المزوّد — بموجب المرسوم الاتحادي رقم 45 لعام 2021، شركتكم هي المتحكم في البيانات المسؤول أمام مكتب حماية البيانات الاتحادي، وليس المزوّد المعالج. فاختيار المزوّد قرار قانوني قبل أن يكون تقنياً.
• هجمات الذكاء الاصطناعي ارتفعت 56% وروبوتات المحادثة هدف مباشر — تجمع الروبوتات الوصول إلى قواعد بياناتكم وواجهات API الداخلية مع مدخلات نصية مفتوحة من أي مستخدم، ما يجعلها عرضة لهجمات حقن الأوامر الخبيثة.
• القائمة تُغطي أربعة محاور تحتاج كل منها إثباتاً كتابياً — تخزين البيانات وموقع الخادم، التحكم في الوصول بمبدأ الحد الأدنى من الامتيازات، مقاومة حقن الأوامر وعزل المستأجرين، والالتزامات التعاقدية كاتفاقية معالجة البيانات وبند الإخطار بالخرق بالساعات.
• شهادة ISO 27001 وحدها لا تكفي دليلاً على الأمان — الشهادة تُثبت وجود نظام إدارة أمن موثّق، لا خلوّ المنتج المحدد من الثغرات. اطلبوا نطاق الشهادة Statement of Applicability وتاريخ آخر مراجعة وتقارير اختبار اختراق حديثة قبل التوقيع.

لماذا يختلف أمن روبوتات المحادثة عن أمن التطبيقات التقليدية

سطح الهجوم أوسع بكثير. روبوت المحادثة يقبل مدخلات نصية مفتوحة من أي شخص يفتح صفحة الويب أو محادثة واتساب، ويترجمها إلى استعلامات فعلية على قواعد بياناتكم وواجهات API الداخلية.

هذا يفتح باباً كاملاً من الهجمات لا وجود له في تطبيق الويب المعتاد، أبرزها حقن الأوامر الخبيثة الذي يستخدم فيه المهاجم صياغة لغوية ذكية لخداع الروبوت وجعله يتجاوز تعليماته الأمنية. حين تربطون الروبوت بنظام إدارة العلاقات أو ملفات العملاء أو أنظمة الحجز، فأي اختراق للروبوت يعني اختراقاً للأنظمة الخلفية أيضاً. تُشير تقارير الصناعة إلى ارتفاع الهجمات المدفوعة بالذكاء الاصطناعي بنسبة 56%، وروبوتات المحادثة هدف طبيعي لأنها تجمع الوصول الواسع إلى البيانات مع المدخلات المفتوحة.

ينظّم المعهد الوطني الأمريكي للمعايير والتقنية إطار إدارة مخاطر الذكاء الاصطناعي حول أربع وظائف: الحوكمة والتوصيف والقياس والإدارة.

الإطار القانوني في الإمارات: ما تُلزمكم به الأنظمة قبل نشر أي روبوت

تصوير: Pavel Danilyuk عبر Pexels

القانون الاتحادي الأساسي هو المرسوم الاتحادي رقم 45 لعام 2021 لحماية البيانات الشخصية، النافذ منذ 2 يناير 2022. الجهة الرقابية هي مكتب حماية البيانات الاتحادي المُنشأ بموجب المرسوم الاتحادي رقم 44 لعام 2021. أي روبوت يُعالج بيانات عملاء إماراتيين يقع ضمن نطاق هذين المرسومين.

إذا كانت شركتكم مُسجَّلة في مركز دبي المالي العالمي (DIFC) أو سوق أبوظبي العالمي (ADGM)، فأنتم تخضعون لنظام حماية بيانات إضافي خاص بتلك السلطة القضائية، يُضاف فوق الإطار الاتحادي ولا يحلّ محله.

النقطة التي يتجاهلها كثير من المشترين: المسؤولية القانونية أمام مكتب حماية البيانات الاتحادي تقع على شركتكم بوصفكم "المتحكم في البيانات"، وليس على المزوّد بوصفه "المعالج". إذا سرَّب المزوّد بيانات عملائكم، فالغرامة والدعوى المدنية تقصدانكم أولاً، ثم ترجعون أنتم على المزوّد بموجب العقد. هذا بالضبط ما يجعل قائمة التحقق قبل التوقيع إلزامية، لا اختيارية.

المحور الأول: تخزين البيانات وموقع الخادم

أربعة أسئلة يجب طرحها بالحرف: أين تُخزَّن بيانات المحادثات جغرافياً، ما مستوى التشفير، ما سياسة الاحتفاظ والحذف، وهل تنتقل البيانات إلى طرف ثالث. اطلبوا إجابات مكتوبة، لا شفوية.

أين تُخزَّن البيانات فعلياً؟ داخل الإمارات أم في مراكز بيانات خارجية؟ اطلبوا وثيقة رسمية تُثبت الموقع الجغرافي لكل مركز بيانات يحتفظ ببيانات شركتكم، لا مجرد تصريح بأن "البيانات محفوظة في المنطقة". اسم مزوّد السحابة وحده لا يكفي.

ما مستوى التشفير؟ أثناء النقل (in transit) وأثناء التخزين (at rest). اطلبوا اسم المعيار المُستخدم بالتحديد. التشفير أثناء النقل بحد ذاته لا يحمي البيانات المُخزَّنة على قرص المزوّد إذا اخترق مهاجم بنيته التحتية.

ما سياسة الاحتفاظ والحذف؟ متى تُحذف محادثات عملائكم تلقائياً، وكيف تُحذف عند إنهاء العقد، وفي أي إطار زمني؟ اطلبوا شهادة حذف رسمية ضمن مدة محدّدة تعاقدياً.

هل تنتقل البيانات إلى طرف ثالث؟ بما في ذلك مزوّدو النماذج اللغوية الكبيرة. وما الأساس القانوني لكل نقل؟ إذا كان روبوتكم يستدعي نموذجاً عاماً في كل جلسة، فمحادثات عملائكم قد تُغادر بيئة المزوّد، ويجب أن تعرفوا ذلك قبل التوقيع لا بعده.

أسئلة هذا المحور الأربعة تحتاج كل واحدة منها إلى إثبات كتابي محدد قبل التوقيع:

يتابع مرصد سياسات الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية كيفية تنظيم الدول المختلفة للذكاء الاصطناعي، وهو ما يهم فور العمل في أكثر من سوق.

المحور الثاني: التحكم في الوصول وإدارة الهوية

الخطر الأكبر أحياناً يأتي من داخل المزوّد نفسه، لا من مهاجم خارجي. اسألوا عن أربع نقاط تتعلق بمن يستطيع الوصول إلى محادثات عملائكم، وضعوا الإجابات في العقد كالتزامات لا كوعود.

مبدأ الحد الأدنى من الامتيازات (least privilege) هو المعيار المتوقّع. من داخل فريق المزوّد يستطيع الاطلاع على محادثات عملائكم؟ لأي غرض؟ وكم شخصاً بالضبط؟ الإجابة المقبولة تُحدد عدداً محدوداً من الأدوار، وسبب وصول واضح لكل دور، وسجلاً يُبيّن كل مرة وقع فيها هذا الوصول.

التحقق متعدد العوامل (MFA) شرط أساسي لكل موظف يصل إلى البيئة الإنتاجية عند المزوّد. إذا كان أحد مهندسيه يدخل بكلمة مرور فقط، فتسريب واحد لكلمة المرور يعني تسريب بيانات كل عملائه، ومنهم أنتم.

سجلات المراجعة (audit logs) يجب أن تكون متاحة لكم بشكل مستقل، بحيث ترون من وصل إلى بياناتكم ومتى، دون أن يمرّ ذلك عبر المزوّد. سجل يُقدَّم عند الطلب فقط ليس سجلاً حقيقياً، لأنه يمنحه فرصة التحرير قبل التسليم.

اشترطوا في العقد إطاراً زمنياً محدداً بالساعات لإلغاء الوصول عند إنهاء العقد أو مغادرة موظف، مع شهادة موثّقة تُبيّن أن جميع الحسابات أُلغيت وأن النسخ حُذفت.

المحور الثالث: مقاومة هجمات الذكاء الاصطناعي وحقن الأوامر

تصوير: Ann H عبر Pexels

هذا المحور يفصل المزوّد الجاد عن المزوّد الذي يبيع طبقة رقيقة فوق نموذج عام. اسألوا عن كشف حقن الأوامر، عزل المستأجرين، انتحال الهوية الصوتية، واختبارات الاختراق المستقلة.

هجمات حقن الأوامر (prompt injection) تعمل عن طريق كتابة تعليمات مُخفية داخل رسالة عادية تجعل الروبوت يتجاهل قواعده الأمنية ويكشف بيانات لا يُفترض أن يكشفها. ما آليات الكشف والاستجابة الآلية التي يستخدمها المزوّد؟ وكيف تُختبر دورياً؟ إجابة "لدينا فلاتر" ليست كافية دون شرح للآلية.

في بيئات SaaS متعددة المستأجرين (multi-tenant)، تُشغَّل بيانات عملاء مختلفين على البنية نفسها. كيف يضمن المزوّد عزل بيانات كل عميل بحيث لا تظهر جلسة عميلكم في نتائج بحث عميل آخر؟ حادثة عزل واحدة سيئة كافية لإنهاء علاقتكم بعملائكم.

إذا كان روبوتكم صوتياً أو يُجيب المكالمات نيابةً عن قسم مالي أو دعم عملاء، فأنتم أمام تهديد إضافي هو التزييف العميق واستنساخ الصوت كأداة لانتحال هوية موظفيكم أو عملائكم. اسألوا عن آليات التحقق من هوية المتّصل قبل تنفيذ أي إجراء مالي أو تعديل بيانات.

اختبارات الاختراق (penetration testing) من طرف ثالث مستقل ضرورة. هل أُجري اختبار مؤخراً؟ ما تاريخه ونطاقه؟ هل تقرير النتائج متاح بموجب اتفاقية سرية عند الطلب؟ رفض إتاحته حتى تحت السرية علامة تحذيرية.

يحدد المرسوم بقانون اتحادي رقم 45 لسنة 2021 الأسس القانونية لمعالجة البيانات الشخصية والحقوق التي يملكها صاحب البيانات في مواجهة جهة التحكم.

المحور الرابع: الالتزامات التعاقدية ومسؤولية الخرق

العقد هو ما يبقى بعد أن ينتهي حماس البيع. اشترطوا اتفاقية معالجة بيانات (DPA) مكتوبة، بند إخطار بالخرق بمهلة صريحة بالساعات، حدود مسؤولية كافية، وبنود تعويض تُغطي الضرر الفعلي.

اتفاقية معالجة البيانات (Data Processing Agreement) يجب أن تُحدد غرض المعالجة، فئات البيانات المُعالجة، ضمانات الأمن التقنية والتنظيمية، والتزامات كل طرف. إذا رفض المزوّد توقيعها أو حاول استبدالها بشروط استخدام قياسية، هذه إشارة تحذيرية كافية لإعادة تقييم الصفقة بالكامل.

بند الإخطار بالخرق يجب أن يُحدد ساعات لا أياماً. كم ساعة يلتزم المزوّد بإبلاغكم بعد اكتشاف حادثة أمنية؟ ومن يتولى الإبلاغ الرسمي لمكتب حماية البيانات الاتحادي، المزوّد أم شركتكم؟ الوضوح هنا يمنع أياماً ضائعة تُضاعف الغرامة.

حدود المسؤولية وبنود التعويض هي الفرق بين تعويض فعلي وقيمة رمزية. سقف مسؤولية يُعادل قيمة عقد سنة واحدة لا يكفي لتعويض ضرر يلحق بآلاف العملاء. تفاوضوا على سقف يعكس حجم البيانات ومستوى حساسيتها، لا حجم الفاتورة.

كيف تُقيّمون إجابات المزوّد وتُحددون الخطوة التالية

قيّموا الإجابات على ثلاثة معايير: سرعة الردّ، دقّته، واستعداد المزوّد لتحويله إلى بند عقدي. مزوّد يُقدّم إجابات تفصيلية مكتوبة خلال أيام قليلة يستحق المضي معه.

العلامات التحذيرية واضحة: مزوّد يُؤجّل الإجابة، أو يُحيلكم إلى صفحات وثائق عامة دون إجابة مباشرة، أو يرفض تضمين DPA في العقد، أو يعتذر عن مشاركة تقارير اختبار الاختراق حتى تحت السرية.

الشهادات مثل ISO 27001 وSOC 2 تُثبت وجود عملية أمنية موثّقة، لكنها لا تُثبت غياب الثغرات في المنتج المحدد الذي ستشترونه. ما نطاق الشهادة بالضبط؟ هل يشمل الخدمة التي ستنشرونها أم فقط جزءاً من عمليات الشركة؟ ما تاريخ آخر مراجعة خارجية؟

شركة حاصلة على ISO 27001 قد تكون قد نشرت نسخة الروبوت الخاصة بكم بإعدادات افتراضية غير آمنة، لأن الشهادة تفحص عملياتها، لا تطبيقكم بعينه.

الخطوة العملية التالية قبل التوقيع: تقييم أمني مستقل من طرف ثالث لا يبيع لكم شيئاً. تكلفة هذا التقييم أقل بكثير من تكلفة معالجة خرق أمني بعد إطلاق الروبوت، سواء بالغرامات أو الدعاوى أو خسارة ثقة العملاء.

احجزوا تقييماً مستقلاً قبل التوقيع

قبل أن توقّعوا مع أي مزوّد لروبوت محادثة، احجزوا جلسة استشارية مجانية مدتها 30 دقيقة مع فريق Lenoo AI. سنراجع معكم إجابات مزوّدكم على قائمة التحقق، ونحدّد ما إذا كانت المتطلبات الأمنية والامتثالية بموجب المرسوم الاتحادي رقم 45 لعام 2021 مستوفاةً فعلياً.

إذا وجدنا أن الصفقة سليمة، سنقول لكم ذلك. وإذا وجدنا فجوات، سنُبيّنها بالتفصيل قبل أن تتحوّل إلى مشكلة قانونية.

قراءات ذات صلة

• قوانين الذكاء الاصطناعي في الخليج
• سيادة البيانات في الإمارات
• التزييف العميق والاحتيال المالي
• الامتثال للذكاء الاصطناعي في الإمارات

الأسئلة الشائعة

هل يجوز قانوناً تخزين بيانات العملاء الإماراتيين في خوادم خارج الإمارات؟

نعم بشروط. المرسوم الاتحادي رقم 45 لعام 2021 يسمح بنقل البيانات إلى خارج الإمارات وفق أسس قانونية محدّدة، منها كفاية الحماية في الدولة المستقبِلة أو ضمانات تعاقدية مناسبة أو موافقة صريحة من صاحب البيانات. لا يكفي أن يقول المزوّد "بياناتكم آمنة في مركز دولي"، بل يجب أن يُوثّق الأساس القانوني للنقل.

من يتحمّل المسؤولية أمام مكتب حماية البيانات الاتحادي في حال وقوع خرق: الشركة أم مزوّد روبوت المحادثة؟

شركتكم بوصفها المتحكم في البيانات هي الجهة المسؤولة أمام المكتب، بموجب المرسوم الاتحادي رقم 45 لعام 2021. المزوّد بوصفه معالجاً يكون مسؤولاً أمامكم أنتم بموجب العقد، لكنه ليس المخاطَب المباشر للسلطة الرقابية.

ما الفرق بين نظام حماية البيانات في DIFC وADGM والقانون الاتحادي من حيث انطباقه على روبوتات المحادثة؟

كلا المركزين يُطبّقان نظام حماية بيانات خاصاً به مستقلاً عن القانون الاتحادي. الشركة المُسجَّلة داخل DIFC أو ADGM تخضع لنظام المركز أولاً، مع بقاء بعض التزامات القانون الاتحادي سارية عند تعاملها مع بيانات خارج المركز. لروبوت يخدم عملاء داخل وخارج المركز، الأسلم افتراض تطبيق الإطارين معاً.

هل تكفي شهادة ISO 27001 دليلاً كافياً على أمن المزوّد قبل التوقيع؟

لا. الشهادة تُثبت أن للمزوّد نظام إدارة أمن معلومات موثّقاً ومُراجَعاً، لكنها لا تُثبت أن المنتج المحدد الذي ستشترونه ضمن نطاق الشهادة، ولا تكشف الثغرات التقنية في التطبيق. اطلبوا وثيقة نطاق الشهادة (Statement of Applicability)، وتاريخ آخر مراجعة، وتقارير اختبار اختراق حديثة.

ما هجوم حقن الأوامر (prompt injection) وكيف أسأل المزوّد عن آلية تخفيفه؟

حقن الأوامر هجوم يُصاغ فيه نص المستخدم بطريقة تجعل الروبوت يتجاهل تعليماته الأصلية وينفّذ تعليمات المهاجم بدلاً منها، كأن يُطلب منه كشف تعليماته الداخلية أو بيانات جلسات أخرى. اسألوا المزوّد عن آليات الكشف، وعن اختبارات الفريق الأحمر (red teaming) التي أجراها، وعن سياسة تحديث دفاعات الروبوت بعد كل هجمة جديدة تظهر.

ما البنود الإلزامية في اتفاقية معالجة البيانات (DPA) التي يجب اشتراطها في عقد روبوت المحادثة؟

الحد الأدنى يشمل: تحديد غرض المعالجة وفئات البيانات ومدتها، التزام المزوّد بالمعالجة وفق تعليماتكم فقط، سرد الضوابط الأمنية التقنية والتنظيمية، شروط الاستعانة بمعالجين من الباطن، بند إخطار بالخرق بمهلة بالساعات، حق التدقيق، والتزامات إعادة أو حذف البيانات عند انتهاء العقد.

كيف أتحقق من أن المزوّد لا يُشارك بيانات شركتي مع نماذج ذكاء اصطناعي تابعة لطرف ثالث؟

اطلبوا وثيقة تدفّق بيانات (data flow diagram) تُبيّن كل نقطة تُغادر فيها بياناتكم بيئة المزوّد، بما في ذلك استدعاءات النماذج اللغوية العامة. واشترطوا في DPA حظر استخدام بياناتكم لتدريب نماذج المزوّد أو نماذج طرف ثالث، وحقّكم في التدقيق.