هلوسة الذكاء الاصطناعي: لماذا تحدث وكيف تحدّ منها في شركتك

تحدث هلوسة الذكاء الاصطناعي حين يُنتج النموذج اللغوي إجابة تبدو صحيحة وتحمل نبرة الثقة، لكنها في الحقيقة معلومة مختلقة كلياً. إنها ظاهرة موثقة تحدث في كل نموذج لغوي كبير تستخدمه شركتكم، من ChatGPT إلى النماذج المخصصة، وتُشكّل مخاطر تشغيلية حقيقية على شركات الإمارات التي تعتمد على هذه الأدوات في خدمة العملاء أو إنتاج المحتوى.

الأخطر أن هذه الأخطاء تُقدَّم بنفس النبرة التي تُقدَّم بها الحقائق الصحيحة، بلا تحذير ولا مؤشر على عدم اليقين، فقط جملة سلسة تحمل معلومة خاطئة.

أهم النقاط

• الهلوسة سمة هيكلية لا عطل عابر — النموذج اللغوي يتنبأ بالكلمة التالية الأكثر احتمالاً إحصائياً بدل التحقق من صحتها، ولهذا حذّرت ميتا صراحةً عند إطلاق BlenderBot 3 في أغسطس 2022 من احتمال صدور أجوبة واثقة غير صحيحة.
• المحتوى العربي أعلى عرضة للهلوسة — بيانات التدريب العربية أقل حجماً وتنوعاً من الإنجليزية، ومع ذلك يستخدم الذكاء الاصطناعي 70.1% من السكان في سن العمل في الإمارات مقابل متوسط عالمي 17.8% فقط وفق تقرير Microsoft AI Economy Institute للربع الأول من 2026، ما يوسّع الفجوة بين الاستخدام والتحقق.
• RAG والضبط الدقيق يقلّلان الهلوسة لا يُلغيانها — ربط النموذج بمكتبة مراجع الشركة عبر RAG أو ضبطه Fine-tuning على بياناتها الداخلية يُقلّص اختراع الحقائق بشكل ملموس، لكن يبقى مرور كل مخرج يصل إلى عميل بمراجعة بشرية إجراء جودة قياسي لا بديل عنه.
• نموذج مضبوط على بيانات قطاعكم يتفوق على نموذج عام ضخم — نموذج متوسط الحجم مضبوط Fine-tuned على بيانات شركتكم ومصطلحاتها يتفوق في الدقة على نموذج عام أكبر لم يرَ سياقكم، كما أن صياغة الأوامر لتطلب من النموذج الاعتراف بعدم معرفته ترفع نسبة الإجابات الصادقة بدل التخمين الواثق.
• كل مخرج يصل للعميل يجب أن يمر بمراجعة بشرية — المسؤولية القانونية عن المحتوى المنشور تقع على الشركة لا على الأداة، فاستشهاد بنظام أو مرجع غير موجود في عرض تجاري أو تقرير امتثال يُعرّضكم لمشكلات مع الجهات التنظيمية، لذلك الحد الأدنى هو مراجعة كل رسالة أولى قبل أتمتة الردود المكررة.

ما هي هلوسة الذكاء الاصطناعي؟

نقصد بهلوسة الذكاء الاصطناعي أن يُنتج نموذج لغوي كبير إجابة واثقة في مظهرها وغير صحيحة في مضمونها. الثقة هي ما يجعلها خطيرة، لا الخطأ في حد ذاته.

شاع هذا المصطلح في عام 2022 بالتزامن مع إطلاق ChatGPT في نسخته التجريبية في ديسمبر من العام ذاته وسرعة اكتشاف المستخدمين لسلوكه الغريب. الفرق بين الهلوسة والخطأ العادي حاسم: الخطأ العادي يأتي أحياناً مع تحفظ أو إشارة إلى عدم اليقين، أما الهلوسة فتُقدَّم بالنبرة نفسها التي يُقدَّم بها كل شيء آخر يقوله النموذج.

خذوا مثالاً موثقاً يُوضح المشكلة. حين سُئل ChatGPT عن الكاتبة رضوى عاشور، نسبَ إليها رواية بعنوان «برهان العسل» لم تكتبها قط، وعرّفها بأنها كاتبة ليبية بينما هي في الحقيقة كاتبة مصرية من مواليد القاهرة. خطآن واثقان في جملة واحدة، بلا مؤشر ولا تحفظ.

كلا الخطأين قابل للتحقق في دقائق بأي بحث بسيط، ومع ذلك مرَّا في نص متماسك يبدو موثقاً.

يتابع مرصد سياسات الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية كيفية تنظيم الدول المختلفة للذكاء الاصطناعي، وهو ما يهم فور العمل في أكثر من سوق.

لماذا تُهلوس النماذج اللغوية؟

تصوير: Merlin Lightpainting عبر Pexels

الجواب المختصر: لأن النموذج اللغوي لا يبحث عن الحقيقة أصلاً. مهمته الأساسية هي التنبؤ بالكلمة التالية الأكثر احتمالاً إحصائياً، لا التحقق من صحة ما يقوله.

هذا ليس خللاً بل بنية جوهرية. حين تسألون نموذجاً لغوياً سؤالاً، لا يفتح مرجعاً ولا يستفسر من قاعدة بيانات ولا يقارن بين المصادر. إنه يُولّد سلسلة كلمات تُشبه إحصائياً ما رآه في بيانات تدريبه، وحين تكون تلك البيانات ناقصة يملأ الفراغ بما يبدو معقولاً.

ثلاثة عوامل رئيسية تدفع نحو الهلوسة: فجوات في بيانات التدريب، وغياب أي آلية تحقق داخلي، والضغط الضمني على النموذج ليُقدّم إجابة حتى حين لا يعرفها.

الشركات الكبرى تعرف هذا جيداً. حين أطلقت ميتا بوت BlenderBot 3 في أغسطس 2022 نشرت تحذيراً صريحاً بأن النظام عرضة لما وصفته بـ«أجوبة واثقة غير صحيحة». الشركة التي بنت النموذج تعرف أنه سيهلوس، وتُخبركم بذلك مسبقاً.

النتيجة العملية واضحة: الهلوسة سمة هيكلية لهذا النوع من النماذج، لا عطل مؤقت ينتظر الإصلاح في التحديث القادم. المطلوب إدارتها، لا انتظار اختفائها.

المحتوى العربي يُضاعف مخاطر الهلوسة

المحتوى العربي أشد عرضة للهلوسة لسبب واضح: بيانات التدريب المتاحة بالعربية أقل حجماً وتنوعاً بفارق كبير من نظيرتها الإنجليزية. حين تُقلّ البيانات، تتّسع فجوات المعرفة، وتُملأ بالتخمين الإحصائي.

مثال رضوى عاشور يوضح المشكلة بدقة. لسنا نتحدث عن سؤال متخصص في فيزياء الكم، بل عن حقائق بسيطة قابلة للتحقق في دقيقة: جنسية كاتبة، عنوان رواية. حين تُخطئ النماذج في هذا المستوى الأساسي من التراث الثقافي العربي، فكّروا كيف سيكون أداؤها في تفاصيل السوق المحلي أو المصطلحات الشرعية أو الأنظمة التجارية في الإمارات.

في المقابل، حجم التعرض للخطر في الإمارات أكبر من أي مكان آخر تقريباً. يستخدم الذكاء الاصطناعي 70.1% من السكان في سن العمل في الإمارات مقابل متوسط عالمي لا يتجاوز 17.8% وفق تقرير Microsoft AI Economy Institute للربع الأول من 2026. هذا يعني أن الفجوة بين معدل الاستخدام ومعدل التحقق البشري أوسع هنا من أي سوق مقارن.

الخطر العملي المباشر واضح: الشركات التي تعتمد على الذكاء الاصطناعي في إنتاج محتوى تسويقي بالعربية أو ردود خدمة عملاء قد تنشر معلومات خاطئة يقرأها العميل ويُصدّقها لأنها تبدو صحيحة بالكامل. اختيار نموذج مناسب للعربية جزء من الحل، وهو موضوع ناقشناه بتفصيل في مقالنا عن أفضل نماذج اللغة للعربية.

تنشر ديلويت الشرق الأوسط أبحاثاً إقليمية عن واقع تبني الذكاء الاصطناعي في قطاعات دول الخليج.

أنواع الهلوسة التي قد تواجهها شركتك

ليست كل الهلوسات متشابهة، وتصنيفها يُساعدكم على التعرف عليها حين تحدث في مخرجات النموذج.

هلوسة الحقائق هي الأكثر شيوعاً والأصعب اكتشافاً. أرقام مخترعة، تواريخ خاطئة، أسماء لأشخاص وأماكن ومنتجات لا وجود لها، لكنها تبدو منطقية في السياق. الرقم الذي يذكره النموذج قد يكون صحيحاً أو تخميناً محضاً؛ لا طريقة للتمييز من دون تحقق مستقل.

هلوسة المراجع أخطر في الأعمال التي تتطلب دقة تنظيمية. يستشهد النموذج بدراسة أكاديمية أو حكم قضائي أو مادة قانونية أو نظام تجاري لا وجود لهم أصلاً. المرجع يحمل اسم مؤلف حقيقي أحياناً، ورقم صفحة، وتاريخ نشر، لكن الوثيقة نفسها لم تُكتب قط.

هلوسة الهوية تظهر حين يربط النموذج معلومة صحيحة بشخص أو جهة خاطئة، كما رأينا في مثال نسب الرواية إلى كاتبة مصرية ووصفها بالليبية. المعلومة الأصلية قد تكون حقيقية، لكن نسبتها مغلوطة.

هلوسة الترجمة سيناريو شائع في بيئة العمل الإماراتية المزدوجة اللغة. حين تُترجم النماذج بين العربية والإنجليزية، تزداد فرص تشويه المعنى، خاصة في المصطلحات الفنية والقانونية والمالية. الحل يبدأ من فهم كيفية كتابة الأوامر (Prompts) بالعربية بشكل صحيح.

يساعد التمييز بين هذه الأنواع الأربعة في معرفة أين يجب التركيز عند المراجعة قبل النشر.

كيف تصل هلوسة الذكاء الاصطناعي إلى عملائكم في الإمارات؟

تصوير: Antoni Shkraba عبر Pexels

تصل عبر أسرع قناة تواصل تستخدمها الشركات في السوق الإماراتي: واتساب. ردٌّ آلي يحمل معلومة خاطئة يصل إلى العميل خلال ثوانٍ، قبل أن يراجعه أي إنسان. التراجع عن رسالة أُرسلت أصعب بكثير من التحقق منها قبل الإرسال.

السيناريو واضح: عميل يسأل عن سعر أو مواصفات منتج على واتساب، فيرد الذكاء الاصطناعي بمعلومة واثقة الصياغة لكنها خاطئة الجوهر. العميل يبني قراره على تلك المعلومة، ويشعر بالخداع حين يكتشف الحقيقة لاحقاً.

سمعتكم تتأثر، والثقة تتراجع، والتكلفة الفعلية أعلى بكثير من كلفة إعداد مراجعة بشرية بسيطة على المخرجات.

مخاطر الامتثال التنظيمي شكل ثانٍ من الأثر. الاستشهاد بأنظمة أو متطلبات غير موجودة في وثيقة رسمية أو عرض تجاري يُعرّض شركتكم لمشكلات حقيقية أمام الجهات التنظيمية والعملاء الكبار. الأخطاء الواثقة أشد ضرراً من الأخطاء الواضحة، لأن العميل يُصحّح الخطأ الظاهر بنفسه، أما المعلومة الخاطئة الموثوقة الظاهر فيبني عليها.

هناك بُعد ثالث أخطر عملياً: استخدام الموظفين لأدوات الذكاء الاصطناعي بشكل غير رسمي ودون رقابة داخلية. حين يستخدم موظف أداة عامة لكتابة عرض سعر أو مسودة عقد، تخرج المعلومة من الشركة دون أن تمر بأي تدقيق. هذا ما نناقشه بتفصيل في مقالنا عن مخاطر استخدام الموظفين لأدوات الذكاء الاصطناعي ببيانات الشركة.

قُدّمت البنية التي تقوم عليها هذه النماذج جميعاً في ورقة المحوّلات عام 2017.

طرق عملية للحدّ من هلوسة الذكاء الاصطناعي في عملياتك

لا يوجد حل نهائي يُلغي الهلوسة، لكن هناك ممارسات تُقلّلها بنسبة كبيرة وتجعل ما يتبقى منها قابلاً للاكتشاف قبل أن يصل إلى العميل. أربع خطوات تشكّل الأساس العملي.

اربطوا النموذج بمصادركم الموثوقة عبر RAG. تقنية Retrieval-Augmented Generation تعني تزويد النموذج بمكتبة مراجع خاصة بشركتكم (كتلوغ المنتجات، السياسات الداخلية، الأنظمة المطبقة) يستند إليها في إجاباته بدلاً من الاعتماد الكامل على ذاكرته الإحصائية. النتيجة: تراجع كبير في اختراع الحقائق ضمن مجال عملكم.

صمّموا الأوامر لتطلب الاعتراف بعدم المعرفة. حين تكتبون Prompt يقول للنموذج صراحةً: «إن لم تكن متأكداً، قل لا أعلم»، تحصلون على نسبة أعلى من الاعتراف الصادق بدل التخمين الواثق. أثره مباشر وقابل للقياس.

اجعلوا المراجعة البشرية إلزامية لكل مخرج يصل إلى عميل. أي رد يُرسل، أي وثيقة تُنشر، أي عرض يُقدَّم، يجب أن يمر بعين بشرية قبل الخروج. هذا ليس تشاؤماً في التقنية، بل إجراء جودة قياسي.

اختبروا وثوّقوا قبل النشر. جهّزوا مجموعة أسئلة معروفة الإجابات في مجال عملكم، واختبروا النموذج عليها قبل نشره في الإنتاج. سجّلوا الحالات التي يُخطئ فيها بشكل منتظم، لتعرفوا حدوده بدقة.

إن أردتم مساعدة عملية في تصميم هذه الطبقات لبيئة عملكم، يمكنكم حجز استشارة مجانية مدتها 30 دقيقة مع فريق Lenoo AI لتقييم نقاط الخطر في سير عملكم الحالي، والتزامنا أن نُخبركم بصدق إن كانت المشكلة تستحق الحل أم لا.

اختيار النموذج الصحيح يُقلّل المخاطر

لا يوجد نموذج بلا هلوسة، لكن اختيار النموذج المناسب لسياقكم يُغيّر معدل الهلوسة تغييراً ملموساً. النموذج المدرَّب على بيانات قريبة من مجال عملكم يهلوس أقل في ذلك المجال.

النموذج الأضخم ليس دائماً الأصح. نموذج متوسط الحجم لكنه مضبوط Fine-tuned على بيانات قطاعكم يتفوق في المهام المحددة على نموذج عام هائل الحجم لم يرَ سياقكم قط. الحجم يعطي القدرة على التنوع، أما التخصص فيعطي الدقة داخل المجال المستهدف.

Fine-tuning على بيانات شركتكم الخاصة، من منتجاتها وسياساتها وسجلات عملائها، يُقلّص مساحة الهلوسة بشكل مباشر. النموذج يتعلم لغتكم الفعلية ومصطلحاتكم الداخلية، فيتوقف عن اختراع بدائل حين يواجه سؤالاً ضمن اختصاصه. هذا الأسلوب أكثر فاعلية من مجرد الاعتماد على الأوامر الذكية مع نموذج عام.

اختيار النموذج قرار استراتيجي لا تقني بحت، وهو جزء من رؤية أشمل لكيفية توظيف الذكاء الاصطناعي داخل الشركة العربية. تناولنا هذا الإطار الكامل في مقالنا الشامل عن الذكاء الاصطناعي التوليدي للشركات العربية بما فيه الفرص والمخاطر التي يجب موازنتها قبل أي استثمار.

الأسئلة الشائعة

هل يمكن للذكاء الاصطناعي أن يتوقف عن الهلوسة كلياً في المستقبل؟

لا، ليس مع البنية الحالية للنماذج اللغوية الكبيرة. الهلوسة نتيجة طبيعية لآلية التنبؤ الإحصائي بالكلمات، وليست خللاً يُصلَح بتحديث. التحسينات المستقبلية ستُقلّلها لكنها لن تُلغيها، ولذلك يجب بناء العمليات على افتراض وجودها لا انتظار زوالها.

لماذا يبدو الذكاء الاصطناعي واثقاً حتى حين تكون إجابته خاطئة تماماً؟

لأن النموذج لا يمتلك آلية داخلية لتقييم صحة ما يقوله. إنه يُنتج نصاً بأسلوب موحد، سواء كان يقول حقيقة موثقة أو معلومة مخترعة كلياً. الثقة في اللغة لا تعكس ثقة في المعلومة.

هل المحتوى العربي أكثر عرضة للهلوسة من المحتوى الإنجليزي؟

نعم، وبفارق ملموس. بيانات التدريب العربية أقل حجماً وتنوعاً من الإنجليزية، فتتّسع فجوات المعرفة التي يملؤها النموذج بالتخمين. الحل الأمثل هو استخدام نماذج مصممة للعربية أو مضبوطة على بيانات عربية، مع تعزيزها بمراجع داخلية موثوقة.

ما هو RAG وكيف يُقلّل من الهلوسة عملياً؟

RAG اختصار لـ Retrieval-Augmented Generation، أي توليد النص بمساعدة الاسترجاع. تعمل التقنية بربط النموذج بمكتبة مراجع خاصة (وثائق شركتكم مثلاً)، فيسحب المعلومات منها قبل صياغة الرد. النتيجة: يتحدث النموذج من مصدر موثق بدلاً من الاعتماد على ذاكرته وحدها.

كيف أكتشف أن الذكاء الاصطناعي هلوس في إجابة قدّمها لي؟

المؤشرات الأبرز: أرقام دقيقة جداً بلا مصدر، أسماء دراسات أو أنظمة يصعب العثور عليها بالبحث، اتساق كامل في التفاصيل مع غياب الرابط لمصدر أصلي. القاعدة العملية: أي رقم أو مرجع أو حقيقة قابلة للتحقق يجب التحقق منها فعلاً قبل استخدامها في وثيقة رسمية.

هل الاستشهاد بمعلومة خاطئة من الذكاء الاصطناعي في وثيقة رسمية يُشكّل خطراً قانونياً في الإمارات؟

نعم، مسؤولية المحتوى تقع على الشركة الناشرة لا على الأداة المستخدمة. إدراج نظام غير موجود أو استشهاد بمرجع مخترع في عرض تجاري أو تقرير امتثال يُعرّضكم لمشكلات مع الجهات التنظيمية والعملاء. المراجعة البشرية ليست خياراً في هذه السياقات، بل ضرورة عملية وقانونية.

هل يجوز نشر مخرجات الذكاء الاصطناعي مباشرة في التواصل مع العملاء دون مراجعة؟

من الناحية العملية، لا. أي رد يصل إلى عميل ويحمل معلومة خاطئة يُلحق ضرراً بالسمعة أصعب من كلفة المراجعة البشرية بأشواط. الحد الأدنى المقبول هو مراجعة كل رسالة أولى، وأتمتة الردود المكررة القياسية فقط بعد اختبار مطوّل وموثق.

إن كنتم تُقيّمون سير عمل ذكاء اصطناعي حالي في شركتكم أو تخططون لبدء واحد، احجزوا استشارة مجانية مدتها 30 دقيقة مع فريق Lenoo AI لمراجعة نقاط الخطر التي قد تُنتج هلوسة في التواصل مع عملائكم، والحصول على خطوات عملية للحدّ منها.