هلوسة الذكاء الاصطناعي (AI): لماذا تؤلف البرامج معلومات وهمية بثقة مضللة؟

تخيل أنك طلبت من روبوت محادثة ذكي قائمة بأهم المراجع التاريخية لحدث معين، فأعطاك فوراً عناوين كتب براقة وأسماء مؤلفين مشهورين وسنوات نشر محددة. ولكن حين تذهب إلى المكتبة أو تبحث في الفهارس الرسمية على الإنترنت، تفاجأ بأن هذه الكتب لم تُطبع قط، وأن المؤلفين لم يكتبوا حرفاً واحداً عنها. رغم ذلك، كان البرنامج يجيبك بنبرة جازمة لا تتردد ولا تشكك، وكأنه ينقل عن موسوعة تاريخية معتمدة.

تُعرف هذه الظاهرة في أبحاث التكنولوجيا باسم الهلوسة أو التلفيق الآلي (المعروفة بـ AI Hallucination). الحاسوب هنا لا يحلم في يقظته ولا يملك نوايا سيئة لخداعك، بل يعود السبب إلى الطريقة التي بُنيت بها هذه الأنظمة؛ فالبرامج الذكية ليست مكتبات ضخمة تخزن الحقائق في أدراج ملفات رقمية مفهرسة، بل هي برامج توليد نصوص تعتمد على التخمين وحساب الاحتمالات (المعروفة بالمحركات الاحتمالية أو probabilistic models) لتوقع الكلمة التالية الأكثر ملاءمة داخل الجملة.

توقع الكلمات بدلاً من استرجاع الحقائق من الواقع

عندما تكتب سؤالك، يفكك النظام رسالتك إلى أجزاء نصية صغيرة كأطراف الكلمات والمقاطع (تُعرف باسم الرموز أو Tokens)، ثم يقارنها بالروابط الإحصائية المستخلصة من كميات هائلة من النصوص والكتب التي تدرب عليها سابقاً. خطوة تلو الأخرى، يقيّم البرنامج الكلمات المرشحة ويمنحها درجات ترجيحية وفقاً لمدى سلاسة تدفقها اللغوي وتناسقها النحوي مع ما قبلها. غير أن السلامة اللغوية ليست دليلاً على الصدق في الواقع؛ فلأن النموذج مجرد شفرة برمجية لا تملك اتصالاً حسياً بالعالم الحقيقي، فإنه يعجز عن فحص عباراته ومطابقتها مع الواقع التجريبي العملي. وإذا بدت المعلومة المختلقة متناسقة نحوياً وملائمة لسياق الحديث، يقدمها النظام بنفس نبرة اليقين التي يطرح بها أكثر الحقائق العلمية رسوخاً.

أين تسبب الفصاحة المختلقة أضراراً ملموسة

قد تبدو العبارات المختلقة طريفة أو غير ضارة في كتابة القصص الخيالية وتأليف الشعر، لكنها تنطوي على مخاطر حقيقية عندما يعتمد الناس على المساعدات الحوارية لاتخاذ قرارات مهنية أو شخصية حساسة. ففي المجال القانوني، استشهد بعض المشتغلين بالقانون بمذكرات قضائية تضمنت أحكام محاكم وهمية وأرقام دعاوى لا وجود لها ألفها البرنامج بالكامل. وفي التعليم، قد يتلقى الطلاب ملخصات دراسية تنسب أبحاثاً ونظريات لعلماء لم يذكروها قط. أما في الرعاية الصحية، فقد تخلط الأدوات الآلية بين أعراض طبية حقيقية وجرعات دوائية مختلقة بالكامل، وتقدم إرشادات خطيرة بنبرة الطبيب الخبير المتمكن.

ربط النماذج بالمصادر وضبط عشوائية التوليد

للحد من هذه الإجابات التخمينية، يربط مهندسو البرمجيات النماذج الذكية بمصادر بيانات موثوقة عبر تقنية تزويد الذكاء الاصطناعي بمراجع بحث فورية ومباشرة (المعروفة بالتوليد المعزز بالاسترجاع أو RAG). فبدلاً من الاعتماد الحصري على التخمين الداخلي في ذاكرة النموذج، يستعلم النظام أولاً من محرك بحث مباشر أو قاعدة بيانات منسقة تحتوي على وثائق معتمدة. يستخرج النظام الفقرات الدقيقة ويضعها أمام النموذج، مما يدفعه لصياغة إجابته بالاعتماد الصارم على تلك المادة الحقيقية وربط فصاحته بمصادر تثبت صحتها.

تلعب إعدادات التحكم البرمجية، مثل زر ضبط درجة الابتكار والتخمين في الإجابة (المعروف برمجياً بدرجة الحرارة أو Temperature)، دوراً حاسماً في توجيه التنبؤ اللغوي. فعند خفض هذا المعامل إلى الصفر تقريباً، يختار النموذج الكلمات الأكثر شيوعاً وتكراراً، مما ينتج إجابات محافظة ومستقرة. أما عند رفع درجة الحرارة، يختار النظام خيارات لغوية أقل توقعاً، وهو أمر مفيد لإضفاء لمسة إبداعية على تأليف القصص والعصف الذهني، ولكنه يزيد بشكل ملحوظ من خطر ابتعاد النموذج عن المسار الدقيق وتأليفه ادعاءات مغلوطة تبدو شديدة الإقناع.

توجيه المحادثة بوضع قيود صريحة ومقارنة حية

يمكنك أيضاً حماية نفسك من اختلاقات الذكاء الاصطناعي بتغيير طريقتك في صياغة الأسئلة؛ فعندما تطرح طلباً مفتوحاً يستند إلى افتراض غير محقق، يشعر النموذج بضغط حواري لإكمال القصة وسرد إجابة متكاملة، فيبتكر تفاصيل خيالية لمجرد تلبية رغبتك في الحصول على رد.

قارن بين سؤال مفتوح بلا قيود وموجه محكم يضع حدوداً صارمة للنموذج: حين تسأله 'ما تفاصيل قانون الخصوصية الذي أقره برلمان محلي في عام معين؟'، قد يختلق النظام نصوص بنود وتواريخ نقاش لملء الفراغ فقط. في المقابل، حين تقول له: 'لخص المتطلبات الأساسية الواردة في هذا الإشعار الرسمي المرفق أدناه حصراً، وإذا لم يتضمن الإشعار موعداً نهائياً محدداً، فاكتب بصراحة أن التاريخ غير مذكور'، فإنك تستبدل التخمين بالتزام صارم، فيلخص ما هو موجود أمامه بدلاً من تأليف ما ينقصه.

عادات عملية للتعامل اليومي مع الذكاء الاصطناعي

يتطلب الاستخدام الآمن للبرامج الذكية التعامل معها بوصفها شريكاً إبداعياً في الصياغة والتفكير، لا مستودعاً مطلقاً للمعرفة والحقائق المعصومة. يمكنك الاعتماد عليها في كتابة مسودة بريد إلكتروني، أو توليد أفكار جديدة، أو تنقيح فقرة معقدة. ولكن كلما تضمنت الإجابة تواريخ تاريخية، أو مواد قانونية، أو قياسات فنية، أو استشارات صحية، بادر فوراً بالتحقق من تلك العناصر في الوثائق الأولية والمصادر الرسمية وسجلات الجهات المعنية.

احذر من الوقوع في فخ استجواب البرنامج للتحقق من صحة كلامه؛ فعندما تواجه نموذجاً غير مرتبط بمراجع حية بسؤال مثل: 'هل هذا الكتاب المذكور موجود فعلاً؟'، فإنه غالباً ما ينسج طبقة ثانية من الخيال ويؤلف دار نشر وهمية وأرقام صفحات مفبركة بذات النبرة الواثقة. إن احتفاظك بمسؤولية التدقيق المستقل يضمن لك الاستفادة من مهارات البرنامج اللغوية الفائقة دون أن تنطلي عليك أخطاء التخمين الرقمي (المعروفة بالهلوسة الخوارزمية).