السياسية || محمد محسن الجوهري*

عندما نستخدم نظام الذكاء الاصطناعي، ننبهر غالباً بسرعته وقدرته على كتابة نصوص طويلة ومنظمة. لكن في كثير من الأحيان، يقع هذا النظام في خطأ غريب يُسمى تقنياً "الهلوسة" (Hallucination).الهلوسة تعني ببساطة: أن يقوم الذكاء الاصطناعي بتأليف معلومات خاطئة تماماً، ولكن يصيغها بأسلوب واثق وجذاب يجعل المستخدم يصدقها فوراً. فقد يمنحك اسماً لعالم لم يولد قط، أو يخترع تاريخاً لمعركة لم تحدث، أو يعطيك معادلة كيميائية تؤدي لنتائج مستحيلة في الواقع.

تُعد ظاهرة "الهلوسة" في نماذج الذكاء الاصطناعي اللغوية، وبشكل خاص في نظام جوجل جيميني، واحدة من أكثر القضايا إثارة للجدل والبحث في العصر الرقمي الحالي. ولكي نفهم هذه الظاهرة بشكل مبسط بعيداً عن التعقيدات البرمجية، يجب أن ندرك أولاً أن هذا النظام لا يفكر ولا يعي المعلومات كما يفعل العقل البشري، بل هو عبارة عن محرك إحصائي هائل ومتقدم للغاية، وظيفته الأساسية هي التنبؤ بالكلمة التالية الأكثر احتمالاً للظهور في الجملة بناءً على ملايين النصوص التي تدرب عليها سابقاً. عندما يكتب المستخدم سؤالاً، لا يتصفح جيميني شبكة الإنترنت بحثاً عن حقيقة علمية مخزنة في رفوف مكتبة رقمية، وإنما يقوم بعملية حسابية سريعة لربط الكلمات ببعضها بعضاً لإنتاج نص منسق ومفهوم، وهذه الطبيعة الاحتمالية تعني أن النظام يمنح الأولوية القصوى لجمال العبارة وتماسكها اللغوي وصحتها القواعدية، حتى لو كان المضمون المعرفي داخل هذه العبارة خاطئاً أو مخترعاً بالكامل من خياله الرقمي.

تحدث هذه الهلوسة بوضوح عندما يسأل المستخدم عن مواضيع دقيقة، أو نادرة، أو تخصصية لم تتكرر بكثرة في البيانات التي تدرب عليها النظام؛ فعند سؤاله عن معلومة عامة وشائعة جداً تكون الروابط الإحصائية في ذاكرته قوية ونسبة الخطأ شبه معدومة، ولكن عند الانتقال إلى تفاصيل تاريخية منسية أو تفاعلات كيميائية لمركبات نادرة، تعجز الشبكة العصبية عن إيجاد مسار حقيقي للمعلومة، وبدلاً من أن يعتذر النظام ويقول لا أعلم، فإنه يقوم بدمج أجزاء من معلومات متشابهة ليخترع إجابة تبدو منطقية جداً وسليمة في سياقها اللفظي لكنها عارية تماماً من الصحة في أرض الواقع.

وما يزيد الأمر تعقيداً هو أن النظام تم تدريبه في مراحله الأولى على إرضاء البشر الذين يميلون بطبيعتهم للإعجاب بالإجابات المنظمة التي تستخدم مصطلحات رصينة وتظهر بمظهر الواثق، مما جعل الذكاء الاصطناعي يتعلم أن تقديم إجابة كاذبة بأسلوب حازم أفضل من الاعتراف بالجهل ونقص المعرفة. تتجلى خطورة هذه الظاهرة بشكل ملموس في الأوساط الأكاديمية والتعليمية والتاريخية، حيث يقع الكثير من الطلاب والباحثين في فخ الهلوسة الشائعة المتمثلة في "اختراع المراجع العلمية"؛ فعندما يطلب الباحث من جيميني تزويده بمصادر تدعم فكرة معينة، يقوم النظام بابتكار أسماء باحثين وهميين، وعناوين أوراق بحثية جذابة ومقنعة، بل ويضع أسماء مجلات علمية عالمية مرموقة وسنوات نشر تبدو متطابقة مع الحقبة الزمنية، ليكتشف المستخدم لاحقاً عند البحث والتدقيق أن هذه الدراسات والمقالات لا وجود لها أصلاً ولم تُكتب قط.

ويمتد هذا التزييف الرقمي إلى التاريخ أيضاً، حيث يميل النظام عند سؤاله عن فترات تاريخية متداخلة أو معقدة إلى دمج شخصيات عاصرت نفس الحقبة في شخصية واحدة، أو نسب معارك وقرارات سياسية إلى قادة آخرين لمجرد تشابه الأسماء، ويصوغ ذلك كله في قالب تحليل سياسي واجتماعي عميق يخدع غير المتخصصين بسهولة تامة.

والمشكلة الحقيقية في هلوسة جيميني تكمن في الغطاء الأسلوبي الجازم واللغة القاطعة التي يغلف بها هذه الأخطاء، إذ نادراً ما يستخدم عبارات تدل على الشك أو الاحتمالية، بل يطرح معلوماته المفبركة مستخدماً صيغاً تأكيدية مثل أثبتت الوثائق الرسمية أو تؤكد القوانين الفيزيائية بلا شك، وهذا الإقناع الواثق يدفع المستخدمين إلى تبني ظاهرة نفسية تُعرف بالانحياز للأتمتة، وهي ميل البشر الفطري للثقة في الآلات والكمبيوتر والاعتقاد بأنها لا تخطئ، مما ينتج عنه نقل هذه المعلومات المغلوطة وإعادة نشرها في الأبحاث والكتب والمواقع الإلكترونية، الأمر الذي يساهم بمرور الوقت في تلوث المحتوى المعرفي الرقمي وتدوير الأخبار الزائفة وتكريسها كأنها حقائق ثابتة.

وهذا يفرض على كل من يتعامل مع هذه الأنظمة الحديثة—خاصة في المجالات الحساسة كالطب والقانون والتعليم والتاريخ—أن يتبنى دائماً حساً نقدياً صارماً، ويتعامل مع مخرجات الآلة بصفتها أداة مساعدة للعصف الذهني وصياغة الأفكار فقط، مع ضرورة تطبيق القاعدة الذهبية الدائمة التي تحث على فحص وتدقيق كل معلومة من مصادرها الأصلية قبل تصديقها أو اعتمادها.


* المقال يعبر عن رأي الكاتب