حذّرت دراسة أكاديمية حديثة أعدها د. حسين ربيع، أستاذ الصحافة الرقمية بكلية الإعلام وتكنولوجيا الاتصال بجامعة السويس، من تصاعد مخاطر ما يُعرف بـ«هلوسة الذكاء الاصطناعي»، باعتبارها أحد أبرز مظاهر الانحراف المعلوماتى فى البيئة الرقمية الحديثة، مؤكدة أن النماذج التوليدية أصبحت قادرة على إنتاج محتوى يبدو منطقيًا وموثوقًا، رغم احتوائه على معلومات غير دقيقة أو مختلقة.
وجاءت الدراسة بعنوان «هلوسة الخوارزميات: مخاطر الانحراف المعلوماتى فى الأنظمة التوليدية وآليات الحماية فى إطار محو أمية الذكاء الاصطناعي»، لتسلط الضوء على واحدة من أكثر القضايا إلحاحًا فى عصر الذكاء الاصطناعى، فى ظل التوسع المتسارع فى استخدام نماذج اللغات الكبيرة وتطبيقات الذكاء الاصطناعى التوليدى فى مختلف المجالات.
وأوضحت الدراسة أن ظاهرة «هلوسة الذكاء الاصطناعي» لم تعد مجرد خلل تقنى عابر، بل أصبحت تحديًا معرفيًا وأخلاقيًا ومجتمعيًا، لما تسببه من نشر معلومات مضللة قد تؤثر فى القرارات الفردية والمؤسسية، وتقوض الثقة فى المحتوى الرقمى وأدوات الذكاء الاصطناعى.
وتناولت الدراسة الظاهرة من خلال خمسة محاور رئيسية، شملت التأصيل النظرى لمفهوم الهلوسة وأنواعها، وتحليل مخاطرها المعرفية والمجتمعية، وبيان علاقتها بالتضليل المعلوماتى، إلى جانب استعراض أحدث آليات الكشف عن المحتوى المُهلوس والحد من آثاره، وصولًا إلى طرح رؤية متكاملة لتعزيز مفهوم محو أمية الذكاء الاصطناعى (AI Literacy) باعتباره إحدى أهم أدوات المواجهة المستقبلية.
وأكدت الدراسة أن المسؤولية عن الحد من آثار الهلوسة تقع على عاتق مطورى تقنيات الذكاء الاصطناعى ومستخدميها على حد سواء، مشددة على أهمية رفع وعى الجمهور بحدود وقدرات النماذج التوليدية، وتنمية مهارات التفكير النقدى والتحقق من المعلومات قبل الاعتماد عليها.
حسن ربيع
وخلصت الدراسة إلى ضرورة الانتقال من الاعتماد على الحلول التقنية وحدها إلى تبنى مقاربات تعليمية وتوعوية مستدامة، من خلال دمج مفاهيم محو أمية الذكاء الاصطناعى ضمن المناهج الدراسية وبرامج التربية الإعلامية الرقمية، بما يعزز قدرة الأفراد على التمييز بين المعلومات الصحيحة والمحتوى المضلل الذى تنتجه الأنظمة الذكية.
كما قدمت الدراسة عددًا من التوصيات، من أبرزها تعزيز الوعى المجتمعى بمخاطر هلوسة الذكاء الاصطناعى، وتطوير أدوات مفتوحة المصدر للكشف عن المحتوى المُولد آليًا، ووضع أطر تنظيمية وأخلاقية تلزم مطورى تطبيقات الذكاء الاصطناعى بالإفصاح عن حدود دقة المعلومات التى تنتجها أنظمتهم، فضلًا عن تشجيع البحوث العلمية متعددة التخصصات، وإطلاق شراكات بين الجامعات والمؤسسات الإعلامية والتقنية لتطوير برامج تدريبية تعزز الاستخدام المسؤول والواعى لتقنيات الذكاء الاصطناعى.
وتؤكد الدراسة أن الاستثمار الأمثل فى الذكاء الاصطناعى لا يتحقق فقط عبر تطوير قدراته التقنية، وإنما أيضًا من خلال بناء وعى مجتمعى قادر على التعامل النقدى مع مخرجاته، بما يسهم فى حماية البيئة المعلوماتية وتعزيز الثقة فى التقنيات الرقمية الحديثة.
المصري اليوم