هلوسة الذكاء الاصطناعي: لماذا يخترع ChatGPT معلومات وكيف تتحقق منها؟
الهلوسة أن يكتب الذكاء الاصطناعي معلومة خاطئة أو مخترعة بثقة تامة. نشرح لماذا يحدث ذلك وكيف تحمي نفسك منه.
هلوسة الذكاء الاصطناعي أن ينتج النموذج معلومة غير صحيحة أو مصدرًا غير موجود ويكتبه بثقة كأنه حقيقة. يحدث ذلك لأن النموذج يتوقع النص الأكثر احتمالًا لا الحقيقة نفسها. الحل: تحقق من الأرقام والأسماء والمصادر بنفسك، واطلب منه الروابط، واستخدم البحث المتصل.
محتويات المقال
ما هي هلوسة الذكاء الاصطناعي؟
الهلوسة (Hallucination) مصطلح يُستخدم عندما يكتب نموذج الذكاء الاصطناعي معلومة غير صحيحة، أو يخترع شيئًا غير موجود، ويقدمه بنفس الثقة التي يقدم بها المعلومات الصحيحة.
أمثلة شائعة:
- مصادر وهمية: يذكر كتابًا أو دراسة أو رابطًا لا وجود له.
- أرقام مخترعة: نسبة مئوية أو إحصائية تبدو دقيقة لكنها بلا أساس.
- خطوات غير موجودة: يصف قائمة في إعدادات ويندوز بأسماء غير صحيحة.
- سيرة خاطئة: ينسب لشخص منصبًا أو كتابًا لم يكتبه.
- اقتباسات لم يقلها أحد.
لماذا يحدث ذلك؟
النموذج اللغوي يتعلم توقع النص المحتمل. إن سألته عن شيء لا يعرفه جيدًا، لا يملك بطبيعته آلية تقول «توقف، هذا غير معروف»، فيكمل بنص يشبه ما تكون عليه الإجابات عادة. وإن كانت الإجابة الصحيحة نادرة في بيانات تدريبه، يزداد احتمال الخطأ.
أسباب أخرى:
- معلومات قديمة: النموذج لا يعرف ما حدث بعد تاريخ انتهاء بيانات تدريبه، إلا إن كان متصلًا بالبحث.
- سؤال يفترض شيئًا خاطئًا: «لماذا ألغت مايكروسوفت ويندوز 11؟» قد يدفعه إلى تبرير شيء لم يحدث.
- طلب الطول: عندما تطلب «اكتب 20 مصدرًا» قد يملأ العدد بمصادر مخترعة.
أين تكون الهلوسة أخطر؟
- الصحة والدواء.
- القانون والضرائب والعقود.
- المال والاستثمار.
- الخطوات التقنية التي قد تحذف بيانات.
- الأبحاث الدراسية والمراجع.
7 طرق لتقليل الهلوسة والتحقق منها
- اطلب المصادر مع الروابط، ثم افتح الروابط بنفسك. المصدر الذي لا يُفتح غالبًا غير موجود.
- استخدم وضع البحث إن كان متاحًا، فالنموذج حينها يقرأ صفحات حقيقية ويستشهد بها.
- أعطه النص بنفسك: بدل «ماذا تقول المادة 5 من القانون؟» الصق نص القانون واطلب الشرح.
- اطلب منه الاعتراف بعدم المعرفة: «إن لم تكن متأكدًا فقل لا أعرف».
- اسأل السؤال بطريقة محايدة لا تفترض الجواب.
- قارن بمصدر رسمي أو بنموذج آخر.
- جرّب الخطوات التقنية بحذر وخذ نسخة احتياطية قبل أي تغيير كبير.
هل ستختفي الهلوسة؟
الشركات تقلل منها بتحسين التدريب وربط النماذج بالبحث والأدوات، والنماذج الأحدث تخطئ أقل في كثير من المهام. لكن لا يوجد حتى الآن نموذج لا يهلوس أبدًا، لذلك تبقى المراجعة البشرية ضرورية، وهي الطريقة التي نعمل بها في هذا الموقع كما في سياسة التحرير.
الأسئلة الشائعة
هل الهلوسة كذب متعمد؟
لا. النموذج لا يقصد الخداع، بل ينتج نصًا محتملًا دون أن يتحقق من صحته.
أي النماذج يهلوس أقل؟
يختلف ذلك حسب المهمة والإصدار، والنماذج تتحسن باستمرار. الأهم من اختيار النموذج هو طريقة استخدامك وتحققك.
هل يمكن الوثوق بالذكاء الاصطناعي في الدراسة؟
استخدمه للفهم والتلخيص والتدريب، لكن لا تنقل مراجعه دون التأكد منها، ولا تعتمد عليه في أرقام أو اقتباسات دون مصدر.
الخلاصة
- الهلوسة معلومة خاطئة أو مخترعة يكتبها النموذج بثقة.
- سببها أن النموذج يتوقع النص المحتمل لا الحقيقة.
- تحقق من المصادر والأرقام بنفسك، واستخدم البحث، وأعطه النصوص الأصلية.
لم تجد ما تبحث عنه؟ اسأل المساعد التقني
المصادر
كاتب تقني ومؤسس موقع آي تي العرب، أشارك شروحات تقنية عربية واضحة ومجربة لمساعدة المستخدمين على فهم التكنولوجيا وحل المشكلات التقنية بخطوات عملية وسهلة التطبيق. أهتم بمجالات الذكاء الاصطناعي، تحسين محركات البحث (SEO)، وإدارة المواقع والتقنيات الحديثة.
كيف نكتب ونراجع
