أكاذيب الذكاء الاصطناعي: بروتوكول صيد الهلوسة والتحقق منها

الذكاء الاصطناعي ليس محرك الحقيقة، بل هو "محرك التنبؤ بالكلمات". فهو يحسب رياضيًا ما يجب أن تكون عليه الكلمة التالية في السياق المحدد. لذلك، المهم بالنسبة له ليس ما هي الحقيقة، بل مدى إقناع الجملة.

إذا لم يكن لديه هذه المعلومات في ذاكرته، فسوف يختلق كذبة مقنعة وواثقة للغاية بدلاً من القول إنه لا يعرف الإجابة. أخطر الأكاذيب هي تلك الافتراءات السامة بنسبة 10% والمحصورة بين 90% من المعلومات الحقيقية.

يجب تمرير كل نص مدعوم بالذكاء الاصطناعي عبر المشرط التالي المكون من ثلاث مراحل في المطبخ: 1. التحقق من الاقتباس: يجب أن يُرى فعليًا أن الجملة المقتبسة موجودة بالفعل في الكتاب أو المقالة الأصلية.

2. التحقق من التاريخ والأسماء: يجب تأكيد الأحداث التاريخية والأسماء الشخصية المحددة من قبل موسوعتين أكاديميتين مستقلتين وموثوقتين على الأقل (الموسوعة الإسلامية TDV، بريتانيكا، إلخ). 3. التأكيد العددي والإحصائي: يجب العثور على رابط التقرير الرسمي الأصلي للإحصائيات المطروحة والتحقق منه.

عندما يحتوي مقال منشور في إحدى المجلات على إهانة أو افتراء لا أساس له من الصحة أو تشويه تاريخي، لا يمكنك القول أمام المحكمة: "الذكاء الاصطناعي أخبرنا بذلك". في مواجهة القانون، الذكاء الاصطناعي ليس موضوعًا، بل أداة؛ تمامًا مثل الآلة الكاتبة أو القلم.

وإذا كان هناك خطأ، فإن رئيس التحرير والكاتب هم الذين يحاسبون ويعاقبون. يتطلب هذا الواقع القانوني آلية تحقق دقيقة ومذعورة ضد مخرجات الذكاء الاصطناعي.