قدم باحثون في شركة جوجل مفهومًا جديدًا يُعرف باسم “اليقين المخلص” (Faithful Uncertainty) والذي يتيح لنماذج اللغة الكبيرة التعبير عن عدم اليقين بطريقة تتماشى مع معرفتها الداخلية مما يسهم في تقليل ظاهرة الهلوسات بشكل ملحوظ دون المساس بفائدة النماذج في التطبيقات العملية، ويعتبر هذا البحث خطوة مهمة نحو تطوير ذكاء اصطناعي أكثر موثوقية وشفافية خاصة في المجالات الحساسة مثل الطب والقرارات الاستراتيجية والأنظمة الوكيلة.
وفقًا لتقرير نشر على موقع فينشر بيت، أوضح الباحثون في ورقة بحثية جديدة أن معظم التحسينات السابقة في دقة النماذج كانت نتيجة لتوسيع قاعدة المعرفة لكنها لم تعزز الوعي بالحدود المعرفية، ويقترحون “اليقين المخلص” كحل يربط بين التعبير اللغوي عن الشك والثقة الإحصائية الداخلية للنموذج مما يتيح تقديم تخمينات مدروسة مثل “أفضل تخمين لي هو…” بدلاً من تقديم إجابة حاسمة خاطئة أو الامتناع عن الإجابة تمامًا.
الضريبة الوظيفية لاستراتيجيات الحد من الهلوسات
يبرز البحث مشكلة “الضريبة الوظيفية” التي تفرضها الطرق التقليدية لمكافحة الهلوسات حيث يؤدي تقليل الأخطاء إلى رفض النموذج لإجابات صحيحة كثيرة، على سبيل المثال، لخفض معدل الخطأ من 25% إلى 5% قد يضطر النموذج إلى التخلي عن أكثر من 52% من إجاباته الصحيحة، ويُعاد تعريف الهلوسة هنا كـ”خطأ واثق” أي معلومات خاطئة مقدمة بثقة زائدة دون تحفظ مما يفتح الباب للتعبير عن اليقين غير الكامل كفرضية مفيدة.
التطبيقات العملية في الأنظمة الوكيلة والمؤسسية
يُعد “اليقين المخلص” جزءًا أساسيًا من “الاستدلال الذاتي” الذي يمكّن النماذج من إدارة استخدام الأدوات الخارجية مثل البحث الديناميكي وتقييم المعلومات المسترجعة، في التطبيقات المؤسسية، يساعد هذا النهج في تجنب إهدار الموارد أو الاعتماد الأعمى على مصادر خارجية، كما يحسن الثقة بين المستخدمين، ويشير الباحثون إلى تحديات مثل “مفارقة التمهيد” في التدريب الخاضع للإشراف حيث يعتمد التعبير الصحيح على معرفة النموذج المتغيرة.