لا تتردد الآلة بالطريقة التي يتردد بها الإنسان. تستطيع أن تقدم إجابة ناقصة في فقرة مرتبة، وتبني لها شرحًا متماسكًا، ثم تنتقل إلى الخطوة التالية من دون أن يظهر على لغتها مقدار الشك الحقيقي. أمام هذا الأسلوب، قد نستعير ثقتها قبل أن نختبر معرفتها.

لماذا هذا الموضوع الآن؟

تدخل النماذج اللغوية في مجالات يتفاوت فيها المستخدمون في الخبرة: صحة، قانون، دراسة، برمجة، وقرارات يومية. وحين لا يعرف المستخدم الإجابة أصلًا، يعتمد على إشارات جانبية لتقديرها: وضوح اللغة، طول الشرح، سرعة الاستجابة، ونبرة الحسم.

وجدت أبحاث عن إدراك إجابات النماذج أن الناس قد يبالغون في تقدير دقتها عند قراءة الشروحات الافتراضية، وأن زيادة طول الشرح قد ترفع ثقة المستخدم حتى عندما لا تتحسن صحة الجواب. هذه فجوة بين الثقة التي يشعر بها الإنسان والدقة الفعلية للنظام.

لا يعني ذلك أن الشرح سيئ. الشرح ضروري للفهم والمراجعة، لكنه يصبح مضللًا حين يبدو دليلًا مستقلًا على الصحة. فالنظام الذي ولّد الإجابة يستطيع غالبًا أن يولد لها تبريرًا مقنعًا أيضًا.

كيف تنتقل الثقة من الشكل إلى المعلومة؟

يستخدم العقل الطلاقة المعرفية: ما يسهل قراءته وفهمه يبدو أكثر مألوفية وأحيانًا أكثر صدقًا. والذكاء الاصطناعي بارع في إنتاج لغة سلسة تقلل الإشارات التي توقظ الحذر، مثل التلعثم أو التناقض الظاهر.

التفصيل يزيد الإحساس بالعمق. عندما تسرد الإجابة أسبابًا وخطوات وأمثلة، يشعر القارئ أنه رأى عملية الاستدلال. لكنه في كثير من الأنظمة يرى نصًا مولدًا يشرح النتيجة، لا سجلًا موثوقًا لما حدث داخل النموذج.

تظهر مشكلة الانحياز للأتمتة حين يميل الإنسان إلى قبول اقتراح النظام، خصوصًا تحت الضغط أو في مجال لا يتقنه. وقد أظهرت تجارب في مجالات مهنية أن النصيحة غير الدقيقة يمكن أن تخفض أداء البشر عندما يعتمدون عليها.

وفي الاتجاه المقابل، لا ينبغي أن يقود الوعي بالمشكلة إلى رفض كل إجابة آلية. المطلوب هو الثقة المعايرة: الاعتماد بقدر ما تسمح به المهمة والدليل، لا بقدر ما تسمح به بلاغة النص.

أربع طبقات تستحق الانتباه

كيف نعيد الشك إلى المكان الصحيح؟

ينبغي أن يتغير مستوى التحقق بحسب أثر القرار. سؤال لغوي بسيط لا يحتاج ما يحتاجه تشخيص أو عقد أو قرار مالي. وكلما كانت العواقب أكبر، يجب الانتقال من «هل يبدو الجواب صحيحًا؟» إلى «ما مصدره؟ وما الذي قد يجعله خاطئًا؟».

يمكن طلب درجة ثقة أو بدائل، لكن هذه التقديرات نفسها ليست ضمانًا؛ فقد يكون النظام واثقًا بطريقة غير معايرة. الأكثر فائدة هو طلب المصادر، فحصها مباشرة، واختبار الإجابة بمثال مضاد أو أداة أخرى أو شخص خبير.

كما يفيد فصل مرحلتي التوليد والتقييم: اطلب إجابة، ثم افتح محادثة جديدة أو استخدم مصدرًا مستقلًا لمراجعتها. بهذه الطريقة لا يبني النظام نقده داخل القصة نفسها التي بناها أولًا.

• لا تجعل طول الشرح بديلًا عن المصدر.
• ارفع مستوى التحقق كلما ارتفع أثر القرار.
• اطلب مثالًا يمكن أن يفشل فيه الجواب أو شرطًا يغيّره.
• راجع المراجع خارج المحادثة بدل الاكتفاء بذكرها.
• افصل بين توليد الإجابة وتقييمها باستخدام مصدر مستقل.

موقعها داخل خريطة سآي

يرتبط الموضوع بركيزة السيادة الإدراكية؛ لأن التحكم في القرار يتطلب التحكم في مقدار الثقة الذي نمنحه للوسيط.

ويتقاطع مع البحث التوليدي؛ فحين تختصر الإجابة الطريق إلى المصادر، تصبح النبرة جزءًا أكبر من حكمنا على المعرفة.