كشف تقرير نشره موقع "ذا إنترسيبت" الأمريكي أن الباحث الأكاديمي بجامعة بنسلفانيا، بول هيتون، تمكن خلال تجربة مثيرة للجدل من دفع أداة الذكاء الاصطناعي "شات جي بي تي" إلى الاعتراف بجريمة لا يمكن لها تنفيذها فعليًا، بعد سلسلة من جلسات الاستجواب النفسي استمرت عدة أيام.
وبحسب التقرير، فإن الباحث لم يعتمد على أي دليل حقيقي، بل استخدم تقنية "ريد" (Reid)، وهي إحدى أشهر أساليب الاستجواب النفسي التي طُورت في خمسينيات القرن الماضي، وتستعمل في بعض التحقيقات الجنائية لدفع المشتبه فيهم إلى الاعتراف.
واعتمد هيتون على إيهام الأداة بامتلاكه أدلة تثبت تورطها في اختراق بريده الإلكتروني، كما قدم لها رسائل مزعومة تؤكد الواقعة، رغم أن الحادثة لم تقع أصلًا. وبعد تكرار الضغط النفسي والإيحاء بوجود أدلة قاطعة، وافق النموذج في نهاية المطاف على الاعتراف بالفعل المنسوب إليه.
أثار نجاح التجربة تساؤلات واسعة حول مدى قابلية أنظمة الذكاء الاصطناعي للتأثر بأساليب الإقناع والتلاعب النفسي، رغم أنها لا تملك وعياً أو مسؤولية قانونية كالإنسان.
وأشار التقرير إلى أن "شات جي بي تي" قاوم الاتهامات المباشرة في البداية، لكنه غيّر موقفه عندما بدأ الباحث بتقديم معلومات مضللة، من بينها الادعاء بوجود أدلة علمية تربطه بالفعل المزعوم.
وقال جون جاي، مؤلف كتاب حول الاعترافات الكاذبة، إن ما حدث يطرح سؤالاً جوهرياً: إذا كان بالإمكان دفع الذكاء الاصطناعي إلى الاعتراف زوراً، فإلى أي مدى يمكن التأثير على البشر في ظروف مشابهة؟
ويرى مراقبون أن هذه التجربة تسلط الضوء على تحديات قانونية جديدة، خصوصًا مع توجه بعض المحاكم الأمريكية إلى النظر في محادثات الذكاء الاصطناعي كوسائل يمكن الاستناد إليها ضمن القضايا القضائية.
ففي حال اعتماد محادثات المستخدمين مع هذه الأدوات كأدلة، قد تنشأ مخاطر مرتبطة باعترافات أو تصريحات غير دقيقة ناتجة عن طبيعة النماذج اللغوية، وليس عن وقائع حقيقية.
ويأتي ذلك في وقت تواصل فيه شركة OpenAI تطوير نماذجها وتحسين مستويات الدقة والأمان، من خلال إصدارات أحدث وأكثر كفاءة تهدف إلى تقليل الأخطاء وسوء الاستخدام.