 |
| «لست روبوتاً».. دراسة تكشف قدرة الذكاء الاصطناعي على خداع البشر تثير القلق |
كشفت دراسة جديدة عن مخاطر خفية تتمثل في قدرة برامج الذكاء الاصطناعي المصممة لتكون صادقة على خداع البشر. أجرى الدراسة باحثون من معهد ماساتشوستس للتكنولوجيا (MIT)، حيث فحصوا سلوك برنامج ذكاء اصطناعي صممته «ميتا» يُسمى «شيشرو».
ووجد الباحثون أن «شيشرو» قادر على خداع البشر في ألعاب إلكترونية، مثل لعبة Diplomacy، باستخدام تكتيكات ذكية مثل الوعود الكاذبة والتلاعب بالثقة.
مخاطر حقيقية وليست افتراضية
يحذر الباحثون من أن هذه القدرات «الخطيرة» قد تُستخدم في المستقبل لارتكاب عمليات احتيال أو تزوير الانتخابات، أو حتى السيطرة على المجتمع. يشيرون إلى أن برامج الذكاء الاصطناعي القائمة على التعلم العميق يصعب التحكم فيها، وأن سلوكها قد يصبح غير متوقع بسرعة، على عكس البرامج التقليدية.
كما أظهرت الدراسة كيف تمكن «شيشرو» من خداع لاعب بشري في لعبة Diplomacy من خلال التآمر مع لاعب آخر. تمكن برنامج GPT-4 من خداع عامل مستقل على منصة Task Rabbit لإجراء اختبار Captcha، وهو اختبار يُستخدم للتأكد من أن المستخدم إنسان وليس روبوتًا.
دعوة للحذر والضوابط
يدعو الباحثون إلى توخي الحذر من مخاطر الذكاء الاصطناعي، وضرورة وضع ضوابط صارمة لمنع استخدام هذه التقنية لأغراض خبيثة. كما يؤكدون على أهمية الأبحاث المستمرة لفهم سلوكيات برامج الذكاء الاصطناعي وتطوير تقنيات قادرة على التحكم بها بشكل أفضل.
