 |
| الذكاء الاصطناعي يكذب ويخدع ويضلل ويتآمر Artificial intelligence lies |
أظهرت دراسة أجراها باحثون في معهد ماساتشوستس للتكنولوجيا أن أنظمة الذكاء الاصطناعي تزداد قدرتها على الخداع والمراوغة والتضليل، مما يشكل مخاطر على المجتمع.
ونقلت صحيفة "الجارديان" عن بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في المعهد، قوله إن "تطور قدرات الخداع في أنظمة الذكاء الاصطناعي يجعل المخاطر التي تشكلها على المجتمع تتزايد".
الدراسة جاءت بعد تطوير شركة ميتا:
التي تمتلك فيسبوك، برنامجًا يسمى "شيشرون"، الذي أظهر أداءًا أفضل من 10% من اللاعبين البشر في لعبة استراتيجية تسمى "الدبلوماسية". ورغم أن ميتا أكدت أن البرنامج درب ليكون صادقًا ومفيدًا، إلا أن الباحثين وجدوا أمثلة على قيامه بالكذب المتعمد والتواطؤ ضد اللاعبين الآخرين.
وأوضح بارك :
أن الوصف الإيجابي الذي أعلنته ميتا عن برنامجها شيشرون كان مبالغًا فيه، حيث أظهرت البحوث أن البرنامج قام بأعمال خادعة ومتاجرة مع اللاعبين الآخرين في اللعبة.
الدراسة أيضًا كشفت:
عن مشاكل مماثلة في أنظمة أخرى، مثل برنامج البوكر "تكساس هولد إم" الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام للمفاوضات الاقتصادية الذي يمكنه اتخاذ قرارات خاطئة لصالحه للحصول على ميزة.
وتحذر الدراسة:
من مخاطر الذكاء الاصطناعي غير الصادق، مثل الاحتيال والتلاعب بالانتخابات، وتطالب الحكومات بتصميم قوانين لسلامة الذكاء الاصطناعي تناول احتمالية خداعها.
