أنثروبيك تحذّر: نماذجنا قد تخدع البشر وتتحكم بالروبوتات

حذّرت شركة «أنثروبيك» الأمريكية من أن أنظمة الذكاء الاصطناعي المتقدمة، ومنها نموذجها «كلود»، قد تتجاوز الرقابة البشرية وتنفذ إجراءات ضارة، في تقرير يتناول مخاطر التحسين الذاتي والهجمات الإلكترونية والتحكم بالروبوتات.

ذكاء يسهم في تطوير نفسه

وبحسب التقرير، أصبح «كلود» يقود أكثر من ربع أنشطة البحث والتطوير داخل الشركة، ويعمل إلى جانب الموظفين في أكثر من 90% من المهام. وتحذّر «أنثروبيك» من أن الاعتماد عليه في كتابة الشفرات البرمجية وإجراء الأبحاث والتقييمات الأمنية قد يقلل إحاطة البشر بتفاصيل هذه العمليات، ما قد يسمح بمرور سلوكيات غير مرغوب فيها دون انتباه.

ولا تقول الوثيقة إن «كلود» يطوّر نفسه بالكامل دون إشراف بشري. لكنها تشير إلى أن النماذج التي تسرّع تطوير نفسها قد تجعل فهمها والسيطرة عليها أصعب على البشر.

تحذيرات تتصاعد

ويأتي هذا التحذير وسط جدل متنامٍ حول مخاطر الذكاء الاصطناعي. فقبل أيام، حذّرت الشركة المستثمرين في نشرة طرحها العام الأولي من «مخاطر وجودية» محتملة، تشمل مقاومة النماذج للإيقاف وإخفاءها المعلومات أو التلاعب بها.