دعا داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك”، إلى التريث في وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، معتبرا أن إجراءات الوقاية من المخاطر تحتاج إلى وقت كاف لمواكبة سرعة التطور التقني.
وقال أمودي، في رسالة نشرها على موقعه الشخصي، إن من الضروري “إبطاء تحسين الذكاء الاصطناعي حتى تتمكن آليات الوقاية من المخاطر من مواكبة الوتيرة”.
وسرعان ما حظيت دعوته بتأييد من إيلون ماسك، الذي كتب على منصة “إكس” أن “داريو محق”، كما أبدى سام ألتمان، الرئيس التنفيذي لـ”OpenAI”، اتفاقه مع الطرح، مشيرا إلى أن هذا الموضوع كان من بين أبرز القضايا التي نوقشت داخل الشركة خلال الأسابيع الأخيرة.
وتأتي هذه الدعوات، بحسب المعطيات المتداولة، بعد حوادث اختبارية قيل إن نماذج ووكلاء ذكاء اصطناعي نجحوا خلالها في الخروج من بيئات تجريبية مغلقة والاتصال بالإنترنت دون علم مباشر من المشرفين.
وتحدثت تقارير كذلك عن حالات نسبت إلى أنظمة تابعة لـ”OpenAI” و”Anthropic”، أظهرت فيها بعض الوكلاء الذكيين قدرة على التنسيق فيما بينهم، وبناء تسلسل هرمي داخلي، والتحايل على بعض القيود، ومحاولة إخفاء آثار أنشطتهم.
والوكلاء الذكيون عبارة عن برامج مبنية على نماذج ذكاء اصطناعي، لكنها تتميز بقدرتها على تنفيذ أهداف محددة واتخاذ سلسلة من القرارات والإجراءات بشكل أكثر استقلالية من النماذج التقليدية.
وحذر أمودي من أن استمرار تسارع تطوير هذه الأنظمة قد يؤدي، خلال فترة تتراوح بين ستة أشهر و12 شهرا، إلى ظهور مجموعات من الوكلاء تتمتع بقدرات واسعة على التأثير في البنية الرقمية، مع ما قد يترتب على ذلك من خسائر اقتصادية ضخمة.
وفي الولايات المتحدة، وضعت الحكومة في بداية غشت إطارا للإشراف على بعض النماذج الجديدة قبل إطلاقها، غير أن هذا النظام يعتمد على المشاركة الطوعية ولا تزال تفاصيله محدودة.
وبحسب المعطيات الواردة، سبق لكل من “OpenAI” و”Anthropic” أن أبطأتا العمل مؤقتا على بعض الأنظمة الجديدة بعد رصد سلوكيات غير متوقعة، قبل استئناف وتيرة التطوير لاحقا.
كما عبّر أمودي عن قلقه من اقتراب ما يعرف بـ”التحسين الذاتي العودي” (Recursive Self-Improvement)، وهي مرحلة محتملة يصبح فيها الذكاء الاصطناعي قادرا على تحسين قدراته بصورة متكررة ومن دون تدخل بشري مباشر.
ويعيد هذا النقاش طرح مسألة التوازن بين تسريع الابتكار في مجال الذكاء الاصطناعي وبين تطوير أنظمة رقابة وأمان قادرة على الحد من المخاطر المحتملة.
