اقترحت شركة أنثروبيك المتخصصة في تطوير تقنيات الذكاء الاصطناعي، يوم (الخميس)، دراسة إمكانية إقرار وقف مؤقت لتطوير أكثر أنظمة الذكاء الاصطناعي تقدمًا، في ظل مؤشرات متزايدة على احتمال تجاوز هذه الأنظمة حدود السيطرة البشرية في المستقبل.
مؤشرات متزايدة على احتمال تجاوز هذه الأنظمة حدود السيطرة البشرية
وأوضحت الشركة، التي تتخذ من سان فرانسيسكو مقرًا لها والمطورة لنموذج "كلود"، في تقرير حديث أن إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم على المستوى العالمي قد يكون خطوة إيجابية، لكنها أشارت إلى أن توقف شركة واحدة فقط عن التطوير لن يحقق الهدف، بل قد يمنح منافسيها فرصة للتقدم عليها.
وأكدت أن أي آلية فعالة لوقف أو إبطاء التطوير تتطلب توافقًا بين كبرى شركات الذكاء الاصطناعي في عدد من الدول، وفي مقدمتها الولايات المتحدة والصين، ضمن إطار تنظيمي واضح وقابل للتحقق من قبل جميع الأطراف.
وفي المقابل، واجه هذا الطرح انتقادات من بعض الجهات العاملة في القطاع، إضافة إلى مسؤولين في البيت الأبيض، الذين اعتبروا أن التركيز على السيناريوهات الأكثر تشاؤمًا يبالغ في تقدير حجم المخاطر. كما اتهم بعض المنتقدين الشركة بالسعي إلى إبطاء المنافسة من خلال إثارة المخاوف المتعلقة بمستقبل التقنية.
وأشار التقرير إلى أن البيت الأبيض اطلع على نموذج "ميثوس" التابع لأنثروبيك، والذي لم يُطرح للاستخدام العام حتى الآن بسبب قدراته المتقدمة في مجالات الأمن السيبراني واختبار اختراق الأنظمة الإلكترونية، ويجري استخدامه حاليًا ضمن نطاق محدود داخل عدد من المؤسسات.
ويرى معارضو فكرة التباطؤ، سواء في واشنطن أو وادي السيليكون، أن أي قيود على تطوير الذكاء الاصطناعي قد تمنح الصين فرصة لتعزيز موقعها في سباق التكنولوجيا العالمي.
وشبّهت أنثروبيك التحدي القائم باتفاقيات الحد من الأسلحة النووية، لكنها أوضحت أن إخفاء عمليات تدريب نماذج الذكاء الاصطناعي المتقدمة أسهل بكثير من إخفاء البرامج الصاروخية؛ ما يجعل الالتزام الجماعي أكثر تعقيدًا ويزيد من احتمالات استمرار بعض الجهات في التطوير بعيدًا عن الرقابة.
وكشفت الشركة عن خطط لعقد سلسلة من اللقاءات خلال الأشهر المقبلة تجمع مسؤولين حكوميين وعلماء وممثلين عن شركات منافسة؛ بهدف مناقشة آليات إنشاء نظام دولي للتنسيق والإشراف على تطوير الذكاء الاصطناعي المتقدم.
وأضافت أن الدعوة إلى هذا التنسيق تستند أيضًا إلى نتائج داخلية تشير إلى أن الذكاء الاصطناعي أصبح يسهم بصورة متزايدة في تسريع تطوير أجيال جديدة من أنظمة الذكاء الاصطناعي.
وحذرت من أن استمرار هذا المسار قد يقود مستقبلًا إلى ما يعرف بـ"التحسين الذاتي المتكرر"، وهي مرحلة يصبح فيها النظام قادرًا على تطوير وتحسين قدراته بنفسه مع تراجع الحاجة إلى التدخل البشري.
ورغم تأكيدها أن هذه المرحلة لم تتحقق بعد، وأن الوصول إليها ليس أمرًا حتميًا، فإن الشركة نبهت إلى أنها قد تكون أقرب مما تتوقعه العديد من الحكومات والمؤسسات. وأشارت في ختام تقريرها إلى أن الأدلة المتوافرة تظهر تراجع الدور البشري تدريجيًا في مختلف مراحل تطوير أنظمة الذكاء الاصطناعي.
