حذّرت شركة "أنثروبيك"، المطوّرة لمساعد الذكاء الاصطناعي "كلود"، من احتمال وصول أنظمة الذكاء الاصطناعي مستقبلاً إلى مرحلة تتمكن فيها من تحسين وتطوير نفسها دون الحاجة إلى تدخل بشري مباشر، داعية إلى دراسة خيارات إبطاء هذا التطور أو حتى تعليقه مؤقتاً.
وجاء التحذير في تدوينة مشتركة للمؤسس المشارك للشركة جاك كلارك ورئيسة معهد "أنثروبيك" مارينا فافارو، حيث أشارا إلى أن أنظمة الذكاء الاصطناعي باتت تتولى بشكل متزايد مهام تطوير البرمجيات وإجراء الأبحاث العلمية التي كانت تعتمد سابقاً على الخبرات البشرية.
وأوضحت الشركة أن جزءاً متنامياً من عمليات تطوير تقنيات الذكاء الاصطناعي داخل مختبراتها يُنجز بمساعدة أنظمة الذكاء الاصطناعي نفسها، الأمر الذي يسرّع من وتيرة الابتكار والتقدم التقني.
ورأت "أنثروبيك" أن استمرار هذا المسار قد يقود في المستقبل إلى ما يُعرف بـ"التطوير الذاتي التكراري"، وهو سيناريو تصبح فيه الأنظمة قادرة على تصميم وإنتاج أجيال جديدة وأكثر تطوراً من الذكاء الاصطناعي دون إشراف بشري كامل.
وأكدت الشركة أن هذه المرحلة لم تتحقق بعد، وأن الوصول إليها ليس أمراً محسوماً، لكنها حذّرت من أن التطورات قد تحدث بوتيرة أسرع مما تتوقعه العديد من المؤسسات والجهات التنظيمية.
وفي حين أشارت التدوينة إلى الفوائد المحتملة لهذه القدرات في مجالات حيوية مثل البحث العلمي والرعاية الصحية، نبهت إلى مخاطر متزايدة تتعلق بإمكانية فقدان البشر السيطرة على الأنظمة المتقدمة، ما يستدعي تعزيز آليات الرقابة والأمان والتوجيه.
وختمت "أنثروبيك" بالتأكيد على أهمية بحث خيارات إبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة أو تعليقها لفترة محددة، بما يمنح المجتمعات والحكومات الوقت الكافي للتكيف مع التحولات المتسارعة، مشيرة إلى أن أي خطوة من هذا النوع ستكون أكثر فاعلية إذا جرى تنسيقها بين عدة دول ومختبرات بحثية حول العالم.
