أعلن الباحث جاكوب كوكسون استقالته من شركة «أنثروبيك»، محذرًا من أن سباق تطوير الذكاء الاصطناعي يتجه بسرعة نحو أنظمة فائقة الذكاء قادرة على تحسين نفسها، واعتبر أن شركات الذكاء الاصطناعي الكبرى «تقامر بحياتنا».
وأوضح كوكسون، الذي عمل ثلاث سنوات في أبحاث التدريب المسبق للنماذج لدى «أوبن إيه آي» و«أنثروبيك»، أن الشركتين لا تتصرفان بمسؤولية، وتندفعان نحو تطوير ذكاء فائق قادر على تطوير نفسه.
وأشار إلى أن الأنظمة المستقبلية قد تتفوق على البشر في مجالات عدة، وتتمكن من اختراق أي شيء وإحداث تحول جذري خلال فترة قصيرة، إضافة إلى امتلاكها قدرات حقيقية للوصول إلى القوة والموارد.
وأكد كوكسون أن مطوري الذكاء الاصطناعي يدركون احتمال تسبب هذه التكنولوجيا في «قتلنا جميعًا» قبل نهاية العقد، مشددًا على أن هذه المخاوف ليست حيلة تسويقية، وأن بعض المسؤولين التنفيذيين يبدون أكثر قلقًا في أحاديثهم الخاصة.
وتساءل عن أسباب استمرار تطوير هذه التكنولوجيا رغم المخاطر، موضحًا أن كثيرًا من العاملين في «أوبن إيه آي» لم يدركوا حجم التهديدات، بينما تدرك «أنثروبيك» المخاطر لكنها عالقة في سباق الوصول إلى الذكاء الفائق أولًا.
وأضاف أن هذا السباق يستند إلى اعتقاد بأن الشركات الأخرى لن تتصرف بمسؤولية، ما يدفع «أنثروبيك» للمضي قدمًا رغم المخاطر، معتبرًا أن ذلك يمثل «مقامرة متغطرسة» لا يجب أن تُتخذ داخل شركة خاصة.
ودعا كوكسون إلى عدم تسريع مواءمة الذكاء الاصطناعي مع القيم البشرية إلا بوجود ثقة استثنائية بعدم وجود مسارات أكثر أمانًا، معربًا عن تفاؤله بإمكانية تنسيق الجهود بين مختبرات الذكاء الاصطناعي.
وأشار إلى أن هجمات مثل تلك التي تعرضت لها منصة «Hugging Face» دفعت نحو إمكانية التوصل إلى اتفاقات بشأن وتيرة تطوير الذكاء الاصطناعي بين المختبرات الأمريكية، لكنه حذر من أن العالم لا يسير على مسار يمنع سباقًا عالميًا، ما قد يتطلب إجراءات مكلفة مثل فرض حظر مؤقت على تطوير قدرات النماذج.
وفي ختام رسالته، دعا كوكسون العاملين في مختبرات الذكاء الاصطناعي إلى التفكير في طبيعة السنوات المقبلة، متسائلًا عن حكمة إطلاق أنظمة فائقة الذكاء دون فهم صارم لطريقة تفكيرها، أو الاستمرار في العمل باعتبار أن «الأمر سيحدث على أي حال» بدلًا من المطالبة بظروف أكثر أمانًا.
