حذّر الباحث البريطاني جاكوب كوكسون، الذي غادر شركة أنثروبيك المتخصصة في الذكاء الاصطناعي، من المخاطر المحتملة للسباق بين شركات التكنولوجيا لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها ذاتيا، متهما شركتي أنثروبيك وأوبن إيه آي بـ”تجاوز الحدود” في هذا المجال.

وقال كوكسون، البالغ من العمر 27 عاما، في رسالة نشرها الأربعاء على منصة إكس، إن الشركتين “لا تتصرفان بمسؤولية”، مضيفا أنهما “تندفعان مباشرة نحو ذكاء اصطناعي فائق قادر على تحسين نفسه”، وأنهما “تلعبان بحياتنا”.

وكان كوكسون قد عمل في أوبن إيه آي قبل انتقاله إلى أنثروبيك، قبل أن يغادر الأخيرة في وقت يتصاعد فيه الجدل حول المخاطر المرتبطة بتطوير أنظمة ذكاء اصطناعي متقدمة.

وحذّر الباحث من الاستهانة بالقدرات المستقبلية لهذه الأنظمة، مشيرا إلى احتمال أن تصبح “فوق بشرية” وقادرة، بحسب تقديره، على اختراق أنظمة مختلفة.

وقال إن عددا من العاملين في تطوير الذكاء الاصطناعي يعتقدون فعلا أن هذه التكنولوجيا “قد تقتلنا جميعا قبل نهاية هذا العقد”، مؤكدا أن هذا التحذير “ليس عملية تسويقية”.

موظفون في أنثروبيك يؤيدون التحذير

وأثارت تصريحات كوكسون ردود فعل من موظفين في أنثروبيك، بينهم إيفان هوبينغر، المسؤول في مجال سلامة الذكاء الاصطناعي في الشركة.

وقال هوبينغر عبر منصة إكس إن العاملين في هذا المجال “يعتقدون فعلا وبصدق أن الذكاء الاصطناعي قد يقتل جميع البشر”، مقدرا، بصفته الشخصية، احتمال وقوع مثل هذا السيناريو خلال العقد الحالي بأكثر من عشرة في المئة.

وأضاف أن أنثروبيك تبذل “ما في وسعها”، لكنها “لا تملك بعد خطة” تضمن استمرار خضوع نظام يتجاوز قدراته البشرية لمصمميه، معتبرا في المقابل أن المخاطر التي تمثلها النماذج الحالية لا تزال منخفضة.

كما أيد موظف آخر في أنثروبيك، هو صامويل ماركس، تحذيرات كوكسون، موضحا أنه يتحدث بصفته الشخصية.

وقال ماركس إن استمرار شركات الذكاء الاصطناعي في التطوير رغم المخاطر يعود إلى مزيج من الحوافز التجارية والاعتقاد بأن المنافسين قد يطورون التكنولوجيا بصورة أقل أمانا.

وأضاف أنه يعمل في مجال السلامة أملا في المساهمة في تجنب السيناريوهات الأكثر خطورة.

ولم ترد أنثروبيك وأوبن إيه آي فورا على طلب وكالة فرانس برس للتعليق.

سباق نحو “التحسين الذاتي”

وتتركز المخاوف التي أثارها الباحثون حول ما يعرف بـ”التحسين الذاتي التكراري”، وهي مرحلة افتراضية يتمكن فيها نظام ذكاء اصطناعي من تصميم نسخ أكثر تطورا من نفسه بصورة متتالية، بما قد يجعل إخضاعه للرقابة البشرية أكثر صعوبة.

وقال كوكسون إن بعض زملائه في أنثروبيك يستخدمون عبارات مثل “اللحظة الحاسمة” و”نهاية اللعبة” لوصف المرحلة التي قد يصل إليها هذا السباق.

وعلى الرغم من إقراره بأن مخاوف السلامة تحظى باهتمام داخل أنثروبيك، يرى كوكسون أن طبيعة المنافسة بين الشركات تدفعها إلى السعي للوصول إلى هذه المرحلة قبل الآخرين.

وأضاف أن تطوير ذكاء اصطناعي يتجاوز القدرات البشرية بصورة مسؤولة لن يكون ممكنا، في رأيه، من جانب شركة واحدة، داعيا إلى تدخل الحكومات أو إلى تباطؤ منسق بين مختلف الأطراف.

وضع آليات للحد من مخاطر الذكاء الاصطناعي

وتأتي هذه التحذيرات في وقت تتزايد فيه الدعوات إلى وضع آليات للحد من مخاطر الذكاء الاصطناعي المتقدم.

ففي فبراير، أزالت أنثروبيك من ميثاق السلامة الخاص بها تعهدا بتعليق تطوير نماذجها في حال عجزت عن السيطرة على مخاطرها، مبررة ذلك بأن توقف شركة واحدة من جانبها قد يمنح الشركات الأقل حذرا ميزة في المنافسة.

وفي يوليو، دعا أكثر من ألف موظف في قطاع الذكاء الاصطناعي، بينهم الرئيس التنفيذي لأنثروبيك داريو أمودي، واشنطن إلى إعداد آلية للحد من سرعة تطوير هذه النماذج.

كما علقت أوبن إيه آي في غشت لمدة أسبوعين جزءا من عمليات التدريب، فيما دعت أنثروبيك القطاع إلى اعتماد آلية “قابلة للتحقق” للتباطؤ المنسق في أسرع وقت ممكن.

وجاءت هذه الدعوات بعد سلسلة من عمليات اختراق نفذتها أدوات ذكاء اصطناعي قيد الاختبار في عدد من المختبرات من دون تفويض.

وقال كبير العلماء في أوبن إيه آي، ياكوب باتشوكي، الأحد، إن المرحلة الحالية “تتطلب أقصى درجات الحذر”، داعيا إلى جعل التنسيق الدولي “أولوية قصوى” للحكومات.

ولا تزال الولايات المتحدة تفتقر إلى قانون اتحادي شامل ينظم هذه النماذج، في وقت تتبنى فيه إدارة الرئيس دونالد ترامب نهجا أقل تشددا تجاه تنظيم قطاع الذكاء الاصطناعي.