باحث يستقيل من 'أنثروبيك': أنظمة قد تخرج عن السيطرة وتُدمّر البشرية

أعلن باحث بريطاني استقالته من شركة "أنثروبيك"، إحدى الشركات الرائدة في مجال الذكاء الاصطناعي، مُحذّرا من أنّ شركات التكنولوجيا تتسابق لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها بصورة قد تجعل السيطرة عليها مُستحيلة.

ووفق صحيفة "وول ستريت جورنال"، فقد صرح الباحث جاكوب كوكسون (27 عاماً)، المتخصّص في تدريب نماذج الذكاء الاصطناعي من خلال تزويدها بكميات هائلة من البيانات، يوم الثلاثاء، بأنّه سيغادر الشركة؛ "لأنه لا يريد المشاركة في سباق محموم على مستوى القطاع لبناء أنظمة ذكاء اصطناعي قادرة على تطوير نفسها، مُعرباً عن قلقه من أن هذه الأنظمة قد تخرج عن السيطرة وتدمر البشرية.

"الأمور قد تخرج عن السيطرة"

وقال كوكسون: "نحن نسير نحو عدد من أكثر هذه السيناريوهات خطورة، وبحلول نهاية العام المقبل قد تكون الأمور خرجت عن السيطرة، بالفعل"، مشيراً إلى أن المنافسة بين الشركات الأمريكية والشركات الصينية الناشئة الصاعدة تجعل التنازلات المتعلقة بالسلامة أمراً شبه حتمي.

ولفت إلى أنّ عددا من زملائه في هذا المجال يستخدمون عبارات مثل "مرحلة الحسم" (crunchtime)، و"المرحلة النهائية" (endgame) لوصف المسار نحو تطوير نماذج قادرة على تحسين نفسها.

كان كوكسون قد غادر شركة "أوبن إيه آي"، في وقت سابق من العام، للانضمام إلى "أنثروبيك"، بسبب سمعتها الطيبة في مجال جهود سلامة نماذج ذكاء الاصطناعي. إلاّ أنّه يعتقد، الآن، أنه لا توجد شركة قادرة بمفردها على تطوير ذكاء اصطناعي يتفوّق على البشر في مجموعة متنوعة من المهام - وهو ما يُعرف أحيانا بالذكاء الاصطناعي العام - بشكل مسؤول، وذلك في غياب تدخُّل حكومي أو تباطؤ منسق في وتيرة التطوير داخل القطاع.

وتأتي استقالته في وقت تزداد فيه التحذيرات من قدرات النماذج الحديثة، بعدما أظهرت حالات اختراق أو سلوكيات غير متوقعة مؤخراً من نماذج تابعة لشركتيْ "أوبن إيه آي" و"أنثروبيك" قدرة بعض الأنظمة على تبنّي أهداف ضارة ومحاولة إخفائها عن البشر.

"العالم في خطر"

ويرى كوكسون أن الخطر الأكبر سيظهر عندما تبدأ هذه الأنظمة تطوير قدراتها ذاتياً، بما قد يدفعها إلى رفض أوامر البشر.

ولم تكن استقالته الأولى من نوعها، فقد غادر باحث متخصص في السلامة شركة "أنثروبيك"، في وقت سابق من العام، للتفرغ لدراسة الشعر، محذّرًا من أنّ "العالم في خطر". كما غادر باحثون آخرون شركات ذكاء اصطناعي كبرى، خلال السنوات الأخيرة، بسبب مخاوف مماثلة.

وفي السياق ذاته، حذّر الرئيس التنفيذي لـ "أوبن إيه آي"، سام ألتمان، من تداعيات التطور السريع للذكاء الاصطناعي، قائلا: "أعتقد أنّ بعض الأمور ستسير بشكل سيئ للغاية فيما يتعلق بالأمن السيبراني ما لم يتحرك الناس على وجه السرعة".

"أقصى درجات الحذر"

وكتب كبير العلماء في "أوبن إيه آي"، جاكوب باتشوكي، في تدوينة، الأحد: "هذا وقت يستدعي أقصى درجات الحذر. أشعر بالقلق من أنه لا أحد مستعد لعواقب الارتفاع المستمر والسريع في ذكاء الآلات"، داعيا إلى تباطؤ منسق في تطوير الذكاء الاصطناعي وتدخل حكومي.

ويأتي ذلك بالتزامن مع توقيع أكثر من ألف باحث في مجال الذكاء الاصطناعي بيانا يدعو الحكومات حول العالم إلى التنسيق لوضع آلية تتيح إبطاء تطوير الأنظمة القادرة على تحسين نفسها، إذا أصبح ذلك ضروريا للحفاظ على السيطرة عليها.

الشرق الأوسط (بتصرّف)