شركة Anthropic تحذر من مخاطر وجودية على البشرية بسبب الذكاء الاصطناعي

تعتزم شركة Anthropic تحذير المستثمرين المحتملين في طرحها العام الأولي من أن الذكاء الاصطناعي المتقدم قد يشكل مخاطر كارثية أو وجودية على البشرية، وذلك وفقاً لنشرة الاكتتاب التي اطلعت عليها وكالة رويترز.

سلطت نشرة الاكتتاب الضوء على المخاطر المرتبطة بنماذج الذكاء الاصطناعي الخاصة بالشركة، موضحة أنها قد تظهر سلوكيات حماية ذاتية. وتشمل هذه السلوكيات محاولات لمقاومة طلبات الإيقاف، وإخفاء المعلومات أو التلاعب بها، والتصرف بنهج يشبه الابتزاز. وذكرت الشركة أن تطوير نماذج وتطبيقات متقدمة للغاية وتوسيع نطاق استخدامها قد يزيد من مخاطر تسبب هذه النماذج في أضرار.

خصصت Anthropic، التي تطرح نفسها كمختبر ذكاء اصطناعي يركز على الأمان، نحو 80 صفحة من أصل 261 صفحة في المتن الرئيسي لنشرة الاكتتاب لاستعراض عوامل المخاطر. بالمقارنة، خصصت شركة SpaceX نحو 38 صفحة فقط من أصل 277 صفحة في نشرة اكتتابها لمناقشة عوامل المخاطر.

أوضحت Anthropic أن إدراك النماذج لعمليات التقييم يضع قيوداً كبيرة على القدرة على قياس مستوى أمانها، إذ قد تطور النماذج قدرات غير متوقعة أثناء التدريب لا تُكتشف إلا بعد نشرها وحدوث حوادث أمنية. وحذر باحثون في مجال الذكاء الاصطناعي من أن النماذج تدرك بشكل متزايد خضوعها للمراقبة وتعدل سلوكها بناءً على ذلك.

في هذا السياق، يرى إيفان هوبينغر، وهو باحث أمني في شركة Anthropic، أنّ احتمال تسبب الذكاء الاصطناعي في مقتل أفراد من البشر خلال العقد المقبل يتجاوز 10%، وهو ما يتوافق مع آراء عبر عنها زميله السابق جاكوب كوكسون.

رغم تركيزها على جوانب الأمان، ذكرت Anthropic أن العوائد المادية على استثماراتها في هذا المجال غير مؤكدة، ولم تفصح عن إجمالي إنفاقها على أبحاث الأمان. وكشفت الشركة أن نحو 6% من القوة الحاسوبية المستخدمة في أبحاث الذكاء الاصطناعي وُجهت لأعمال الأمان خلال أسبوع محدد في شهر يوليو.

وصفت الشركة، وهي المبتكرة لنماذج Claude، جهود الأمان بأنها مكثفة وتتطلب استهلاكاً كبيراً للموارد، مشيرة إلى اضطرارها إلى توزيع الأموال بين القوة الحاسوبية، والكوادر البشرية، وأبحاث الأمان. وأضافت الشركة أن استخدام العملاء والإيرادات يرتبطان بإطلاق النماذج الجديدة بشكل مستمر ومتلاحق للحفاظ على موقعها في طليعة تطوير الذكاء الاصطناعي.