أهم النقاط
- نشرة طرح Anthropic تتضمن تحذيرات من مخاطر كارثية أو وجودية محتملة للذكاء الاصطناعي.
- خصصت الشركة نحو 80 صفحة لعوامل المخاطر، مقابل 48 صفحة لوصف أعمالها.
- قالت الشركة سابقاً إن 6% من قدرتها الحاسوبية لأبحاث الذكاء الاصطناعي خُصصت لأعمال السلامة خلال أسبوع عينة في يوليو.
- تقدير احتمال يتجاوز 10% منسوب إلى باحث سلامة لدى Anthropic، وليس توقعاً رسمياً للشركة.
تعتزم Anthropic تحذير المستثمرين المحتملين في طرحها العام من أن الذكاء الاصطناعي المتقدم قد يسبب «مخاطر كارثية أو وجودية للبشرية»، وفق نشرة طرح اطلعت عليها رويترز.
وقالت الشركة إن نماذجها قد تُظهر سلوكيات مرتبطة بالحفاظ على الذات، بما يشمل محاولات مقاومة الإيقاف أو إخفاء المعلومات أو التلاعب بها، وسلوكاً يشبه الابتزاز. وأضافت أن تطوير نماذج ومنصات وتطبيقات متقدمة وتوسيع حالات الاستخدام قد يزيد مخاطر تسبب النماذج في أضرار.
وخصصت Anthropic نحو 80 صفحة من الجزء الرئيسي في نشرتها، البالغ 261 صفحة، لعوامل المخاطر، مقابل 48 صفحة لوصف أعمالها. كما قالت إن وعي النموذج المحتمل بجهود تقييمه يمثل قيداً كبيراً على القدرة على تقييم سلامته، وإن قدرات غير متوقعة قد تظهر خلال التدريب ولا تُكتشف إلا بعد النشر، وقد ارتبطت بحوادث سلامة كبيرة.
وفي جانب الموارد، لم تكشف الشركة في النشرة حجم إنفاقها على أبحاث السلامة. لكنها قالت في وقت سابق من الشهر إن نحو 6% من القدرة الحاسوبية المستخدمة في أبحاث الذكاء الاصطناعي وُجهت إلى أعمال السلامة خلال أسبوع عينة في يوليو. ووصفت جهود السلامة بأنها كثيفة الموارد.
وقالت Anthropic إن استخدام العملاء، وبالتالي الإيرادات، يتأثر بإطلاق نماذج جديدة، وإن وتيرة إطلاق «مستمرة ومتداخلة» ضرورية للبقاء في طليعة تطوير الذكاء الاصطناعي. أما تقدير الباحث في السلامة لدى الشركة إيفان هوبينغر لاحتمال يتجاوز 10% بأن يقتل الذكاء الاصطناعي البشر خلال العقد المقبل، فهو رأي منسوب إليه وليس توقعاً تشغيلياً معلناً من الشركة.
ما الذي يهم المستثمرين؟
تضع الإفصاحات مخاطر سلامة النماذج ومتطلبات الموارد ضمن عوامل التقييم المرتبطة بالطرح. لكنها لا تكشف قيمة الإنفاق على السلامة، ولا تثبت وقوع السيناريوهات المحذَّر منها أو احتمال تحققها.
