أنثروبيك تستعين بـ«أكسنتشر» كمقيّم مدمج للمساعدة في مقترح إبطاء الذكاء الاصطناعي

قالت Anthropic إنها اختارت Accenture لتكون أول جهة تقييم مدمجة لديها، للمساعدة في إبطاء وتيرة تطوير الذكاء الاصطناعي، وفقًا لما اقترحه الرئيس التنفيذي Dario Amodei الأسبوع الماضي.

نشر Amodei في 12 سبتمبر/أيلول مقترحًا من ثلاث خطوات لإبطاء تطوير الذكاء الاصطناعي وإتاحة وضع إجراءات الحماية، وسط تحذيرات من احتمال وقوع أضرار كارثية في أعقاب التطور السريع وغير الخاضع للرقابة.

ردّ الرئيس التنفيذي لشركة OpenAI Sam Altman والرئيس التنفيذي لشركة SpaceX Elon Musk بإيجابية على مقترح Amodei، في حين لم يفعل الرئيس التنفيذي لشركة Nvidia Jensen Huang ذلك، بحجة أن مثل هذا التنظيم لم يكن ضروريًا.

ومع ذلك، كتب Amodei في مقترحه أن «الذكاء الاصطناعي يتقدم بسرعة هائلة، مدفوعًا أساسًا بقدرة الذكاء الاصطناعي المتنامية على بناء الجيل التالي من الذكاء الاصطناعي. ويُطلق على هذه الديناميكية اسم التحسين الذاتي التكراري»، وأنه «إذا تُرك دون رقابة، فقد يتجاوز قدرتنا على فهم هذه الأنظمة والسيطرة عليها».

ذات صلة: رئيس Anthropic يحث على إبطاء تطوير الذكاء الاصطناعي إلى وتيرة أكثر أمانًا

كتب Amodei أن الخطوة الأولى في مقترحه تتمثل في الاستعانة بجهات تقييم مستقلة تتمتع بإمكانية وصول مماثلة لإمكانية وصول الموظفين، وهو أمر كانت Anthropic قد التزمت به من جانب واحد بالفعل.

أعلنت Anthropic يوم الجمعة عن خطوة نحو الوفاء بهذا الالتزام، من خلال شراكتها مع Accenture وقطاع الذكاء الاصطناعي التابع لها Faculty، وذلك «لتقييم النماذج واختبارها بأسلوب الفريق الأحمر، وإجراء تقييمات المواءمة، واختبار وسائل حماية النماذج». أعلنت عن خطوة نحو الوفاء بهذا الالتزام يوم الجمعة، من خلال الشراكة مع Accenture وقطاع الذكاء الاصطناعي التابع لها Faculty، «لتقييم النماذج واختبارها بأسلوب الفريق الأحمر، وإجراء تقييمات المواءمة، واختبار وسائل حماية النماذج».

وقالت الشركة إن تفاصيل كيفية تنفيذ ذلك لا تزال قيد الإعداد، لأن التقييم المدمج مجال جديد.

ووفقًا للإعلان، تتوقع Anthropic وAccenture أن تستثمر كل منهما ما لا يقل عن مليار دولار في المشروع خلال السنوات الخمس المقبلة.

ستموّل Anthropic العمل مباشرة وسط حالة من الاستعجال

أشارت Anthropic إلى عدم وجود نظام قائم لتمويل التقييم المستقل، ولذلك ينبغي أن يأتي التمويل طويل الأجل من مصادر مجمّعة أو حكومية، إلا أن Anthropic، نظرًا إلى إلحاح العمل، ستموّل عمل Accenture مباشرة.

الشراكة غير حصرية، وتتوقع Anthropic الإعلان عن جهات تقييم أخرى في الأسابيع المقبلة، وستتعاون معها أيضًا.

وقالت الشركة إن وحدة Faculty التابعة لـAccenture متخصصة في اختبار النماذج وتقييمها لدى بعض مختبرات الذكاء الاصطناعي الرائدة في العالم، وفي بناء أنظمة ذكاء اصطناعي معقدة وآمنة وأخلاقية بطبيعتها.

وقالت Julie Sweet، رئيسة مجلس الإدارة والرئيسة التنفيذية لشركة Accenture: «التقييم المدمج مجال ناشئ، ونتطلع إلى الشراكة مع Anthropic للمساعدة في تسريع تطوير جهات التقييم المدمجة، التي نراها جزءًا مهمًا من مشهد السلامة مستقبلًا».

مجلة: لماذا تطلب أكبر شركات الذكاء الاصطناعي فجأة إبطاء الوتيرة؟