OpenAI تمنح مجلس إدارتها حق نقض قرارات سام ألتمان
أعلنت OpenAI إطار الاستعداد، وهو عبارة عن مجموعة من العمليات والأدوات لرصد وإدارة المخاطر المحتملة لنماذج الذكاء الاصطناعي القوية.
ويأتي هذا الإعلان وسط فترة مضطربة للشركة، التي واجهت سابقًا انتقادات بسبب تعاملها مع إقالة وإعادة تعيين رئيسها التنفيذي، سام ألتمان.
وأثار هذا الجدل تساؤلات بخصوص إدارة الشركة، وخاصة أنها تطور أنظمة الذكاء الاصطناعي المتقدمة والمؤثرة عالميًا.
ويعد إطار الاستعداد بمنزلة محاولة لمعالجة بعض هذه المخاوف وإظهار التزام الشركة بتطوير الذكاء الاصطناعي بشكل مسؤول وأخلاقي.
ويحدد إطار الاستعداد كيف تتبع OpenAI وتقيم وتتنبئ وتحمي من المخاطر الكارثية التي تشكلها النماذج القوية بشكل متزايد، مثل تلك التي يمكن استخدامها للهجمات الإلكترونية، أو الإقناع الجماعي، أو الأسلحة المستقلة.
ويعد استخدام بطاقات أداء المخاطر لنماذج الذكاء الاصطناعي بمنزلة المكون الرئيسي لإطار الاستعداد، وتقيس هذه البطاقات وتتتبع مؤشرات مختلفة للضرر المحتمل، مثل قدرات النموذج ونقاط الضعف والتأثيرات.
وتحدث الشركة بطاقات الأداء بانتظام، مما يؤدي إلى إجراء مراجعات وتدخلات عند الوصول إلى عتبات مخاطر معينة.
ويؤكد إطار الاستعداد أيضًا على أهمية التقييمات والتنبؤات الدقيقة والمبنية على البيانات لقدرات الذكاء الاصطناعي ومخاطره، والابتعاد عن السيناريوهات الافتراضية والتخمينية التي غالبًا ما تهيمن على الخطاب العام.
وتشير OpenAI إلى أنها تستثمر في تصميم وتنفيذ مثل هذه التقييمات، وكذلك في تطوير إستراتيجيات التخفيف والضمانات.
ولا يعد إطار الاستعداد مستندًا ثابتًا، بل مستندًا ديناميكيًا ومتطورًا. وتوضح الشركة أنها تعمل باستمرار على تحسين وتحديث إطار الاستعداد بناءً على البيانات الجديدة والتعليقات والأبحاث، وتشارك نتائجها وممارساتها مع مجتمع الذكاء الاصطناعي الواسع.
وتحاول OpenAI اللحاق ببروتوكولات السلامة بعد مواجهة رد فعل عنيف بسبب نشرها السريع والقوي لنماذج، مثل GPT-4.
وتؤسس الشركة المجموعة الاستشارية للسلامة المتعددة الوظائف المكلفة بمراجعة التقارير بخصوص المخاطر الناشئة قبل إرسال تحديثات إلى قيادة الشركة ومجلس إدارتها.
ومنحت OpenAI مجلس إدارتها حق نقض قرارات قيادة الشركة. وتقع سلطة اتخاذ القرار النهائي على عاتق مجلس الإدارة بدلًا من الرئيس التنفيذي، سام ألتمان.
وكتبت OpenAI: “في حين أن القيادة هي صانعة القرار، فإن مجلس الإدارة يمتلك الحق في عكس القرارات”.
ويبدو أن إطار الاستعداد الجديد يشير إلى أن سام ألتمان وفريقه يظلون خاضعين للمساءلة من مجلس إدارة الشركة، ومن شأن هذا أن يتماشى أيضًا مع ما قاله ألتمان علنًا.
وقال ألتمان في شهر يونيو: “لا ينبغي الوثوق بأي شخص هنا. ليس لدي أسهم تتمتع بحق التصويت الفائق. لا أريدها. يمكن لمجلس الإدارة إقالتي. أعتقد أن هذا مهم”.
