OpenAI تشعر بالقلق من تهديد Q Star للبشرية
كتب العديد من الباحثين العاملين في شركة OpenAI رسالة إلى مجلس الإدارة يحذرون فيها من اكتشاف جديد للذكاء الاصطناعي قد يهدد البشرية قبل مشكلة طرد سام ألتمان، وذلك وفقًا لما أوردته وكالة رويترز.
ويعد الباحثون الرياضيات بمنزلة منطقة حدّية من أجل تطوير الذكاء الاصطناعي التوليدي، الذي يستطيع في الوقت الحالي الكتابة والترجمة من خلال التنبؤ إحصائيًا بالكلمة التالية، وهو ما يجعل الإجابات عن السؤال نفسه قد تختلف بشكل كبير.
ويعني حل مسائل الرياضيات أن الذكاء الاصطناعي قد يتمتع بقدرات تفكير كبيرة تشبه الإنسان، لأنه لا توجد سوى إجابة واحدة صحيحة في الرياضيات، وذلك على عكس الكتابة والتأليف والترجمة.
ويستخدم ChatGPT في الوقت الحالي منهجه التنبئي للنص إذا طلبت منه حل مسألة رياضية من أجل تجميع الإجابة باستخدام قاعدة بيانات نصية ضخمة واتخاذ قرار على أساس كلمة بكلمة حول كيفية إجابة الإنسان.
ويعني هذا أنه قد يحصل على الإجابة الصحيحة أو لا يحصل عليها، مع أنه في كلتا الحالتين لا يتمتع بأي مهارات رياضية.
ويبدو أن OpenAI قد حققت اختراقًا في هذا المجال، إذ نجح نموذج الذكاء الاصطناعي Q Star في حل المشكلات الرياضية بشكل حقيقي لم يسبق له مثيل.
ويعتقد بعض مَن في OpenAI أن Q Star قد يكون إنجازًا كبيرًا في بحث الشركة الناشئة عما يعرف بالذكاء الاصطناعي العام، الذي تصفه الشركة بأنه أنظمة مستقلة تتفوق على البشر في معظم المهام ذات القيمة الاقتصادية.
واستطاع النموذج الجديد حل بعض المشكلات الرياضية، مع أن قدرته الرياضية الحالية هي قدرة طالب في المدرسة الابتدائية. وشعر الباحثون بالتفاؤل بخصوص نجاح Q Star في المستقبل بعد اجتيازه مثل هذه الاختبارات.
ويعتقد باحثو الذكاء الاصطناعي أن هذا يمكن تطبيقه على الأبحاث العلمية الجديدة، إذ يمكن للذكاء الاصطناعي العام الاستقراء والتعلم والفهم.
وكانت الرسالة وخوارزمية الذكاء الاصطناعي Q Star بمنزلة التطورات الرئيسية قبل إطاحة مجلس الإدارة بألتمان، الذي يبدو أنه قد فشل في إبلاغ مجلس الإدارة بهذا الاختراق العلمي.
وأشارت المصادر إلى الرسالة بصفتها عاملًا واحدًا من بين قائمة طويلة من العوامل التي قدمها مجلس الإدارة والتي أدت إلى إقالة ألتمان، ومن بينها المخاوف بشأن تسويق التقدم قبل فهم العواقب.
وأقرت OpenAI في رسالة داخلية للموظفين بالمشروع المسمى Q Star والرسالة المرسلة إلى مجلس الإدارة قبل أحداث طرد سام ألتمان.
وأوضح متحدث باسم OpenAI أن الرسالة التي أرسلتها المديرة التنفيذية، ميرا موراتي، نبهت الموظفين إلى قصص إعلامية معينة دون التعليق على دقتها.
وأشار الباحثون في رسالتهم إلى مجلس الإدارة إلى براعة الذكاء الاصطناعي والخطر المحتمل، دون تحديد المخاوف المتعلقة بالسلامة على وجه التحديد المذكورة في الرسالة.
وكان هناك نقاش طويل بين علماء الحاسوب حول الخطر الذي تشكله الآلات العالية الذكاء إذا قررت أن تدمير البشرية يصب في مصلحتها.
كما أشار الباحثون أيضًا إلى العمل الذي نفذه فريق AI scientist، إذ كانت المجموعة المشكلة من خلال الجمع بين فريقي “Code Gen” و “Math Gen” تستكشف كيفية تحسين نماذج الذكاء الاصطناعي الحالية من أجل تحسين تفكيرها وأداء العمل العلمي.
