ما أسباب هلوسة روبوتات الذكاء الاصطناعي؟
أصبحت روبوتات الدردشة المدعومة بالذكاء الاصطناعي جزءًا لا يتجزأ من حياتنا اليوم، ومع تقدم هذه الروبوتات، ظهرت المشكلة المثيرة للقلق المعروفة باسم الهلوسة (Hallucinate)، وهي مشكلة تشير إلى تقديم روبوت الدردشة معلومات غير دقيقة أو غير صحيحة؛ مما قد يؤدي إلى عواقب وخيمة خاصةً في المجالات الحيوية مثل: الرعاية الصحية أو الاستشارة القانونية؛ لذلك أصبح فهم سبب هلوسة روبوتات الدردشة المدعومة بالذكاء الاصطناعي أمرًا ضروريًا للتقليل من هذه المشكلة وتعزيز موثوقية الروبوتات.
أولًا: فكرة عامة عن طريقة عمل روبوتات الدردشة المدعومة بالذكاء الاصطناعي:
تعمل روبوتات الدردشة المدعومة بالذكاء الاصطناعي بواسطة خوارزميات متقدمة تمكنها من فهم اللغة البشرية وتوليدها، وهناك نوعان رئيسيان من هذه الروبوتات، هما: الروبوتات المعتمدة على القواعد، والروبوتات التوليدية.
تتبع روبوتات الدردشة المعتمدة على القواعد قواعد أو نصوص برمجية محددة سابقًا، وتعمل هذه الروبوتات ضمن نطاق محدود وتعتمد على كلمات رئيسية معينة لتقديم استجابات دقيقة، وبإمكانها التعامل مع المهام المباشرة مثل: الإجابة عن الأسئلة الشائعة لخدمة العملاء، ولديها قدرات محدودة للتعامل مع الاستفسارات الأكثر تعقيدًا أو غير المتوقعة.
أما الروبوتات التوليدية، فتعتمد على التعلم الآلي ومعالجة اللغات الطبيعية (NLP) لتوليد الاستجابات، إذ تُدرب على كميات كبيرة جدًا من البيانات وأنماط التعلم في اللغة البشرية، ومن الأمثلة الشائعة روبوت ChatGPT الذي يعتمد على نماذج GPT من OpenAI.
يمكن لهذه الروبوتات إنشاء استجابات أكثر مرونة وذات صلة بالسياق؛ مما يجعلها أكثر تنوعًا وقابلية للتكيف من روبوتات الدردشة القائمة على القواعد، لكن هذه المرونة تجعلها أيضًا أكثر عرضة للهلوسة؛ لأنها تعتمد على الاحتمالات لتوليد الاستجابات.
ثانيًا: ما هلوسة الذكاء الاصطناعي؟
كما ذكرنا سابقًا، تشير هلوسة روبوتات الذكاء الاصطناعي إلى تقديم روبوتِ الدردشة محتوىً غير صحيح، وقد يكون بسيطًا مثل: إعطاء تاريخٍ خطأ لحدث ما، أو شيء أكثر تعقيدًا، مثل: توليد معلومات خطأ بنحو كامل أو تقديم توصية طبية غير مناسبة.
لقد ظهر مفهوم هلوسة الذكاء الاصطناعي منذ الأيام الأولى لظهور التعلم الآلي، وحتى الروبوتات الأولية البسيطة نسبيًا كانت ترتكب في كثير من الأحيان بعض الأخطاء الغريبة، مثل: الإشارة إلى أن “باريس هي عاصمة إيطاليا”، ومع تقدم تكنولوجيا الذكاء الاصطناعي، أصبحت الهلوسة أدق وربما أخطر.
ثالثًا: ما أسباب هلوسة الذكاء الاصطناعي؟
تؤدي مجموعة من العوامل دورًا في حدوث هلوسة الذكاء الاصطناعي، وفيما يلي توضيح أبرزها:
مشكلات في جودة البيانات:
تتعلم روبوتات الذكاء الاصطناعي من البيانات التي تُدرَّب عليها؛ لذلك إذا كانت بيانات التدريب متحيزة أو قديمة أو غير دقيقة؛ فإن هذه العيوب ستظهر في المخرَجات التي يقدمها الروبوت، على سبيل المثال: إذا دُرِّب روبوت الدردشة على النصوص الطبية التي تتضمن وصفات قديمة؛ فقد يوصي بعلاجات قديمة أو ضارة.
من ناحية أخرى، إذا كانت البيانات تفتقر إلى التنوع؛ فقد يفشل الروبوت في فهم السياقات خارج نطاق التدريب المحدود؛ مما يؤدي إلى مخرَجات غير صحيحة.
تعقد اللغة البشرية:
اللغة البشرية معقدة بطبيعتها ومليئة بالفروق الدقيقة، وقد تختلف معاني الكلمات والعبارات حسب السياق، وغالبًا تحتاج روبوتات الذكاء الاصطناعي إلى مزيد من التدريب على السياقات المختلفة لتقليل احتمال تقديم معلومات خطأ، لذلك يُعدّ تعقّد اللغات من أبرز أسباب هلوسة روبوتات الذكاء الاصطناعي.
القيود في الخوارزمية:
تعاني خوارزميات الذكاء الاصطناعي الحالية بعض القيود، خاصةً عند التعامل مع المطالبات الطويلة المتتالية؛ مما قد يؤدي إلى إصدار بيانات متضاربة أو غير قابلة للتصديق حتى في المحادثة نفسها، على سبيل المثال: قد يقدم روبوت الذكاء الاصطناعي حقيقة معينة في بداية المحادثة، ثم يناقض نفسه لاحقًا.
رابعًا: التطورات والأبحاث الأخيرة حول هلوسة الذكاء الاصطناعي:
يسعى الباحثون إلى الحد من هلوسة الذكاء الاصطناعي، وقد حققت الدراسات الحديثة تطورات واعدة في العديد من المجالات الرئيسية، ومن الجهود المهمة المبذولة تحسينُ جودة بيانات التدريب من خلال اختيار بيانات أدق وأحدث وأكثر تنوعًا، وتطوير أساليب لتصفية البيانات المتحيزة أو غير الصحيحة والتحقق من أن بيانات التدريب تتضمن سياقات وثقافات مختلفة، ومن خلال تحسين بيانات تدريب نماذج الذكاء الاصطناعي؛ تقل احتمالية حدوث الهلوسة مع اكتساب أنظمة الذكاء الاصطناعي أساسًا أفضل للمعلومات الدقيقة.
من ناحية أخرى، يسعى الباحثون إلى استكشاف طرق لتحسين الفهم السياقي في نماذج الذكاء الاصطناعي، وهذا بدوره يؤدي إلى تحسينات كبيرة في فهم وتوليد استجابات مناسبة للسياق؛ مما يقلل من الهلوسة من خلال السماح للذكاء الاصطناعي بفهم الفروق الدقيقة بنحو أفضل.
بالإضافة إلى ذلك، هناك بعض الابتكارات الجديدة التي تهدف إلى المساعدة في فهم كيفية وصول روبوت الذكاء الاصطناعي إلى نتيجة معينة، وهذا يساعد في تحديد العوامل التي تؤدي إلى الهلوسة والتخفيف منها؛ مما يجعل روبوتات الذكاء الاصطناعي أكثر موثوقية.
خامسًا: أمثلة واقعية على هلوسة الذكاء الاصطناعي:
هناك العديد من الأمثلة الواقعية على هلوسة الذكاء الاصطناعي في القطاعات المختلفة التي تؤدي في بعض الأحيان إلى عواقب وخيمة.
في مجال الرعاية الصحية، اختبرت دراسة أجرتها كلية الطب في جامعة فلوريدا روبوت الدردشة ChatGPT في المجال الطبي بطرح بعض الأسئلة الطبية الشائعة المتعلقة بالمسالك البولية عليه، وقد قدم ChatGPT إجابات صحيحة عن ما نسبته 60% فقط من الأسئلة، ولكنه في كثير من الأحيان، أساء تفسير الإرشادات السريرية، وحذف معلومات سياقية مهمة، وقدم توصيات علاجية غير مناسبة، على سبيل المثال: أوصى ببعض العلاجات دون تعرّف الأعراض المهمة المصاحبة للحالة المرضية؛ مما قد يؤدي إلى تقديم نصائح قد تكون خطرة.
وأما في مجال خدمة العملاء، فقد قدمت روبوتات الدردشة المدعومة بالذكاء الاصطناعي معلومات غير صحيحة في كثير من الحالات، ومن الحالات البارزة ما حصل بسبب خطأ في إجابة روبوت الدردشة الخاص بخدمة العملاء التابع لشركة طيران كندية.
فقد قدم روبوت الدردشة التابع للخطوط الجوية الكندية Air Canada تفاصيل غير دقيقة حول أسعار نوع معين من الرحلات مرتبط بالجنازات؛ إذ يحصل المسافر على تخفيض معين إذا كانت الرحلة بهدف حضور جنازة لقريب توفي حديثًا، وقد أدّى الرد الخطأ من الروبوت إلى فقدان المسافر حقه في استرداد جزء من سعر التذكرة، وقرر مقاضاة الشركة، وقد حكمت المحكمة ضد الخطوط الجوية الكندية، مؤكدة مسؤوليتها عن المعلومات التي يقدمها روبوت الدردشة الآلي الخاص بها.
مثل هذه الحادثة تؤكد أهمية التحديث المنتظم والتحقق من دقة قواعد بيانات روبوتات الدردشة لمنع حدوث مشكلات مماثلة مستقبلًا.
