ذكاء اصطناعي

أخطاء الذكاء الاصطناعي

 زياد آل الشيخ
زياد آل الشيخ
نشر في: آخر تحديث:
وضع القراءة
100% حجم الخط

استمع للمقال النص المسموع تلقائي ناتج عن نظام آلي

0:00
3 دقائق للقراءة

تحدث الخبراء عن أخطار الذكاء الاصطناعي من زوايا مختلفة، منها ما يحذر من نمو قدراته حتى يصبح خارج السيطرة، ومنها ما يحذر من استخدامه لخدمة فئات دون أخرى. إذا كان خطر الذكاء الاصطناعي مستقبلاً مرتبطاً بقدرته الفائقة، فأخطاره اليوم على العكس مرتبطة بضعف قدرته.

من مشكلات تطبيقات الذكاء الاصطناعي، أن التطبيق يجيب عن أكثر الأسئلة التي تطرح عليه بثقة دون اعتبار للأخطاء. يتحدث التطبيق بلغة واثقة، أقرب إلى الجزم، أن الإجابة صحيحة دون تردد، تتفاوت النبرة الواثقة بين التطبيقات وبين الإجابات، إنما إجمالاً يتلقى المستخدم إجابة يفترض صحتها بنسبة كبيرة، وهي ليست كذلك، مقابل الثقة التي يتمتع بها التطبيق عند الإجابة عن أكثر الأسئلة دقة، يقع في أخطاء بدهية.

لا يمكن فهم الأخطاء التي يقع فيها التطبيق إلا إذا فهمنا منهجيته في الإجابة، مهما كانت الإجابة سهلة أو صعبة، يتبع التطبيق المنهجية نفسها إجمالاً. مع كل سؤال يطرح عليه يضع التطبيق مجموعة من الإجابات المحتملة، وبناء على الخوارزميات التي تعمل على تصنيف الإجابات، تمنح كل إجابة محتملة درجة تمثل احتمالية إحصائية لجودة الإجابة، إذا كانت الإجابة مثلاً وردت في موسوعة دائرة المعارف البريطانية، تكون الإجابة مفضلة بدرجة أعلى إذا قورنت بإجابة أخرى وردت في مقال منشور في موقع للتواصل الاجتماعي.

مصادر المعلومات التي تمثل العصب الفعلي لمجمل الإجابات التي تقدمها تطبيقات الذكاء الاصطناعي ليست كلها بجودة الموسوعات العلمية ولا برداءة مواقع التواصل الاجتماعي، إنما خليط بينهما، كل ما يتوفر على الإنترنت من معلومات في مواقع موسوعية مثل ويكيبيديا، أو مقالات علمية محكمة، أو دردشات تصل لها مواقع البحث، كلها يدخل في صناعة إجابات التطبيق، حسب التصنيف الذي يستخدمه التطبيق، تتكون الإجابة أحياناً من شذرات متفرقة من الأفكار التي تتسرب إليها انحيازات عنصرية وتعبيرات متطرفة يصعب التحكم بها، فلا ترتبط جودة تطبيقات الذكاء الاصطناعي بالخوارزميات التي بداخله، إنما بالبيانات التي يتلقاها من مصادر مختلفة.

جودة البيانات مرتبطة بحجمها وانتشارها، على افتراض أن البيانات الصحيحة هي التي يتفق عليها الأكثرية، وهو ما لا يقبل من تطبيق يتصرف باعتباره خبيراً، فالأكثرية ليست معياراً يعتمد عليه بالضرورة، مع ما في منهجية الاحتكام إلى الأكثرية من عيوب، تقع تطبيقات الذكاء الاصطناعي في أخطاء يصعب تفسيرها، مثل تلفيق إجابات من مصادر لا وجود لها، أو الهلوسة بإجابات لا محل لها من الإعراب. هذه المشكلات وغيرها محل بحث لتجاوزها، لكن يبقى جذر المشكلة عصياً على الحل، تطبيقات الذكاء الاصطناعي لا تضيف شيئاً جديداً إلى العالم، إنما تعيد تصنيف ما هو موجود وتقدمه في قالب جديد.

* نقلا عن صحيفة "الرياض"

تنويه: جميع المقالات المنشورة تمثل رأي كتابها فقط.
انضم إلى المحادثة
الأكثر قراءة مواضيع شائعة

تم اختيار مواضيع "العربية" الأكثر قراءة بناءً على إجمالي عدد المشاهدات اليومية. اقرأ المواضيع الأكثر شعبية كل يوم من هنا.

  • وضع القراءة
    100% حجم الخط