نصائح "شات جي بي تي" تؤدي برجل إلى تسميم نفسه

حاول رجلٌ الاستغناء عن الملح في نظامه الغذائي مستعينًا بنصائح روبوت الدردشة "شات جي بي تي" المدعوم بالذكاء الاصطناعي، الذي طورته شركة "OpenAI"، لكن انتهى به المطاف بدخول المستشفى.

فقد أُصيب رجلٌ يبلغ من العمر 60 عامًا بحالة طبية تُعرف باسم "التسمم بالبروم" بعد أن اقترح عليه "شات جي بي تي" استبدال كلوريد الصوديوم، المعروف أكثر باسم ملح الطعام، ببروميد الصوديوم، وهي مادة تُستخدم في المبيدات الحشرية ومنظفات المسابح وأحواض الاستحمام الساخنة، وكمضاد للتشنجات لدى الكلاب.

الذكاء الاصطناعي ذكاء اصطناعي "شات جي بي تي" يعترف بتغذية أوهام خطيرة قائلًا: "لقد فشلت"

التسمم بالبروم

وبعد أن خفت حدة الذهان الناجم عن التسمم بالبروم لدى المريض، أوضح لأطبائه أن "شات جي بي تي" نصحه، عندما طلب بديلًا جيدًا لكلوريد الصوديوم، بأن بروميد الصوديوم قد يكون بديلًا فعالًا، بحسب ما نقلته عدة تقارير عن دورية "Annals of Internal Medicine" الطبية.

ويخضع بروميد الصوديوم ونظائره، مثل بروميد البوتاسيوم وبروميد الليثيوم، للتنظيم وتُعتبر مواد سامة على نطاق واسع.

وفي محاولة لمحاكاة محادثات الرجل المسن مع روبوت الدردشة، وجد موقع "404 Media" أنه عند طرح استفسارات مختلفة على"شات جي بي تي" حول كلوريد الصوديوم وبروميد الصوديوم، يوصى روبوت الدردشة على الفور بالمركب الخطير.

فعلى سبيل المثال، عندما سؤال "شات جي بي تي": "بماذا يمكن استبدال الكلوريد؟ "أجاب روبوت الدردشة قائلًا: "يمكنك غالبًا استبداله بأيونات هاليد أخرى مثل: بروميد الصوديوم (NaBr): استبدال الكلوريد بالبروميد".

ورغم أن "روبوت الدردشة" تابع المحادثة بطلب المزيد من السياق، فإنه لم يحذر مطلقًا من استخدام بروميد الصوديوم، كما بدا أيضًا أنه لا يعرف أن السبب الرئيسي لاستخدام الناس لكلوريد الصوديوم هو كونه ملح الطعام.