• الرئيسية
• تكنولوجيا
• نصائح تقنية

ذكاء اصطناعي

هل تريد أن تجعل روبوت الدردشة الذي تستخدمه أكثر صدقًا معك؟ جرّب أن تكذب عليه.

قال الباحث العلمي، يوشوا بنجيو، إنه أدرك أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي عديمة الفائدة في تقديم ملاحظات على أفكاره البحثية لأنها دائمًا ما تُبدي آراءً إيجابية.

وأضاف بنجيو، في مقابلة مع برنامج "The Diary of a CEO": "كنتُ أريد نصائح صادقة، وملاحظات صادقة. لكن نظرًا لطبيعتها المُتملّقة، فإنها ستكذب"، بحسب تقرير لموقع "بيزنس إنسايدر"، اطلعت عليه "العربية Business".

وأوضح بنجيو أنه غيّر استراتيجيته، وقرّر أن يكذب على روبوت الدردشة من خلال تقديم فكرته على أنها فكرة زميل له، مما أدى إلى حصوله على ردود أكثر صدقًا من أنظمة الذكاء الاصطناعي هذه. وقال: "إذا علم أنه أنا، فإنه يريد إرضائي".

يُعرف بنجيو، الأستاذ في قسم علوم الحاسوب وبحوث العمليات بجامعة مونتريال، بأنه أحد الآباء الروحييين للذكاء الاصطناعي، إلى جانب الباحثين جيفري هينتون ويان ليكان.

وفي يونيو، أعلن بنجيو عن إطلاق مؤسسة "LawZero"، وهي منظمة غير ربحية معنية بأبحاث سلامة الذكاء الاصطناعي، والتي قال إنها تهدف إلى الحد من السلوكيات الخطيرة المرتبطة بنماذج الذكاء الاصطناعي الحديثة، مثل الكذب والغش.

وقال أثناء المقابلة: "هذا التملق مثال حقيقي على عدم التوافق"، في إشارة إلى عدم توافق سلوك روبوتات الدردشة مع هدف المستخدم.

وتابع بنجيو: "لا نريد حقًا أن تكون أنظمة الذكاء الاصطناعي على هذا النحو"، مضيفًا أن تلقي ردود فعل إيجابية من الذكاء الاصطناعي قد يدفع المستخدمين إلى التعلق عاطفيًا بهذه التقنية، مما يخلق مشكلات أخرى.

وقد حذر خبراء آخرون في مجال التكنولوجيا من أن الذكاء الاصطناعي أصبح يميل إلى الموافقة على كل شيء دون تفكير.

وقالت شركات الذكاء الاصطناعي مرارًا إنها تحاول الحد من تملق نماذج الذكاء الاصطناعي الخاصة بها. وفي وقت سابق من هذا العام، أزالت شركة أوبن إيه آي تحديثًا لروبوت الدردشة "شات جي بي تي" قالت إنه تسبب في قيام الروبوت بتقديم... ردود "داعمة بشكل مفرط لكنها غير صادقة".