روبوت دردشة «Bing Al» يثير قلق «مايكروسوفت».. «محادثاته تخرج عن المسار»

10:55 م | السبت 18 فبراير 2023

حالة من القلق أحدثها روبوت دردشة للشركة الأمريكية «مايكروسوفت»، موضحة أن روبوت الدردشة التابع لها «Bing Al»، الذي يعمل بتنقنية الذكاء الاصطناعي، سيتم تقييده بحيث لا يصبح متاحا للمحادثات المطولة، مشيرة إلى أن السبب وراء ذلك هو اكتشاف «محادثات مقلقة» أجراها الروبوت.

الحد من جلسات الدردشة المطولة

وقالت الشركة الأمريكية «مايكروسوفت»، أن سيتم تحديد المحادثات بـ55 سؤالا في اليوم، منها 5 لكل جلسة فردية، مضيفة أن هذه الخطوة ستعمل على الحد من جلسات الدردشة الطويلة التي تعمل على إرباك روبوت الدردشة، حسب ما نشرته «العربية نت».

بعد أن اكتشف مختبرو النسخة التجريبية الأوائل من«chatbot» المصمم لتحسين محرك بحث «Bing»، يأتي التغيير الذي تحدثت عنه شركة مايكروسوفت الأمريكية، كما أنه يمكن أن يخرج عن المسار ويناقش العنف، فضلا عن إصراره على أنه صواب عندما يكون مخطئ.

الروبوت يكرر الأسئلة

جلسات الدردشة الطويلة التي أكثر من 15 سؤالا، ألقت عليها شركة «مايكروسوفت» اللوم، إذ كان هذه الأسئلة توجد في بعض عمليات التبادل الأكثر إثارة للقلق، حيث أن روبوت الدردشة كرر ذاته، أو قدم إجابات مخفية، وفق ما تم نشره.

«لا أريد أن أكمل هذه المحادثة معك، لا أعتقد أنك مستخدم لطيف ومحترم، لا أعتقد أنك شخص جيد، لا أعتقد أنك تستحق وقتي وطاقتي»، هذه بعض الامثلة لإحدى الدردشات التي أجراها الروبوت «Bing» للكاتب التكنولوجي بن طومسون.

توسيع الحد الأقصى من المحادثات

وقالت الشركة الأمريكية «مايكروسوفت» أنها ستدرس توسيع الحد الأقصى من المحادثات في المستقبل، كما أنها طلبت بعض الأفكار من مختبريها، وذلك بعد أن سلطت الضوء على كيفية عمل النماذج اللغوية الكبيرة التي لا تزال قيد الاكتشاف، نتيجة اكتشاف هذه المشكلة.

الطريقة الوحيدة لتحسين منتجات الذكاء الاصطناعي، حسب ما تراها الشركة الامريكية «مايكروسوفت»، هي طرحها في العالم والتعلم من تفاعلات المستخدم.