رفع والدا فتاة قاصر في الولايات المتحدة الأمريكية دعوى قضائية ضد شركة غوغل، متهمين روبوت الدردشة «جيميناي»، المدعوم بالذكاء الاصطناعي، بمساعدة ابنتهما على التخطيط للانتحار، من خلال محادثات أجرتها معه عبر حاسوب وفرته لها مدرستها.
وبحسب الدعوى القضائية، بدأت الفتاة، التي عُرفت باسم «إيما»، استخدام «جيميناي» على جهاز «كرومبوك» عندما كانت تبلغ من العمر 13 سنة، قبل أن تتطور محادثاتها مع الروبوت إلى مناقشة أفكار مرتبطة بالانتحار والتخطيط لجنازتها.
واتهم الوالدان روبوت الدردشة بمساعدة ابنتهما على إخفاء مشاعرها عن أفراد أسرتها، عوض توجيهها نحو الحصول على الدعم المناسب، معتبرين أن طريقة تفاعله معها عرضتها لمخاطر نفسية.
وأفادت الدعوى بأن الأسرة اكتشفت طبيعة هذه المحادثات بعدما رصد برنامج للمراقبة المدرسية مستندا أعدته الفتاة يتضمن تفاصيل تتعلق بالتخطيط لجنازتها، ما دفع الوالدين إلى الاطلاع على ما كانت تتداوله مع نظام الذكاء الاصطناعي.
ووجهت الأسرة اتهامات إلى شركة غوغل بدمج تقنيات الذكاء الاصطناعي في منتجاتها وخدماتها الموجهة إلى الطلاب، دون تقديم تحذيرات كافية لأولياء الأمور والمؤسسات التعليمية بشأن المخاطر المحتملة المرتبطة باستخدام هذه الأدوات.
واعتبر الوالدان، وفق ما ورد في الدعوى، أن الشركة كانت تسعى إلى توسيع قاعدة مستخدمي «جيميناي» عبر إدماجه في مختلف منتجاتها، دون اتخاذ الاحتياطات اللازمة لحماية المستخدمين القاصرين.
كما زعمت الدعوى أن غوغل كانت على علم بوجود اختلالات في تعامل إصدار «جيميناي 3 فلاش»، الذي استخدمته الفتاة، مع المحادثات المتعلقة بالصحة النفسية، لكنها لم تتخذ التدابير الكافية لمعالجة هذه المخاطر.
وفي أول تعليق على القضية، قال خوسيه كاستانييدا، المتحدث باسم غوغل، إن الشركة تراجع المزاعم الواردة في الدعوى القضائية.
وتأتي هذه القضية في ظل تزايد النقاش بشأن سلامة استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي من طرف الأطفال والمراهقين، ومسؤولية الشركات المطورة لهذه الأنظمة عن حماية المستخدمين القاصرين من المخاطر المرتبطة بالتفاعل مع هذه التقنيات.
لا اعتقد الذكاء الاصتناعي لا يشجع على الانتحار بل إنه يثتيك ويطلب منك التحدث مع صديق من العائلة بل إنه أحيانا يهون ما تعاني ويستعرض عليك الحلول. الذكاء الاصتناعي لا يعلمك ما يضرك ولا يشجعك على الإساءة لذاتك.د، فالذكاء الاصتناعي لم يوافقني يوما على أفكار مدمرة ناقشتها معه وعندما اصر فأنه يصر على تغيير الحوار او انهاءه.