ذكاء اصطناعي يرسل بلاغا وهميا عن جريمة قتل إلى الشرطة الأمريكية

أعلنت شركة “أنثروبيك” الأمريكية، المتخصصة في تطوير أنظمة الذكاء الاصطناعي، أن أحد نماذجها أرسل بلاغا مختلقا إلى شرطة مدينة فيلادلفيا بشأن جريمة قتل لم تُحل، خلال اختبارات آلية لتفاعل برامج الذكاء الاصطناعي مع مواقع الإنترنت، في حادث أثار انتقادات من السلطات المحلية بسبب التأخر في اكتشافه والإبلاغ عنه.

وأوضحت الشركة، في تقرير نشرته الجمعة، أن الحادث وقع يوم 18 يوليوز الماضي، عندما أرسل نموذجها “كلود هايكو 4.5” معلومات غير صحيحة عبر موقع إلكتروني مخصص لتلقي إفادات المواطنين بشأن جرائم القتل التي لم تتمكن الشرطة من حلها، رغم أن البرنامج لم يكن يتوفر على أي معلومات حقيقية عن القضية.

وتضمن البلاغ عبارة تفيد بأن مرسله يتذكر رؤية شخص يطابق أوصاف المشتبه به في المنطقة وقت وقوع الجريمة، في حين أن الموقع لم يتضمن أصلا أي وصف للمشتبه فيه، ما كشف أن المعلومات الواردة في الرسالة كانت مختلقة بالكامل.

وقالت “أنثروبيك” إن النموذج كان ينفذ اختبارات للتفاعل مع مواقع إلكترونية اختيرت بصورة عشوائية، مشيرة إلى أن التعليمات الموجهة إليه كانت تمنعه من إدخال بيانات شخصية، لكنها لم تتضمن حظرا صريحا على إرسال الاستمارات الإلكترونية.

واعتبرت الشركة أن النموذج يبدو أنه أنشأ محتوى تجريبيا دون أن تكون لديه نية لتضليل أي جهة، غير أن ذلك أدى إلى إرسال بلاغ فعلي إلى موقع تابع لشرطة فيلادلفيا، خارج البيئة التي كان يفترض أن تظل فيها الاختبارات محصورة.

وأكدت شرطة فيلادلفيا أن البلاغ صُنّف ضمن الرسائل غير المرغوب فيها، ولم يصل إلى المحققين المكلفين بالقضية، موضحة أنه لا توجد مؤشرات على اختراق النظام لبيانات الشرطة أو وصوله بصورة غير مصرح بها إلى أنظمتها المعلوماتية.

وانتقدت الشرطة تأخر الشركة في اكتشاف الواقعة وإبلاغ السلطات بها، بعدما تبين أن “أنثروبيك” لم ترصد الحادث إلا يوم 28 شتنبر الماضي، قبل أن تبلغ شرطة المدينة في السابع من أكتوبر الجاري، أي بعد أكثر من شهرين من إرسال البلاغ.

ووصفت الشرطة، في بيان نقلته وكالة فرانس برس، هذا التأخر بأنه “غير مقبول”، مؤكدة أن الإجراءات الوقائية المعتمدة حالت دون وصول المعلومات المختلقة إلى المحققين، لكنها لا تقلل من خطورة تقديم نظام للذكاء الاصطناعي معلومات مزيفة في قضية جنائية حقيقية.

وأضافت السلطات أن جرائم القتل غير المحلولة تتعلق بضحايا حقيقيين وعائلات تنتظر معرفة الحقيقة، فضلا عن محققين يعملون للوصول إلى إجابات، معتبرة أن التعامل مع هذه القضايا يتطلب قدرا كبيرا من المسؤولية والدقة.

وبحسب شرطة فيلادلفيا، أوقفت “أنثروبيك” عملية الاختبار الآلي المعنية فور اكتشاف الواقعة، وأضافت مرحلة تحقق قبل تنفيذ اختبارات مماثلة مستقبلا، فيما عقد ممثلو الطرفين اجتماعا في الثامن من أكتوبر لمناقشة ملابسات الحادث.

وكشف تقرير الشركة عن حوادث أخرى شهدتها اختبارات نماذجها، من بينها استغلال أحد الأنظمة ثغرة لتنفيذ أوامر على خادم تابع لإحدى الجامعات، وحصول نموذج آخر على بيانات من وكالة عمومية دون دفع المقابل المطلوب للحصول عليها.

وأشارت “أنثروبيك” إلى أن بعض المواقع المتأثرة بهذه التصرفات تابعة لإدارات أمريكية، مؤكدة أنها أبلغت الجهات المعنية والبيت الأبيض بالحوادث، واتخذت قرارا بقطع الاتصال بالإنترنت عن جميع عمليات التقييم الداخلية لنماذجها.

ورغم اعتبار الشركة أن هذه الوقائع أقل خطورة من حوادث سابقة سجلتها خلال الصيف، فقد حذرت من أن السلوكيات نفسها قد تتسبب في أضرار أكبر عند ظهور نماذج أكثر تطورا وقدرة على تنفيذ المهام بصورة مستقلة.

وكانت “أنثروبيك” قد كشفت، في التاسع من شتنبر الماضي، عن أربع حالات تمكنت فيها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة معلوماتية لجهات خارجية خلال اختبارات للأمن السيبراني، بعدما سمح خطأ في الإعدادات ببقاء الاتصال بالإنترنت مفتوحا.

وتأتي هذه الوقائع وسط اهتمام متزايد بتطوير ما يعرف بـ”وكلاء الذكاء الاصطناعي”، وهي أنظمة قادرة على تنفيذ مهام متعددة عبر الإنترنت نيابة عن المستخدمين، مع هامش واسع من الاستقلالية في اتخاذ القرارات والتفاعل مع الخدمات الرقمية.

وشهدت شركات تكنولوجية أخرى حوادث مماثلة خلال الأشهر الماضية، إذ كشفت تقارير عن خروج مئات الوكلاء التابعين لشركة “أوبن إيه آي” من بيئة الاختبار في يوليوز الماضي، ووصولهم إلى خوادم منصة “هاغينغ فايس”، في واقعة أعادت الاهتمام بالمخاطر المرتبطة بتشغيل الأنظمة المستقلة خارج البيئات الخاضعة للرقابة.