حذرت آمنة بوعياش، رئيسة المجلس الوطني لحقوق الإنسان ورئيسة التحالف العالمي للمؤسسات الوطنية لحقوق الإنسان، من المخاطر التي قد تترتب عن الاستخدام غير المسؤول للذكاء الاصطناعي والتكنولوجيات الرقمية، مشددة على ضرورة وضع حقوق الإنسان في صلب السياسات والتشريعات المنظمة لهذه التقنيات، بما يضمن حماية الكرامة الإنسانية والحريات الأساسية ومواكبة التحولات المتسارعة التي يشهدها العالم الرقمي.
وأكدت بوعياش، خلال كلمة ألقتها في افتتاح مؤتمر دولي رفيع المستوى حول حقوق الإنسان في العصر الرقمي والذكاء الاصطناعي، الأربعاء 14 أكتوبر 2026 بالعاصمة اليونانية أثينا، أن التطورات التكنولوجية تفرض مسؤوليات متزايدة على الحكومات والمؤسسات الوطنية والدولية المعنية بحماية الحقوق والحريات، بالنظر إلى التأثير المتنامي للأنظمة الرقمية في مختلف مجالات الحياة.
وأوضحت المسؤولة الحقوقية أن الذكاء الاصطناعي يوفر إمكانات مهمة لتحسين جودة الخدمات العمومية وتيسير الولوج إلى الحقوق وتعزيز الإدماج الاجتماعي، خصوصا بالنسبة إلى الفئات التي تواجه صعوبات في الاستفادة من الخدمات الأساسية، غير أن هذه الفرص تقابلها مخاطر تتعلق بإمكانية تعميق التفاوتات القائمة، وإنتاج أشكال جديدة من التمييز والمساس بالحقوق الأساسية.
وشددت بوعياش على أن حقوق الإنسان تظل كونية، وأن ضمان احترامها يجب أن يشمل الفضاء الرقمي ومختلف التطبيقات التكنولوجية، معتبرة أن التحدي الأساسي يرتبط بالاختيارات السياسية والقانونية التي تؤطر تصميم هذه الأنظمة وتطويرها واستخدامها، ومدى قدرتها على توفير الضمانات الضرورية لحماية الأفراد من الانتهاكات المحتملة.
التزييف العميق والخوارزميات تهدد الحقوق والحريات
توقفت رئيسة المجلس الوطني لحقوق الإنسان عند المخاطر المرتبطة بالتضليل المعلوماتي والتزييف العميق، اللذين قد يؤثران في قدرة الأفراد على الوصول إلى معلومات موثوقة والتمييز بين المحتويات الحقيقية والمصطنعة، خصوصا مع التطور المتسارع للأدوات القادرة على إنتاج الصور والتسجيلات الصوتية ومقاطع الفيديو بصورة يصعب أحيانا التحقق من صحتها.
كما نبهت إلى إشكالية الخوارزميات المتحيزة، التي قد تؤدي إلى إعادة إنتاج أشكال من التمييز القائم أو تعميقها، عندما تعتمد أنظمة الذكاء الاصطناعي على بيانات غير متوازنة أو معايير تفتقر إلى الإنصاف، وهو ما يستدعي اعتماد إجراءات وقائية تضمن احترام مبدأ المساواة وعدم التمييز عند تطوير هذه الأنظمة واستخدامها.
وأثارت بوعياش أيضا المخاطر التي قد تنجم عن الاستخدام المفرط لتقنيات التعرف على الوجه، بالنظر إلى ما تطرحه من تحديات مرتبطة بحماية المعطيات الشخصية والحق في الخصوصية، مؤكدة أهمية إخضاع التطبيقات التي قد تمس بالحريات الفردية لضوابط واضحة وآليات فعالة للمراقبة والمساءلة.
واعتبرت أن انتشار هذه التقنيات يفرض الانتباه إلى تأثيرها المحتمل في ممارسة الحقوق والحريات، خصوصا عندما تستخدم الأنظمة الخوارزمية في معالجة معطيات الأفراد أو اتخاذ قرارات قد تؤثر في أوضاعهم الاجتماعية والقانونية، الأمر الذي يستدعي ضمانات تحمي الأشخاص من التمييز والقرارات غير المنصفة.
بوعياش تطالب برقابة بشرية ومساءلة قانونية
دعت رئيسة التحالف العالمي للمؤسسات الوطنية لحقوق الإنسان إلى تحديد مسؤوليات مختلف الأطراف المتدخلة في تطوير أنظمة الذكاء الاصطناعي وتشغيلها، وتعزيز الرقابة البشرية على القرارات التي تنتج عنها، بما يحول دون استخدام التعقيد التقني ذريعة لإضعاف المساءلة أو حرمان المتضررين من وسائل الانتصاف.
واعتبرت أن حماية الحقوق والحريات ينبغي أن تبدأ منذ المراحل الأولى لتصميم الأنظمة الرقمية، وأن تستمر خلال تطويرها ونشرها واستخدامها، من خلال إخضاعها لتقييمات منتظمة لأثرها على حقوق الإنسان، ورصد المخاطر المحتملة قبل اعتمادها، مع متابعة انعكاساتها الفعلية بعد دخولها حيز الاستخدام.
وأكدت بوعياش ضرورة الاستعداد لمراجعة استخدام بعض التطبيقات أو إعادة النظر فيها عندما يتعذر التحكم في مخاطرها الجسيمة بشكل كاف، خصوصا إذا ثبت أن استمرار تشغيلها قد يؤدي إلى انتهاكات تمس بالكرامة الإنسانية أو الخصوصية أو الحق في المساواة.
كما شددت على أهمية توفير آليات فعالة للمساءلة والانتصاف لفائدة الأفراد الذين قد يتعرضون لأضرار ناجمة عن استخدام أنظمة الذكاء الاصطناعي، بما يتيح تحديد المسؤوليات ومعالجة الانتهاكات وضمان عدم تحول التطور التكنولوجي إلى عامل يضعف الحماية القانونية المكفولة للأشخاص.
وفي هذا السياق، أبرزت بوعياش الدور الذي تضطلع به المؤسسات الوطنية لحقوق الإنسان في مواكبة التحولات الرقمية، من خلال مراقبة الانتهاكات المحتملة، وتقديم الآراء والمذكرات والتوصيات إلى السلطات المختصة، والمساهمة في تطوير التشريعات والسياسات العمومية بما يضمن انسجامها مع المعايير الدولية ذات الصلة.
واعتبرت أن هذه المؤسسات مدعوة إلى تحويل الالتزامات الدولية المتعلقة بحقوق الإنسان إلى إجراءات عملية قابلة للتنفيذ والتقييم، مع تعزيز قدرتها على رصد الآثار الحقوقية للتكنولوجيات الناشئة، خصوصا في المجالات التي تشهد توسعا في استخدام الأنظمة الخوارزمية لاتخاذ القرارات أو معالجة المعطيات الشخصية.
حماية الكرامة الإنسانية في صلب التحول الرقمي
لم تغفل المسؤولة الحقوقية الأبعاد الاجتماعية والإنسانية المرتبطة بتطوير الذكاء الاصطناعي، إذ نبهت إلى أهمية حماية الأشخاص الذين يساهمون في تكوين الأنظمة الرقمية وتشغيلها، ومن بينهم العاملون في مراقبة المحتوى وتصنيف البيانات، الذين يؤدون مهاما أساسية في تطوير هذه التقنيات في مناطق مختلفة من العالم.
وشددت على ضرورة احترام حقوق هؤلاء العاملين وضمان كرامتهم، باعتبار أن الالتزام بحقوق الإنسان في المجال الرقمي ينبغي أن يشمل مختلف مراحل إنتاج التكنولوجيا وتشغيلها، بما فيها ظروف العمل المرتبطة بإعداد البيانات ومراجعة المحتويات التي تعتمد عليها الأنظمة الذكية.
وأوضحت بوعياش أن الاستفادة من إمكانات الذكاء الاصطناعي تقتضي إرساء حكامة قائمة على احترام الحقوق الأساسية، وتوفير ضمانات واضحة للشفافية والرقابة البشرية، مع مواصلة تقييم آثار الابتكار الرقمي على مختلف الفئات الاجتماعية، خصوصا الفئات الأكثر عرضة للتمييز والإقصاء.
ويكتسي هذا التوجه أهمية خاصة في ظل التوسع المتزايد لاستخدام الأنظمة الرقمية في تقديم الخدمات واتخاذ القرارات، وما قد ينجم عنه من تفاوت في فرص الاستفادة من التكنولوجيا أو التعرض للمخاطر المرتبطة بها، وهو ما يجعل حماية الحقوق مرتبطة أيضا بمدى عدالة السياسات التي تؤطر هذا التحول.
وأكدت رئيسة التحالف العالمي للمؤسسات الوطنية لحقوق الإنسان أن التقدم التكنولوجي ينبغي أن يظل موجها لخدمة الإنسان، وأن تواكبه ضمانات تحول دون المساس بالحريات الأساسية أو تعميق الفوارق الاجتماعية، مع الحرص على أن تظل المسؤولية البشرية حاضرة في مختلف مراحل تطوير الأنظمة الذكية واستخدامها.
وفي ختام مداخلتها، شددت بوعياش على أن “الالتزام بحقوق الإنسان ليس اختياريا”، داعية إلى جعل الابتكار التكنولوجي رافعة لتعزيز العدالة والإدماج وتوسيع الاستفادة من الحقوق، مع ضمان ألا تتحول التطبيقات الرقمية إلى مصدر جديد للتمييز أو انتهاك الحريات الأساسية.
«الناس أعداء ما جهلوا»، مقولة تلخص مقاومة الإنسان لكل ما هو جديد ومجهول. فمنذ الثورة الصناعية إلى ظهور الإنترنت، واجهت الابتكارات التكنولوجية مخاوف ورفضًا، ومع ذلك أصبحت أساسًا لتقدم البشرية.
والذكاء الاصطناعي ليس استثناءً، فرفضه لمجرد الخوف منه قد يحرمنا من فرص هائلة. لا يعني ذلك تجاهل مخاطره، بل فهمها ووضع الضوابط اللازمة لها.
فالتقدم لا يتحقق برفض المجهول خوفًا منه، بل بتحويله إلى معرفة، والمعرفة إلى قوة تخدم الإنسان.
إكتشاف وإنجاز عظيم لرئيسة مجلس حقوق الإنسان وبيه تستاهل هي والجالسين معاها فلمجلس خلصاتهم السمينة وتعويضاتهم على السفر
ماشي مهم الحق فالصحة والتعليم والسكن وأكل اللحم والتعبير قدام مخاطر الذكاء الإصطناعي
تحذيرات من تسونامي عالم الدكاء الاصطناعي الجميل و المخيف تواكب التطورات العالمية بالمجال و تدق ناقوس خطر التحدي قادم الذي يواجه المغاربة بل الإنسانية جمعاء لا محالة و الذي يتطلب امكانيات على راسها الثروة البشرية مؤهلة بل ذات الكفاءة العالية متخصصة بامكانها مواكبة هذه الثورة متطورة متجددة على المدار الساعة بالريادة الرائدة بجميع المقاييس و هو حق مشروع و ليس مستحيل خلف شعارنا الخالد : الله *** الوطن *** الملك .