حوكمة الذكاء الاصطناعي بمنظور حقوق الانسان: زيادة للفرص وتقليل للتحديات

المجلد 14 ، ا لعدد 1 مجلة الحقوق والحريات السنة 2026 ، ص 128 - ص 150 حوكمة الذكاء االصطناعي بم نظور حقوق االنسان: زيادة للفرص وت قليل للتحديات Artificial Intelligence Governance f rom a human rights perspective: Increased opportunities and reduced challenges د. زكية بلهول كلية الحقوق والعلوم السياسية، جامعة سطيف 2 (الجزائر) z .belhoul@univ - setif2.dz تاريخ االرسال: تاريخ القبول: تاريخ النشر: 18 / 12 / 2025 05 / 03 / 2026 11 / 04 / 2026 امللخص: تمتلك تطبيقات الذكاء االصطناعي القدرة على تعزيز حقوق االنسان وترقيتها، وباملقابل تنتج تحديات خطيرة تؤدي النتهاكها، لذا كان هدفنا من هذه ال د راسة التوصل الى كيفية تحقيق التوازن بين تطور الذكاء االصطناعي اآلمن والعادل وحماية وتعزيز حقوق اإلنسان عن طريق حوكمة وفق أسس إنسانية إلدارة مخاطره والتقليل منها. فالذكاء االصطناعي ال ت كون له قيمة مضافة إال إذا كان متسقا مع القيم اإلنسانية وموجها نحو ت حقيق العدل واملساواة و حفظ الكرامة اإلنسانية، لذا يجب اعتماد أطر قانونية شاملة عاملية مُوحّدة قائمة على الحقوق لحوكمته و ض مان نشره بشكل أخالقي يرتكز على القانون الدولي لحقوق االنسان. و يجب على املجتمع الدولي أن يتحرك بحزم الستغالل إمكانيات الذكاء االصطناعي مع تقليل مخاطره. الكلمات املفتاحية: الذكاء االصطناعي – حقوق االنسان - حوكمة - تحديات – فرص. Abstract : Artificial intellig ence applications have the potential to enhance and promote human rights, but conversely, they also produce serious challenges that lead to their violation. Therefore, our aim in this study was to find out how to achieve a balance between the development o f safe and fair artificial intelligence and the protection and promotion of human rights through human -based governance to manage and minimize its risks. 128

د. زكية بلهول Artificial intelligence will only add value if it aligns with human values and is geared towards ach ieving justice, equality, and preserving human dignity. Therefore, comprehensive, unified, and universal legal frameworks based on rights must be adopted to govern it and ensure its ethical deployment grounded in international human rights law. The international community must act decisively to harness the potential of artificial intelligence while mitigating its risks. key words ; Artificial intelligence – human rights – governance – challenges – opportunities . مقدمة: تعد حقوق اإلنسان حقوقا متأصلة في جميع البشر، مهما كانت جنسيتهم، أو مكان إقامتهم، أو نوع جنسهم، أو أصلهم، أو لونهم، أو دينهم، أو لغتهم، أو أي وضع آخر، ولنا جميعا نحن البشر الحق في الحصول على حقوقنا اإلنسانية على قدم املساواة وبدون تمييز. وقد تطورت ال حقوق اإلنسانية بمرور الزمن وازدادت تحديثًا وتعديال ومرونة لتواكب التغيرات املستجدة في العالم، منها الذكاء االصطناعي الذي يعد السمة املميزة الرئيسية للمجتمع الحديث، والذي أثر كثيرا على املعايير املحددة لحياة الناس في املجتمع وممارسة حقوقهم وح رياتهم. و مع ت وسع نطاق تطبيقات الذكاء االصطناعي السريع والتي أصبح تأثيرها على حقوق االنسان قضية محورية تستدعي البحث املعمق، دعا املفوض السامي لألمم املتحدة لحقوق اإلنسان إلى وضع حقوق اإلنسان في صميم هذا التحول خاصة بعد ظهور احتياجات جديدة لم تكن معروفة من قبل، مثل حرية االستخدام وضرورة الدفاع عن مجلة الحقوق والحريات خصوصية األفراد من مخاطر االختراق، وزيادة الوعي بأمن الدول السيبراني لحمايتها من القرصنة الرقمية والتجسس . ونظرًا لكونها قضايا عابرة للحدود بسبب طبيعة التكنولوجيا نفسها، فمن الضروري تنظيم التعامل معها والتحكم في مخاطرها دوليًا، وتش جيع التعاون مع منظمات األمم املتحدة لتنظيمها قانونيًا. لذلك تهدف دراسة حوكمة الذكاء االصطناعي من منظور حقوق اإلنسان إلى استكشاف الطرق العديدة التي يؤثر بها الذكاء االصطناعي سلبًا وإيجابًا على حقوق اإلنسان؛ أي معرفة مدى تأثير الذكاء االصطناعي على التمتع الف علي بحقوق االنسان وتعزيزها والتمكين منها من خالل دراسة الفرص التي يتيحها، وتوضيح التحديات واملخاطر 129

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات القانونية واألخالقية التي تهدد هذه الحقوق وبعض املبادئ الجوهرية فيها، وكذلك تهدف الدراسة لتحديد األطر القانونية واألخالقية التي تحقق التوازن بين التقدم التكن ولوجي العادل واملنظم واآلمن وحماية وتعزيز حقوق اإلنسان وفق أسس إنسانية قائمة على الحقوق. لذلك من املهم جدا أن ندرس العالقة املتداخلة واملعقدة بين حقوق اإلنسان والذكاء االصطناعي السريع ودائم التطور، لنتمكن من تحديد أفضل السبل لتنظيمه بطريقة آمنة تحمي حقوق ا إلنسان وتضمن االستخدام األمثل واملسؤول لهذه التكنولوجيا حتى تكون عادلة وفي خدمة االنسان، تحافظ على ديناميكيتها. والسؤال املطروح هنا هو: ما هي الضوابط واألسس القانونية اإلنسانية التي يجب وضعها ل حوكمة الذكاء االصطناعي بطريقة تواكب سرعة تطوره مع تحقيق التوازن حقوق بين حماية وتعزيز االنسان بزيادة فرصه وت قليل تحدياته ، ليكون بذلك عادال آمنا وفي خدمة اإلنسان بالدرجة األولى؟ ولإلجابة على هذه اإلشكالية تم اعتماد املنهج الوصفي ا لوصف املفاهيم وتفسيرها وشرحها وتفكيكها وإعادة تركيبها في خطة متوازنة بمفهومنا، حيث تم دراس ة آثار الذكاء االصطناعي على حقوق االنسان من خالل التطرق للفرص التي يقدمها والتحديات التي يطرحها في امل بحث االول، ثم تم تحليل منظومة حوكمة قانونية تنظم عمل الذكاء االصطناعي بصفة آمنة وعادلة وفقا لقواعد القانون الدولي لحقوق اإلنسان التي تم وضعها، أو ما يعرف بأنسنة الذكاء االصطناعي وأخلقته لضمان حماية وتعزيز حقوق االنسان في امل بحث الثاني. املبحث األول: آثارالذكاء االصطناعي على حقوق االنسان يعرف الذّكاء االصطناعي بأنه "فرع من علوم الحاسوب يهدف لتوظيف البرامج املحوسبة ألداء مهام تتطلب عموما ذكاء بشريًا، نحو اإلدراك اللّغوي، وتمييز األنماط، وحل املشكالت"،1 وهو من غير مجتمعنا وأثر بشكل عميق على كيفية عيشنا وعملنا وتفاعلنا، ومع تطوره سيستمر تأثيره على حقوق اإلنسان بصفة ديناميكية.2 فمن جهة، 1( أميرة كوّاش، " أثرتقنيّات الذّكاء االصطناعي على حياة وسرديات الفلسطينيّين/ات"، حملة - املركز العربي لتطوير اإلعالم االجتماعي، شباط / فبراير 2 024 ، ص 6. 7/ 2/ 2025. www.7amleh.org (2 Council of Europe Human Rights and artificial intelligence (CDDH -IA) https://www.coe.int 130

د. زكية بلهول ساهم الذكاء االصطناعي في منح البشر فرصا جديدة لتحسين حياتهم وتمكينهم من الت متع بمعايير أفضل لحياة كريمة، ألن املعيار األساس ي لحماية حقوق اإلنسان هو تمكين األفراد من التمتع بالكرامة اإلنسانية. إال أنه من جهة أخرى، فرض على االفراد تحديات ومخاطر جديدة مختلفة قد تهدد حقوقهم وحرياتهم األساسية بشكل مباشر أو غير مباشر. 1 املطلب األول: ا لفرص التي يخلقها الذكاء االصطناعي لألفراد لالنتفاع الجيد بحقوقهم حقوق االنسان هي مجموعة من الحقوق الطبيعية التي يمتلكها اإلنسان واملرتبطة بطبيعته، والتي تظل موجودة وإن لم يتم االعتراف بها، بل أكثر من ذلك حتى لو انتهكت من قبل سلطة ما؛ فاحترام حقوق اإلنسان و حماية الكرامة اإلنسانية املتأصلة في كل إنسان يشكالن أساس الحرية والعدالة والسالم في العالم2. ويتمتع الذكاء االصطناعي بالقدرة على تعزيز حقوق اإلنسان، خاصة وأنها غير قابلة للتجزئة ومترابطة، فهو يؤثر على كل حق من حقوق اإلنسان املعترف بها تقريبًا. و تع د الفرص التي يوفرها الذكاء االصطناعي لألفراد عديدة جدا وال يمكن حصرها بشكل كامل، لذا سنذكر الفرص املهمة منها، خاصة تلك التي تؤثر بشكل واسع النطاق على حياة األفراد كونها األكثر تأثيرا على حياتهم وحقوقهم3. الفرع األول: تحسين جودة الحقوق األساسية املرتبطة بال عيش الكريم يرتبط الذكاء االصطناعي ارتباطا وثيقا بحياة االفراد في املجتمع، لذا تسعى الحكومات إلى تلبية احتياجات مواطنيها بشكل أفضل بواسطته، وتعمل على تحسين مستوى معيشتهم وتمكينهم من الحصول على الخدمات العامة بسرعة وبجودة عالية من مجلة الحقوق والحريات خالل الروبوتات واألتمتة وال تنبؤات والتطبيقات، وبتحسين كيفية تقديمها لتوفير الوقت والجهد واملال على األفراد. 1 Ghofran M. I. Hilal, Yousra M. M. Chabaan Amel M. M. Njehi , The Governance of Artificial Intelligence in Line with the Int ernational Human Rights Law, Dirasat: Shari’a and Law Sciences, Volume 49, No. 4, 2022, PP. 126 -138, p .131. https://doi.org/10.35516/law. 2 علي عاشور الفار، األمم املتحدة في الرقابة على حقوق اإلنسان دور ، رسالة دكتوراه، جامعة الجزائر، 1993، ص 4- 5. 3 Ghofran M. I. Hilal, Yousra M. M. Chabaan Amel M. M. Njehi , Op.Cit. p .131. 131

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات حيث يمكن استخدام تطبيقات الذكاء االصطناعي لتحسين جودة الحق في الصحية، والحق في العليم ، والنقل، و الحق في العمل ب توفير فرص عمل جديدة لألفراد.1 ففي مجال الصحة مثال، يمكن استخدام ا لذكاء االصطناعي لتحليل بيانات املرض ى وتقديم توصيات عالجية دقيقة وتشخيص األمراض بناء على األعراض والتاريخ الطبي للمرض ى، مما يساهم في تحسين جودة الحق في الصحية . أما في مجال التعليم، يمكن للذكاء االصطناعي أن يساعد في تخصيص املناهج الدراسية وفقًا الحتياجات ال طالب الفردية من خالل تحليل أداء الطالب وتقديم توصيات مخصصة، ويمكن للمعلمين تحسين استراتيجيات التدريس وزيادة فعالية التعلم والتعليم، كما يمكن استخدام أنظمة الذكاء االصطناعي لتطوير منصات تعليمية تفاعلية تعزز من تجربة التعلم وتساعد 2 الطالب على تحقيق أهدافهم األ كاديمية ، وهذا كله يعزز الحق في التعليم ويرفع جودته . الفرع الثاني: ضمان الحق في األمن يعتبر األمن من القضايا الحيوية التي يجب مراعاتها عند استخدام الذكاء االصطناعي في الخدمات الحكومية. حيث يمكن لتقنيات الذكاء االصطناعي أن تلعب دورًا مهمًا في تعزيز األمن ا لسيبراني من خالل تحليل األنماط السلوكية واكتشاف التهديدات املحتملة قبل حدوثها؛ على سبيل املثال، تستخدم بعض املؤسسات الحكومية أنظمة ذكاء اصطناعي ملراقبة الشبكات واكتشاف األنشطة غير املعتادة التي قد تشير إلى هجمات 3 سيبرانية . كما يوفر الذكاء االصطناعي قدرات مراقبة في الوقت الفعلي ، مما يمنحه دورًا حيويًا في مجال األمن، على سبيل املثال يمكن بسهولة تكييف أنظمة الذكاء االصطناعي، مثل تلك املستخدمة في بيئات األمن ملراقبة التهديدات وتتبع انتهاكات حقوق اإلنسان. ومع التقدم في 1 طه الكوني املختار معيوف، " القانون والذكاء االصطناعي: حماية حقوق االنسان في ظل التكنولوجيا الحديثة"، مجلة االصالة ، املجلد السادس، العدد 11، 2025 م، ص 207 . تم االطالع عليه يوم: 15 جويلية 2025 م. https://alasala.alandalus -libya.org.ly/ 2 Ibrahim.Sh ، تقرير استخدام الذكاء االصطناعي في تحسين جودة الخدمات الحكومية، 10 أوت 2025 م. https://lezrweb.com 08/10/ 2025// 33 Ibrahim.Sh ، مرجع سابق. 132

د. زكية بلهول تقنيات، مثل تقنية التعرف على الوجه وتحليل الحشود، يمكن ألنظمة الذكاء االصطناعي اكتشاف االنتهاكات املستمرة كاالحتجازات غير القانونية أو القمع العنيف، والتي يمكن اإلبالغ عنها بعد ذلك إلى السلطات املعنية ومنه ضمان الحق في األمن لألفراد. 1 الفرع الثالث: زيادة جودة الحق في الوصول للمعلومات واملعرفة ال ذكاء االصطناعي لديه القدرة على إنتاج كمية ضخمة من البيانات الجديدة، وتحسين نقل املعلومات واملعرفة وتعزيز إنتاجها، وخفض تكاليف معالجة املعلومات، وتمكين الخوارزميات الحديثة القائمة على التعلم اآللي والبيانات الضخمة من خالل توظيفها لعدد ضخم من األجهزة الرقمية منخفضة التكلفة لجمع كمية هائلة من البيانات في ثوان معدودة، وتحليلها إلنتاج أفكار دقيقة حول العمليات والسلوكيات بما يحفّز االبتكار من أجل إحداث تغييرات أساسية في ا إلنتاجية.2 املطلب الثاني: املخاطر والتحديات التي ينتجها الذكاء االصطناعي لحقوق اإلنسان يُعت بر مبدأ عاملية حقوق اإلنسان حجر األساس في القانون الدولي لحقوق اإلنسان، ما يعني أننا جميعنا متساوون في تمتّعنا بحقوق اإلنسان غير القابلة للتصرف ، وال يجب أبدًا حرمان أي شخص منها أو انتهاكها، إال في حاالت محددة ووفقًا لإلجراءات القانونية الواجبة، وباملقابل نجد الدول ملزمة بموجب القانون الدولي باحترام حقوق اإلنسان وحمايتها وإعمالها. ولكن املشكل اليوم يكمن في أن الذكاء االصطناعي يفرض مخاطرا ومعضالت أخالقية وتهديدات قانونية فريدة من نوعها غير مسبوقة على املجتمع البشري شأنه شأن مجلة الحقوق والحريات أي تطور تكنولوجي آخر وأكثر، فرغم أنه يوفر فرصًا لم تكن متخيلة من قبل لتحسين التمتع واالنتفاع بحقوق اإلنسان، نجد آثاره املجتمعية السلبية آخذة في التفّش ي على نطاق واسع بسبب وتيرة تطويره السريعة وغموضه واستقالليته التي تستتبع معها جملة من املخاطر والتحديات تهدد حقوق اإلنسان. 1 Sam Bowman , The role of artificial intelligence in predicting human rights violations November 14, 2024 open global rights.https://www.openglobalrights.org 2 Ghofran M. I. Hilal, Yousra M. M. Chabaan Amel M. M. Njehi , Op. Cit, p.129 -130. 133

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات الفرع األول: ان تهاك الحق في ا لخصوصية والبيانات الشخصية يمكن أن يؤدي جمع وتخزين وتحليل البيانات الشخصية املتعلقة بحياتنا الخاصة واستخدامها واستغالل في أنظمة الذكاء االصطناعي إلى تهديد الحق في الخصوصية بطرق عدة، خاصة إذا لم يتم إدارتها بشكل صحيح1 في ظل انتشار مصادر البيانا ت والتوسع في جمعها واستخدامها أو مشاركتها عبر تطبيقات الذكاء االصطناعي دون موافقة األفراد. حيث يمكن للمجرمين الوصول إلى هذه املعلومات الحساسة، كما يمكن ممارسة املراقبة التعسفية من قبل الجهات الحكومية في دول العالم بواسطة برامج تجسس معقدة، خاصة لم يتم وضع ا لعديد من الدول لضمانات قانونية أساسية ومباشرة لتنظيم عمليات اختراق الحواسيب،2 ولم تفلح وسائل حماية البيانات املوجودة أيضا في مواكبة التقدم املحرز في أساليب القرصنة والتجسس، ففي عام 2019 م تم تسجيل أكثر من 7000 عملية خرق للبيانات مما أدى إلى الكشف عن أكثر من 15 بليون سجل.3 كما أن تكنولوجيا املراقبة تمكن في كثير من الحاالت من حدوث انتهاكات خطيرة للخصوصية على يد الحكومات واألفراد والخواص، ويمكن أن تكون تكنولوجيا املراقبة أدوات فعالة إلنفاذ القانون حيثما استخدمت وفقا للقانون الدولي لحقوق اإلنسان الساري، ولكن هناك تقارير تفيد عن وجود برامج ملراقبة االتصاالت بشكل محدد وللتعرف على مالمح الوجه، حيث يمكن أن تنشأ عنهما انتهاكات لحقوق االنسان وتؤدي إلى اعتقاالت أو احتجازات تعسفية وانتهاك الحق في االحتجاج السلمي؛ فهي مراقبة غير قانون ية أو غير ضرورية وتعسفية.4 1 احمد بن صالح بن ناصر البرواني، مرجع ساق، ص 905 906. 2 Tareq AL -Billeh, Ruba Hmaidan, Ali Al -Hammouri, Mohammed Al Mak hmari, “ The Risks of Using Artificial Intelligence on Privacy and Human Rights: Unifying Global Standards ”, JURNAL MEDIA HUKUM, 31(2): 333 -350, 2024, p.346. DOI: https://doi.org/10.18196/jmh.xv3 3 األمم املتحدة، حوكمة الذكاء االصطناعي من أجل اإلنسانية: ال تقرير النهائي ، الواليات املتحدة االمريكية، 2024 م، ص 13. https://www.un.org/ar/global -issues/artificial -intelligenc 4 األمم املتحدة، حوكمة الذكاء االصطناعي من أجل اإلنسانية: التقرير النهائي ، مرجع سابق ، ص 14. 134

د. زكية بلهول من ناحية أخرى، ومع ازدياد وسائل التواصل االجتماعي االفتراض ي عوضا عن التواصل البشري الفعلي، زادت مخاطر االعتداء على حق األفراد بالخصوصية، والسيما 1 فيما يتعلق باملعلومات الحساسة التي ستزداد بشكل مطرد ؛ لذا يتحتم توفير الحماية الفعال ة للبيانات الشخصية وحماية الحق في الخصوصية بما يتماشى مع املعايير املتفق عليها دوليا، ويجب على الحكومات واملنظمات تحقيق توازن بين استخدام الذكاء االصطناعي للصالح العام وحماية حقوق خصوصية األفراد من خالل قوانين حماية البيانات القوية. الفرع الثاني: ت قويض الحق في املشاركة السياسية يثبت الذكاء االصطناعي تآكل مذهل لألنظمة الديمقراطية وتغير القيم املجتمعية من خالل تسهيل انتشار املعلومات املضللة واملغلوطة، ونشر التزييف العميق في الوسائط الرقمية لزرع الفوض ى والالأمن، وإزالة املحتوى الذي يوثق انتهاكات حقوق ا إلنسان خاصة في فترة االنتخابات والفترات الخاصة. فيمكن لهذه األنظمة أن تحلل بيانات املستخدمين من الرجال والنساء بعد تحديد فئاتهم العمرية وتستهدفهم بمعلومات معينة تؤثر على عواطفهم، وعلى قراراتهم السياسية واالجتماعية وتتالعب بعقولهم. إضافة إلى ذلك، ظهور الحمال ت الدعائية القوية املنظمة واملنخفضة التكلفة، قد تزيد من أعداد املعارضين للجهات الرسمية والسياسية بالدولة، وستزيد من نقص الثقة بين املواطنين وحكوماتهم وإداراتهم املحلية، وهو ما سيؤدي بدوره إلى زعزعة االستقرار السياس ي داخل الدول.2 و يمكن إساءة استخدام الذكاء االصطناعي من قبل األنظمة االستبدادية في ا ملراقبة وقمع املعارضة، مما يؤدي إلى املزيد من انتهاكات حقوق اإلنسان، على سبيل املثال تم مجلة الحقوق والحريات إعادة استخدام تقنية التعرف على الوجه املصممة في األصل ألغراض أمنية في بعض البلدان للمراقبة الجماعية واضطهاد األقليات، وهذا يمث ل مفارقة خطيرة، فالتكنولوجيا ذاتها املخصصة لحماية حقوق اإلنسان يمكن استخدامها لتقويضها.3 1 Ghofran M. I. Hilal, Yousra M. M. Chabaan Ame l M. M. Njehi , Op.Cit, p. 131 2 طه الكوني املختار معيوف، مرجع سابق، ص 214. 3 Sam Bowman , Op.Cit. 135

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات الفرع الثالث: تقويض الحق في عدم التمييز والحق في املساواة أنظمة الذكاء االصطناعي تخلق تهديدات خطيرة على الحق في عدم التمييز و الحق في املساواة وكرامة اإلنسان واستقالليت ه الذي نص عليهم اإلعالن العاملي لحقوق االنسان (م 2 ) وعدة اتفاقيات أخرى1 . حيث تظهر الصورة األولى للتمييز بين الدول وشعوب الشمال والجنوب، إذ يتركز السّواد األعظم من بحوث الذّكاء االصطناعي في الشّمال العاملي، كما أسفر تفاوت البُنى التّحتيّة الرّقميّة واالفتق ار للمساواة في الوصول إلى التّقانة عن فجوة رقمية بين الشّمال العاملي والجنوب العاملي، و ما يميز ويزيد من خطورة تهديدات الذكاء االصطناعي عن باقي االبتكارات التقنية سابقا هو املستوى العالي من االنتشار التقني السريع، باإلضافة إلى عدم املساواة في و سائل إنشاء ال تقنيات الجديدة والوصول إليها، والتغير التقني الذي يتسارع بصفة دائمة ، وهذا يحرم املجتمعات املهمشة في الجنوب من 2 الوصول الى تطورات الذكاء االصطناعي. كما يتجسد التمييز العرقي في استخدام الذكاء االصطناعي بالفعل في تسهيل املراقبة الجماعية وإدامة ا لتحيز في نظام العدالة الجنائية، و في مجال الرعاية الصحية، حيث تبين أن بعض أدوات تقدير املخاطر الصحية تنطوي على عوامل تصحيحية قائمة على العرق ، كما يوجد تمييز عرقي في األدوات التعليمية، مثال: غالبا ما تصنف األقليات العرقية على أن احتماالت نجاح أفرادها في مسيرتهم التعليمي ة واملهنية أقل، بسبب تصميم الخوارزميات ومعايير اختيار البيانات املستخدمة لتدريبها، مما يديم اإلقصاء والتمييز . كذلك يظهر التمييز وعدم املساواة في سوق العمل، والوصول إلى السكن، وفي الوصول إلى الخدمات املصرفية، وبالتالي تفاقم التمييز ضد الفئات املهمشة بالفعل والقيام بذلك بطرق يمكن أن تكون غير محسوسة تقريبًا للشخص العادي.3 1 Council of Europe Human Rights and artificial intelligence (CDDH -IA) 2 Ghofran M. I. Hilal, You sra M. M. Chabaan Amel M. M. Njehi , Op.Cit, p. 3 أشوين ي ك.ب، املقررة الخاصة املعنية باألش كا ل املعاصرة للعنصرية والتمييز ا لعنصري وك ره ا ألجانب وما يتصل بذلك من تعص ّب، األمم املتحدة، حقوق االنسان، مكتب املفوض السامي، العنصرية والذكاء االصطناعي: "إن التحيز في املاض ي يؤدي إلى تحيز في املستقبل"، جويلبة 2024. 28 جويلية 2025. 2025, https://www.ohchr.org/ar/stories/2024/07/racism 136

د. زكية بلهول نجد أيضا تحيز في البيانات واملعلومات ، فاالفتراض الواسع في استخدام الذكاء االصطناعي لحماية حقوق اإلنسان يكمن في أن التكنولوجيا يمكن أن تقدم تنبؤات دقيقة بناء على البيانات التاريخية واملراقبة في الوقت الفعلي، ويمكن ان تكون انتهاكات لحقوق اإلنسان نتيجة لظروف سياسية واجتماعية واقتصادية راسخة، أي هناك خطر يتمثل في فشل الذكاء االصطناعي في التقاط الفروق الدقيقة بين ظروف األفراد، ومنه تعزيز التحيزات املوجودة في البيانات1 وادامتها عن غير قصد مما يؤدي إ لى نتائج تمييزية خطيرة تنتهك حقوق األفراد. 2 فنماذج الذكاء االصطناعي ال تكون جيدة إال بقدر جودة البيانات التي يتم تدريبها عليها، وإذا كانت هذه البيانات غير كاملة وخاطئة أو مبنية على تحيزات قائمة على أساس الجنس أو اللون أو العرق أو الدين أو غير هم، فإن ذلك سينعكس على أداء النظام لعمله واتخاذه لقراراته ، فتكون تنبؤاته غير دقيقة وتمييزية، وبذلك تؤدي إلى اتهامات كاذبة أو الى عواقب مدمرة لحقوق األفراد. 3 كذلك تأذت الفئات املهمشة كثيرا بسبب املخاطر الناتجة عن الذكاء االصطناعي مع أوجه عدم املساواة القائمة، ومحدودي ة الوعي العام بكيفيّة انتهاك الذكاء االصطناعي لحقوق اإلنسان،4 حيث تتجلّى فجوة الذّكاء االصطناعي بوضوح في السّياق الفلسطيني اإلسرائيلي، مسفرة عن عواقب وخيمة ومميتة على الجانب الفلسطيني، حيث يملي التّفوّق التّقني والعسكري واالقتصادي اإلسرائيلي طرق دمج تقنيّات الذّكاء االصطناعي5 في حياة 1 مجلة الحقوق والحريات Sam Bowman , Op.Cit. 2 احمد بن صالح بن ناصر البرواني، "حقوق االنسان في الذكاء االصطناعي "معطيات رؤى عصر وحلول" ، مجلة جامعة الزيتونة االردنية للدراسات القانونية ، اصدار خاص ، عمادة البحث العلمي واالبتكار،جامعة الزيتونة األردنية، 2024 ، ص 905 906. https://zjjls.zuj.edu.jo/PapersUploaded/v5_s/041.pdf 3 Sam Bowman , Op.Cit. 4 أم يرة كوّاش، مرجع سابق، ص 3. 5 تقنيّات التّعرّف على الوجوه، واألسلحة اآلليّة، ورصد وسائل التّواصل االجتماعيّة، واالستهداف العسكري. قاعدة قطيع الذّئاب Wolf Pack للمراقبة الجماعية/ تقنيّات التّعلّم اآللي والخوارزميّات املؤتمتة لتحديد أهداف القصف، 137

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات راسمًا بذلك واقع محفوف بالتّهديدات الحيويّة لحقوق اإلنسان الفلسطينيين الفلسطيني.1 الفرع الرابع: تهديد الحق في العمل يجد الحق في العمل أساسه القانوني في االعالن العاملي لحقوق االنسان (م 6 ) وفي العهد الدولي الثاني 1966 م (م 23 )، و للذك اء االصطناعي تأثيرا سلبيا على املجتمع البشري والطريقة التي نعيش ونعمل بها فيه، ومع تطوره التدريجي لن تكون هناك حاجة للجهود البشرية في مجال العمل، حيث أنه يمكن القيام بكل عمل تقريبا آليا دون حاجة ملجهود لإلنسان. وسيؤدي استخدام أنظمة الذكاء االصطناعي القادرة على إحداث تغيير جذري في أسواق العمل إلى استبدال الوظائف التقليدية بآالت ذكية تعتمد على التكنولوجيا الحديثة، ما سيهدد بتشريد ماليين العاملين وطردهم من وظائفهم وانتهاك حقهم في العمل. كما ستكون االعمال الفكرية معرضة للخطر أيضا بشكل كبير عن طريق السرقة االلكت رونية والغش، ما سيرفع معدالت البطالة والفقر، وستصبح العديد من الوظائف التي تتطلب مهارات بشرية غير ضرورية سواء في القطاعات الخدمية أو الصناعية أو الزراعية أو غيرها.2 الفرع الخامس: تأثر حقوق الفئات الهشة والضعيفة بالنسبة ل حقوق فئة األطفال والتي تعد األكثر ضع فا وهشاشة تأثرت كثيرا من الذكاء االصطناعي، مثال يُستخدم في نشر محتوى ضار، كمواد استغالل األطفال جنسيا وصور إباحية، التنمر والعنف بأنواعه وهذا يشكل انتهكا خطرا لحقوق الطفل . كذلك فئة النساء والفتيات بصورة خاصة لم تسلم من العنف واالستغالل والجنس والدعارة...ا لخ، وهذا انتهاك جسيم لحقوقهن، إضافة إلى املخاوف من تضخيم املحتوى املعادي للسامية 3 واملعادي لإلسالم والعنصري الذي تتعرض له الفئات القليلة العرقية أو الدينية . فمن دون وجود ضوابط كافية، قد يؤدي الذكاء االصطناعي إلى تفاقم أوجه عدم املساواة والفجوات 1ّأميرة كو اش، مرجع سابق، ص 3. 2 طه الكوني املختار معيوف، مرجع سابق ، ص 213. 3 األمم املتحدة، الذكاء االصطناعي. intelligence- issues/artificial- https://www.un.org/ar/global 138

د. زكية بلهول الرقمية وإل ى اإلضرار بالفئات األكثر هشاشة واملهمشون على وجه التحديد وبصورة غير متناسبة بتحيز الذكاء االصطناعي. 1 املبحث الثاني: حقوق االنسان حوكمة الذكاء االصطناعي لتعزيز 2 عند إطالق OpenAI لبرنامج ChatGPT في عام 2022 ، ظهر ما يسمى بالذكاء االصطناعي التوليدي، ومنذ ذلك الحين ظهرت منظمات الحقوق الرقمية تدعو باستمرار إلى حوكمة الذكاء االصطناعي وفق أسس حقوقية إل دارة أضراره و اآلثار السلبية املحتملة على كرامة اإلنسان واضفاء الصبغة اإلنسانية عليه ، خاصة في ظل التبني السريع لتقنياته واالعتماد املتزايد عليها من قبل الحكومات والقط اع الخاص. لكن اإلشكالية هي ال يمكن حوكمة الذكاء االصطناعي مثل أي تكنولوجيا سابقة، ألنه ال يشبه أيا منها، فسماته املتفردة تجعل مواجهة تحدياته أكثر صعوبة، وهذا راجع لقوته الكامنة في سرعة تطوره الفائقة، وإمكانية الحصول عليه بسهولة.3 املطلب األول: نهج حقوق اال نسان كأساس لحوكمة الذكاء االصطناعي نحن اليوم بحاجة إلى إطار حوكمة عاملي ملعالجة مجموعة واسعة من املخاطر والتحديات املجتمعية املرتبطة بالذكاء االصطناعي، فبدال من تطوير أطر جديدة من الصفر يمكن االعتماد على إطار حقوق اإلنسان الدولي القائم4 ، ألنه يوفر نظام ح ماية فعال للمؤسسات واملنظمات على املستويات املحلية واإلقليمية والدولية وفق أطر قانونية راسخة، و إطارًا مقبوال عامليًا لتحليل وتقييم ومعالجة تأثير الذكاء االصطناعي على األفراد 1 فولكر تورك، مرجع سابق. 2 مجلة الحقوق والحريات في عام 2018 ، عندما أدت التطورات في التعلم اآللي إلى طفرة في حماس الذ كاء االصطناعي، شهدنا انفجارًا مماثال ومتزامنًا من "إرشادات أخالقيات الذكاء االصطناعي" عديمة الفائدة ومقترحات تنظيمية ذاتية طوعية أخرى. في ذلك الوقت، دعت Access Now وغيرها إلى أدوات قانونية قابلة للتنفيذ وقائمة على حقوق اإلنسان، وأطلقت إعالن تورنتو في Righ tsCon 2018 ، ودفعت إلى احترام الحق في املساواة وعدم التمييز في أنظمة التعلم اآللي. 3 ايان بريمر، مصطفى سليمان، ركائز حوكمة الذكاء االصطناعي، صندوق النقد الدولي، ديسمبر 2023. https://www.imf.org/ar/Publications/fandd/issues/2023/ 4 Eileen Donahoe , Megan MacDuffee Met zger , “Artificial Intelligence and Human Rights ” Journal of Democracy Johns Hopkins University Press , Volume 30, Number 2, April 2019 , pp. 115 -126 . 10.1353/jod.2019.0029 139

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات واملجتمع، وكذلك يوفر سبل االنتصاف الفعالة والعادلة النتهاكات حقوق اإلنسان و احترام ها وحفظها من االنتهاك. فالقانون الدولي لحقوق اإلنسان يعبر عن منظومة من القواعد الدولية املصممة لحماية وتعزيز حقوق اإلنسان للجميع، نجد قواعده في املعاهدات الدولية، في القانون الدولي العرفي، وفي املبادئ العامة للقانون؛ وكلها قواعد ملزمة للدول كونها تحدد حقو قا والتزامات ينظمها القانون الدولي لحقوق اإلنسان على شكل التزامات من قبل الدول بمواجهة األفراد للتصرف بطريقة معينة أو باإلحجام عن اتخاذ إجراء معين في سبيل تعزيز احترام هذه الحقوق وحمايتها من االنتهاك.1 ورغم أن القانون الدولي لحقوق اإلنسان جاء في حقبة ما قب ل العصر الرقمي، يمكن اليوم أن تؤدي االنتهاكات املرتكبة في شبكة اإلنترنت إلى انتهاكه، أي ال يمكن اعتبار اإلنترنت فضاء غير خاضع للضوابط أو غير قابل لذلك، فحقوق اإلنسان توجد داخل الشبكة كما توجد خارجها، ويجب احترامها احتراما كامال.2 وقد أكد فول كر تورك املفوض السامي لألمم املتحدة على ضرورة إعطاء األولوية لحقوق اإلنسان واستخدامها كخارطة طريق للعمل على التغيير الجذري مستقبال. ومع ذلك، فقد تم استبعاد حقوق اإل نسان إلى حد كبير من نقاشات حوكمة وتطوير وتنفيذ الذكاء االصطناعي في البداية؛ لذا يجب أن تصبح حقوق االنسان أساسا لهذا التطور حتى يتم حماية حقوقنا في املرحلة القادمة من العصر الرقمي. و هناك عديد الحجج تم طرحها لدعم هذا اإلطار اإلنساني االخالقي من الحوكمة، تستند على أهمية أنسنة الذكاء االصطناعي وأخلقته، تتمثل في: • حماية الحقوق األساسية: يجب أن تضمن أن ظمة الذكاء االصطناعي حماية الحقوق األساسية لإلنسان، مثل الحق في الخصوصية والحرية واألمن وعدم التمييز واملساواة والتعليم والصحة ...وغيرها. 1 Ghofran M. I. Hilal, Yousra M. M. Chabaan Amel M. M. Njehi ,Op. Cit. p 132. 2 األمم املتحدة، الجمعية العامة، تقرير األمين العام، " خريطة طريق من اجل التعاون الرقمي: تنفيذ توصيات الفريق الرفيع املستوى املعني بالتعاون الرقمي" ، تقرير يقم A/74/821 20 ماي 2020، واشينغتون. الواليات املتحدة االمريكية، ص 12. docs.un.org/ar/A/74/821// https: 140

د. زكية بلهول • مكافحة التمييز وعدم املساواة: يمكن أن يؤدي الذكاء االصطناعي إلى تفاقم التحيزات املوجودة في البيانات والتمييز وعدم املس اواة، مما يؤثر سلبًا على املجتمعات املهمشة والهشة. • يحدد اإلطار املؤسس ي املتطور الذي يتم من خالله مراقبة معايير حقوق اإلنسان وتعزيزها وإنفاذها بشكل منهجي في جميع أنحاء العالم، مثل املؤسسات القضائية (على املستوى الوطني أو الدولي) املسؤولة عن الفصل في قضايا انتهاكات حقوق اإلنسان1 لتقليل األضرار املحتملة على األفراد واملجتمعات. • ضمان املساءلة والشفافية: يجب أن تكون أنظمة الذكاء االصطناعي قابلة للمراجعة واملساءلة، مع توفير الشفافية حول كيفية اتخاذ القرارات فيها وفق املعايير العاملية وآليات املساءلة التي تحدد كيف ية معاملة األفراد. أما األساس الفلسفي لهذه الحوكمة هو مدرسة دمج حقوق اإلنسان في دورة حياة الذكاء االصطناعي بأكملها، وحسب هذه املدرسة تدرج مبادئ حقوق اإلنسان في عملية جمع البيانات واختيارها، وفي تصميم النماذج واألدوات والخدمات املتأتية عنها، وفي عمليات تطوي رها ونشرها واستخدامها. كما يجب أن يشترط التنظيم تقييم املخاطر التي تنطوي عليها نظم الذكاء االصطناعي واآلثار املترتبة في مجال حقوق اإلنسان قبل االستخدام وأثناءه وبعده، ومن الضروري للغاية ضمان الشفافية والرقابة املستقلة والوصول إلى سبل االنتصاف الفعالة، ال س يما عندما تستخدم الدولة نفسها تكنولوجيات الذكاء االصطناعي. ويجب حظر أو تعليق تكنولوجيات الذكاء االصطناعي التي ال يمكن تشغيلها بما يتماش ى مع القانون الدولي لحقوق اإلنسان إلى حين اعتماد الضمانات مجلة الحقوق والحريات املناسبة في هذا الصدد. فمنظور حقوق اإلنسان لتطوير الذكاء االصط ناعي واستخدامه يكون أثره محدودًا إذا كان احترام حقوق اإلنسان غير كاف في الجانب التنظيمي واملؤسس ي األوسع 1 Gabriel NI Ț Ă, “Artificial Intelligence Regulation: Approaches and Implications ”, in Pajuste, Tiina, Heliona Bellani (Miço) & Sejla Maslo Cerkic (eds.), Legal Perspectives in the Modern Era of Technological Transformations, ADJU RIS – International Academic Publisher, Bucharest, Paris, Calgary, 2024, p. 168 . JEL Classification: p 24, p 33, DOI: https://doi.org/10.62768/ADJURIS/2024/1/10 141

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات نطاقًا،1 وحتى يتمحور تطوير التكنولوجيات الجديدة حول اإلنسان ويكون فعاال، البد من أن يستند أي حل أو أي تنظيم إلى احترام حقوق اإلنسان. املطلب الثاني: مبادئ حوكمة الذكاء االصطناعي نجاح حوكمة الذكاء االصطناعي يتحقق باحترام السمات املنفردة له، فهو فائق التطور ويتعذر التنبؤ بتقدمه، وقد ال تكون أي قواعد يقرونها اليوم فعالة أو حتى ذات صلة في غضون شهور قليلة. لذا حتى تتحقق حوكمة رشيدة للذكاء االصطناعي تكون عن طريق وضع مجموعة من املبادئ التي يمكن أن تعتمد عليها عملية صنع القرار بشأن إدارة مخاطر الذكاء االصطناعي، وهي: الفرع األول: حوكمة شاملة: نظرا للطبيعة املنفردة لتطور الذكاء االصطناعي وتعقده فإن السبيل الوحيد أمام الجهات التنظيمية ملمارسة الرقابة املناسبة عليه هو التعاون مع الشركات الخاصة العاملة في مجال التكنولوجيا. ومن أجل أن تعكس الحكومات طبيعة الذكاء االصطناعي التي ليس لها حدود، ينبغي لها أن تجعل الشركات أطرافا في االتفاقات الدولية ذات الصلة بحوكمة الذكاء االصطناعي ، ألنه دائ ما ما ت عمل أفضل تنظيم ألي نشاط بشكل ت عاوني مع القطاع التجاري خاص ة في مجال الذكاء االصطناعي، و اي استبعاد لل شركات التي لها سيطرة كبيرة للغاية سيحكم بالفشل على أي هيكل حوكمة حتى قبل أن يبدأ . الفرع الثاني: حوكمة وقائية: ال يوجد اتساق في التوازن بين مخاطر الذكاء االصطناعي وفوائده؛ فعلى الرغم من فو ائده الكثيرة، يجب على صناع السياسات اتخاذ إجراءات للوقاية من مخاطره الكارثية، ويجب تعديل املبدأ االحترازي املستخدم بالفعل على نطاق واسع ليناسب الذكاء االصطناعي، وأن يتم النص عليه في أي نظام حوكمة . الفرع الثالث: حوكمة مُحكمة : يجب أن تكون الحوكمة مُحكمة، ألن الذكاء االصطناعي له قدرة على ا النتشار بسهولة، وفي حالة خروج واحدة عن النظام يمكن أن تسمح بانفالت نموذج خطير. لذلك، ينبغي ألي آليات امتثال أن تكون محكمة، مع جعل الدخول إليها سهال لإلجبار على املشاركة، في حين يكون الخروج منه ا مكلفا لردع عدم االمتثال . 1 املرجع نفسه. 142

د. زكية بلهول الفرع الرابع: حوكمة سريعة الحركة : تميل هيئات صنع القرار إلى الثبات، لتحافظ على االستقرار والقدرة على التنبؤ و على الديناميكية واملرونة، وهذا ال يصلح مع الذكاء االصطناعي، لذا يجب أن تكون الحوكمة مرنة وقابلة للتعديل وذاتية التصحيح ب قدر ما لدى الذكاء االصطناعي من سرعة في الحركة والتطور الفائق والتحسي ن الذاتي . الفرع الخامس: حوكمة موجهة: من الناحية العملية، نجد تحديد األدوات املناسبة الستهداف أي من مخاطر الذكاء االصطناعي سيتطلب وضع تصنيف تاكسونومي مباشر عملي للمخاطر املنفصلة املتوقعة ال تي ينطوي عليها الذكاء االصطناعي. ومن ثم، يجب أن تكون حوكمة الذكاء االصطناعي موجهة، وقائمة على املخاطر، وتناسب كل نمط وليست أسلوبا واحدا يناسب الجميع.1 املطلب الثالث: الجهود الدولية املبذولة لحوكمة الذكاء االصطناعي الفرع األول: جهود هيئة األمم املتحدة أول من أصدر وثيقة تقنينية عاملية واألولى من نوعها في مجال أخالقيات الذكاء االصطناعي، هي منظمة اليونيسكو في نوفمبر 2021 ، سمتها "التوصية الخاصة بأخالقيات الذكاء االصطناعي" ، واعتمدتها جميع الدول األعضاء املائة والثالث والتسعين . من مبادئها األساسية الذود عن حقوق ا إلنسان والكرامة اإلنسانية ، وذلك استنادا إلى النهوض باملبادئ األساسية املتمثلة في الشفافية واإلنصاف مع التذكير الدائم بضرورة اإلشراف البشري على نظم الذكاء االصطناعي، حيث تتمحور االتفاقية حول أربع قيم أساسية تُرس ي األسس لنظم الذكاء االصطناعي التي تصب في خير البشرية واألفراد 2 مجلة الحقوق والحريات واملجتمعات والبيئة. ثم تدخلت األمم املتحدة مؤخرًا بقرارين من الجمعية العامة صدرا سنة 2024 م3، حيث وجدت إجماعًا على أن الذكاء االصطناعي يؤثر على حقوق اإلنسان، بل واعتمدت 1 ايان بريمر، مصطفى سليمان، مرجع سابق. 2 اليونيسكو، اخالقيات الذكاء االصطناعي. intelligence/- ttps://www.unesco.org/ar/artificial h 3 القرار رقم 265/ 78 حول "اغتنام الفرص التي تتيحها نظم الذكاء االصطناعي املأمونة واملؤّمنة واملوثوقة ألغراض التنمية املستدامة"، والقرار رقم 311/ 78 حول "تعزيز التعاون الدولي بشأن بناء القدرات في مجال الذكاء االصطناعي". 143

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات بعض العبارات الجديرة بالثناء التي تحذر من أن بعض استخدامات الذكاء اال صطناعي غير متوافقة مع حقوق اإلنسان. وقد أصدر املجلس االستشاري الرفيع املستوى لألمم املتحدة بشأن الذكاء االصطناعي1 عام 2024 م تقريرًا يؤكد أن حوكمة الذكاء االصطناعي ال تتم في فراغ، وأن القانون الدولي وخاصة قانون حقوق اإلنسان الدولي، ينطبق فيما يتعلق بالذكاء ا الصطناعي. 2 حيث يتضمن هذا التقرير مجموعة من املبادئ الت وجيهية لتطوير وتنفيذ الذكاء االصطناعي بما يتماش ى مع حقوق اإلنسان ملواجه التحديات املاثلة وحماية وتعزيز حقوق اإلنسان والكرامة اإلنسانية في عصر رقمي بامتياز. كما وضعت مفوضية األمم املتحدة لحقوق اإل نسان توجيهات بشأن بذل العناية الواجبة في مراعاة حقوق اإلنسان وعمليات تقييم االثر في استخدام التكنولوجيا الجديدة بسبل منها العمل مع املجتمع املدني والخبراء الخارجيين وأشد الفئات ضعفا وتضررا، ووضع حقوق اإلنسان في صميم األطر التنظيم ية والتشريعية املتعلقة بتطوير التكنولوجيا الرقمية واستخدامها.3 ومن املبادئ التوجيهية التي ينبغي االسترشاد بها في تشكيل مؤسسات دولية جديدة لحوكمة الذكاء االصطناعي نجد: • املبدأ التوجيهي 1 : يجب أن تحكم الذكاء االصطناعي املصلحة العامة للدول؛ • املب دأ التوجيهي 2 : يجب حوكمة الذكاء االصطناعي على نحو شامل، من قبل الجميع ولفائدتهم؛ بحيث تشمل كل دول العالم دون استثناء لينتفع منها كا الناس. • املبدأ التوجيهي 3 : يجب أن تكون حوكمة الذكاء االصطناعي عاملية وشبكية ومتجذرة في التعاون التكيفي بين أصحاب املصلحة امل تعددين؛ 1 تشكلت الهيئة االستشارية الرفيعة املستوى املعنية بالذكاء االصطناعي متعددة اإلختصاصات، التي كان قد اقُترح أصال إنشاؤها في عام 2020 كجزء من خريطة طريق األمين العام لألمم املتحدة من أجل التعاون الرقمي ( 821/ 74 A/ في أكتوبر 2023 لتجري تحليال وتقدم توصيات بشأن الحوكمة الدولية للذكاء االصطناعي. 2 Eileen Donahoe , Op.Cit. 3 األمم املتحدة، مرجع سابق، ص 22. 144

د. زكية بلهول • املبدأ التوجيهي 4 : يجب بناء حوكمة الذكاء االصطناعي بما يتماش ى مع حوكمة البيانات والعمل على وجود بيانات متاحة للعموم بشفافية؛ • املبدأ التوجيهي 5 : يجب أن ترتكز حوكمة الذكاء االصطناعي على ميثاق األمم املتحدة والقانون الدولي لحقوق اإلنسان وااللتزامات الدولية األخرى املتفق عليها، مثل أهداف التنمية املستدامة.1 الفرع الثاني: جهود منظمة االتحاد األوروبي تم اعتماد اتفاقية مجلس أوروبا اإلطارية بشأن الذكاء االصطناعي وحقوق اإلنسان والديمقراطية وسيادة القانون في الخامس من سبتمبر 2024 ، وقامت لجنة الذكاء االصطن اعي بصياغتها، كما اعتمدت قبلها عددا ال يحص ى من التوصيات واملقترحات التنظيمية العاملية األخرى، وكلها تستند على إطار حقوق اإلنسان.2 حيث يركز املجلس األوروبي على حماية حقوق اإلنسان في البيئة الرقمية ومن مخاطر الذكاء االصطناعي من خالل توصيات ومبادئ توجيهية مختل فة، و اآلثار األخالقية والقانونية للذكاء االصطناعي، وتكرس املنظمة نفسها لضمان أن يتماش ى تطوير الذكاء االصطناعي وتطبيقه مع معايير حقوق اإلنسان املعمول بها. ويعد قانون الذكاء االصطناعي وحقوق االنسان والديمقراطية وسيادة القانون أول صك دولي ملزم دوليا وقانونا في مجال الذكاء االصطناعي، يهدف لسد الثغرات القانونية التي قد تنتج عن التقدم التكنولوجي السريع، لذا يجب أن تمتثل األنشطة املنفذة في إطار دورة حياة أنظمة الذكاء االصطناعي للمبادئ األساسية التالية: • الكرامة اإلنسانية واالستقاللية الشخصية، مجلة الحقوق والحريات • احترام الحياة الخاصة وحماية البيانات الشخصية، • املساواة وعدم التمييز، • الشفافية والتحكم واملصداقية، 1 أميرة كوّاش، مرجع سابق ، ص 8. 2 Eileen Donahoe , Op.Cit . 145

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات • املساءلة واملسؤولية، واالبتكار واألمن.1 يؤكد قانون الذكاء االصطناعي لسنة 2024 أن املوقعين عليه سوف يأخذون في وامل والرقابة، والشفافية الفردي، واالستقالل اإلنسانية الكرامة االعتبار ساءلة واملسؤولية، واملساواة وعدم التمييز، والخصوصية وحماية البيانات الشخصية، واملوثوقية والسالمة. كما يحدد سبل االنتصاف والحقوق اإلجرائية والضمانات، كما يسهر على متابعة وتقييم تنقيذ هذه االتفاقية مؤتمر األطراف، وتطبق على األطراف، لكنها ال تنطبق على أنشطة ا لبحث والتطوير واألمن والدفاع الوطني ألنها مستثناة. املطلب الرابع: ثغرات حوكمة الذكاء االصطناعي القائمة على الحقوق ال يوجد نقص في الوثائق والحوارات التي تركز على حوكمة الذكاء االصطناعي، فقد تم اعتماد مئات األدلة واألطر واملبادئ من قبل الحكومات والشركات واال تحادات واملنظمات اإلقليمية والدولية، مع ذلك، ال يمكن ألي منها أن يكون عامليا في نطاقه وشامال في تغطيته، وهذا لوجود مشاكل في التمثيل والتنسيق والتنفيذ، لذلك تعد الحوكمة الشاملة للذكاء االصطناعي أحد أصعب تحديات الحوكمة التي ستواجهها األمم 2 املتحدة لضمان تسخير إمكانيات الذكاء االصطناعي بطرق عادلة ودون تمييز.3 الفرع األول: املشكلة األولى هناك تهديد جد معقد للحوكمة القائمة على حقوق اإلنسان يتمثل في النفوذ املتزايد لألفراد واملنظمات املتحالفة مع مجتمع اإليثار الفعال املدعوم من املليارديرات و القطاع الخاص في الذكاء االصطناعي الذي ال يتوافق مع نظام ويستفاليا للسياسة الدولية. مثل املنظمات املناصرة التي غالبًا ما تحمل كلمة "املستقبل" في أسمائها، والتي تركز إما على ما يسمى "سالمة الذكاء االصطناعي" أو على املخاطر "طويلة األمد" و"الوجودية" للذكاء االصطناعي، وحتى األكثر اعت داال بينها تتبنى نهجًا نفعيًا جذريًا لحوكمة الذكاء االصطناعي؛ وهو ما يتعارض بشكل أساس ي مع حقوق اإلنسان. 1 االتفاقية االطارية ملجلس أوروبا بشأن الذكاء االصطناعي وحقوق االنسان والديموقراطية وسيادة القانون لعام 2022 م، مجلس أوروبا الحوكمة الرقمية. www.coe.int 2 األمم املتحدة، حوكمة الذكاء االصطناعي من أجل اإلنسانية: التقرير النهائي، مرجع سابق، ص 24. 3 املرجع نفسه، ص 7. 146

د. زكية بلهول الفرع الثاني: املشكلة الثانية: يتحدث كل من قراري الجمعية العامة لألمم املتحدة بقيادة الواليات املتحدة والصين لسنة 2024 صراحة عن املجال غير العسكري فق ط للذكاء االصطناعي؛ في حين لم يعترف أي من القرارين حتى بالتكاليف البيئية للذكاء االصطناعي. الفرع الثالث: املشكلة الثالثة: قانون الذكاء االصطناعي في االتحاد األوروبي ومعاهدة مجلس أوروبا بشأن الذكاء االصطناعي، مليئة باالستثناءات واإلعفاءات والقيود وهذا يجعل أي ادعاءات بتعزيز حوكمة الذكاء االصطناعي القائمة على الحقوق فاشلة. حيث فشل قانون الذكاء االصطناعي في االتحاد األوروبي في حظر أخطر استخدامات الذكاء االصطناعي، ويميز بشكل تعسفي ضد املهاجرين، ويعفي سلطات إنفاذ القانون والهجرة من متطلبات الشفافية،1 وتجنب املعا يير املزدوجة للقطاعين العام والخاص باإلضافة إلى اإلعفاءات الواسعة النطاق لألمن القومي والدفاع. ويتجلى هذا املعيار املزدوج بشكل صارخ في حقيقة أن إسرائيل وقعت على املعاهدة حتى مع نشرها أنظمة استهداف الذكاء االصطناعي ألتممته وتسريع إنتاج قوائم القتل الجماعي في غزة. هذا يثير أسئلة خطيرة حول التزام املجتمع الدولي باملساءلة الحقيقية. الفرع الرابع: املشكلة الرابعة: الدول تغريها إمكانيات الذكاء االصطناعي من حيث اكتساب القوة وتحقيق االزدهار في وقت يتسم باملنافسة الجيوسياسية الشديدة. والتزال مجتمعات كثيرة على هامش ت طوير الذكاء االصطناعي ونشره واستخدامه، في حين أن قلة منها تسيطر عليها اإلثارة املمزوجة بالقلق من تأثير الذكاء االصطناعي 2 الشامل . إضافة الى هذا ال يوجد انصاف في التمثيل في نقاشات حوكمة الذكاء مجلة الحقوق والحريات االصطناعي، فهناك مجتمعات كثيرة قد تم استبعادها تاريخيا استبعادا تا ما من محادثات حوكمة الذكاء االصطناعي التي تؤثر عليه، فهي غير شاملة لكل انحاء العالم لتكون فعالة في تجنب سباقات تسلح الذكاء االصطناعي أو سباقات تتعلق بالسالمة والحقوق، وفي تقاسم فوائد الذكاء االصطناعي.3 1 Eileen Donahoe , Op.Cit. 2 األمم املتحدة، حوكمة الذكاء االصطناعي من أجل اإلنسانية: التقرير النهائي، مرجع سابق، ص 24. 3 املرجع نفسه، ص 8. 147

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات خاتمة: يبقى مستقبل حقوق اإلنسان مفتوح خاصة في عصر رقمي مبني على الذكاء االصطناعي سريع التطور، ألنها حقوق مرنة وفي عملية دائمة من البناء والتفكيك والتطور لخدمة احتياجات املجتمع بشكل أفضل ، خاصة في ظل الفرص التي يتيحها الذكاء االصطناعي للمجتمع والفرد، واملخاطر التي تنتهك حقوق اإلنسان. ولكن كثرة مخاطر الذكاء اال صطناعي أثار مخاوف بشأن انتهاكات حقوق اإلنسان، مما اوجب على الحكومات معالجة هذه املخاطر من خالل تطبيق تدابير عملية لضمان االستخدام اآلمن للذكاء االصطناعي، ومعالجة األضرار الناجمة عن املمارسات غير األخالقية، لضمان حوكمة جيدة تحمي حقوق االنسان وتعززها. فهناك جهود دولية وإقليمية لحوكمة الذكاء االصطناعي وفق أساس حقوقي انساني ، وهي مطلب دولي ضروري جدا ، وعلى ضوء ما تقدم تم التوصل للنتائج التالية: • وجب إدارة وتنظيم الذكاء االصطناعي بفعالية بغية تحقيق التوازن بين فوائده ومخاطره، ويكون بترسيخ حقوق اإلنسان في صميم تطوي ر التكنولوجيا واستخدامها وتنظيمها لخدمة اإلنسانية بالعدل واالنصاف. • يجب احترام القانون الدولي واحترام حقوق االنسان وتوطيدها من خالل دورة حياة نظم الذكاء االصطناعي. وال بد َّ من وضع أطر قانونية وتنظيمية مالئمة لحماية هذه الحقوق جيدا . • نشر نظم الذكاء االصطناعي بطريقة تتسم بااللتزام األخالقي على الشفافية والقابلية للشرح واملراجعة والتدقيق. • وجب تعزيز فهم الجمهور للذكاء االصطناعي من خالل التعليم املفتوح واملتاح للجميع في املعلوماتية، واملهارات الرقمية، والتدريب في مجال أخالقيات الذكاء االصطناعي، • االستخدام املسؤول واألخالقي والشفاف لتقنيات الذكاء االصطناعي بطريقة تحترم وتدعم حقوق اإلنسان، ويكون بالرصد وتقييم اآلثار املستمرين لنظم الذكاء االصطناعي والتأكد من توافقها مع مبادئ حقوق االنسان، مع وجود ضمانات قوية. • وضع رؤية شاملة لنهج شبكي عامليا وقادر على التكيف بسرعة ومر ن لحوكمة الذكاء االصطناعي من أجل اإلنسانية، يشمل الفهم املشترك واألرضية املشتركة − إجماع 148

د. زكية بلهول عاملي على اعتماد إطار قانوني محدد − والفوائد املشتركة لتحسين التمثيل حنى يصبح متوازن وتمكين التنسيق وتعزيز التنفيذ، هو وحده الذي يمكن أن يعالج التحديات والفرص املتعددة ا ألوجه واملتطورة التي يطرحها الذكاء االصطناعي على نط اق عاملي، مما يعزز االستقرار الدولي والتنمية املنصفة . في الختام، نوص ي بإطالق حوار سياسات حكومي دولي متعدد االختصاصات بشأن حوكمة الذكاء االصطناعي على هامش االجتماعات الحالية في األمم املتحدة. هدفه تبادل امل علومات عن أفضل املمارسات بشأن الحوكمة التي تعزز التنمية وحقوق اإلنسان وتحميتها وتعملها، مع السعي وراء الفرص وإدارة املخاطر. قائمة املصادرواملراجع: أ) مراجع باللغة العربية 1. أميرة كوّاش، " تقنيّات الذّكاء االصطناعي على حياة وسرديات الفلسطينيّين/ات"، أثر حملة - ا ملركز العربي لتطوير اإلعالم االجتماعي، شباط / فبراير 2024، 7 / 2/ 2025. www.7amleh.org 2. ل لعنصرية املعاصرة باألشكال املعنية الخاصة املقررة ك.ب، أشوين ي والتمييز ا لعنصري وك ره ا ألجا نب وما يتص ل بذلك من تعص ّب، األمم املتحدة، حقوق االنسان، مكتب املفوض السامي، العن صرية والذكاء االصطناعي: " في في املاض ي يؤدي إلى تحيز إن التحيز املستقبل جويلبة ،" 2024. 28 جويلية 2025. , https://www.ohchr.org/ar/stories/2024/07/racism 3. احمد بن صالح بن ناصر البرواني، الذكاء االصطناعي "معطيات "حقوق االنسان في عصر رؤى وحلول"، مجلة جامعة الز يتونة االردنية للدراسات القانونية ، اصدار خاص، عمادة البحث العلمي واالبتكار، جامعة الزيتونة األردنية، 2024. https://zjjls.zuj.edu.jo/PapersUploaded/v5_s/041.pdf 4. االصطناعي. الذكاء املتحدة، األمم https://www.un.org/ar/global -issues/artificial - مجلة الحقوق والحريات intelligence 5. ايا ن بريمر، مصطفى سليمان، ركائز حوكمة الذكاء االصطناعي، صندوق النقد الدولي، ديسمبر 2023. https://www.imf.org/ar/Publications/fandd/issues/2023/ 6. األمم املتحدة، الجمعية العامة، تقرير األمين العام، " خريطة طريق من اجل التعاون الرقمي: تنفيذ توصيات الفريق الرفيع امل ستوى املعني بالتعاون الرقمي" ، تقرير يقم A/74/821 20 ماي 2020، واشينغتون.الواليات املتحدة االمريكية. https://docs.un.org/ar/A/74/821 7. االصطناعي. الذكاء اخالقيات اليونيسكو، https://www.unesco.org/ar/artifici al - intelligence/ 149

حوكمة الذكاء االصطناعي بمنظورحقوق االنسان: زيادة للفرص وتقليل للتحديات 8. االتفاقية االطارية ملجلس أوروبا بشأن الذكاء االصطناعي وحقوق االنسان والديموقراطية وسيادة القانون لعام 2022 م ، مجلس أوروبا الحوكمة الرقمية. www.coe.int 9. األمم املتحدة، حوكمة الذكاء االصطناعي من أجل اإلنسانية: التقرير النهائي ، الواليات املتحدة االمريكية، 2024 م. intelligenc- issues/artificial- https://www.un.org/ar/global 10. علي عاشور الفار، األمم املتحدة في الرقابة على حقوق اإلنسان دور ، رسالة دكتوراه، جامعة الجزائر، 1993. 11. طه الكوني املختار معيوف، " القانون والذكاء االصطناعي: حماية حقوق االنسان في ظل التكنولوجيا الحديثة"، مجلة االصالة ، املجلد السادس، العدد 11، 2025 م. تم االطالع عليه يوم: 15 جويلية 2025 م. https://alasala.alandalus -libya.org.ly/ 12. Ibrahim.Sh ، تقرير استخدام الذكاء االصطناعي في تحسين جودة الخدمات الحكومية، 10 أوت 2025 م. https://lezrweb.com 2025/08/10// ب) مراجع باللغة اإلنجليزية: - Artificial Intelligence and Human Rights Eileen Donahoe , Me gan MacDuffee Metzger Journal of Democracy Johns Hopkins University Press Volume 30, Number 2, April 2019 DOI. 10.1353/jod.2019.0029 - Council of Europe Human Rights and artificial intelligence (CDDH -IA) h ttps://www.coe.int/en/web/human -rights -intergovernmental - Ghofran M. I. Hilal, Yousra M. M. Chabaan 2 Amel M. M. Njehi , The Governance of Artificial Intelligence in Line with the International Human Rights Law, Dirasat : Shari’a and Law Sciences, Volume 49, No. 4, 2022, PP. 126 -138. https://doi.org/10.35516/law . - Sam Bowman , The role of artificial intelligence in predicting human rights violations, Novemb er 14, 2024 open global rights .https://www.openglobalrights.org - Tareq AL -Billeh1, Ruba Hmaidan, Ali Al -Hammouri, Mohammed Al Makhmari, “ The Risks of Using Artificial Intelligence on Privacy and Human Rights: Unifying Global Standards ”, JURNAL MEDIA HUKUM, 31(2): 333 -350, 2024. DOI: https://doi.org/10.18196/jmh.xv3 150