الأمن الإنساني والذكاء الاصطناعي : التحديات الحقوقية في عصر الصناعة المعرفية

المجلد 14 ، العدد 2 السنة 2026 ، ص 699 - ص 720 مجلة الحقوق والحريات 699 األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصرالصناعة المعرفية Human Security and Artificial Intelligence: Human Rights Challenges in the Age of Industry” حنان أوشن (1) مريم بن زعيم (2) (1) كلية الحقوق وا لعلوم السياسية _ جامعة عباس لغرور _ خنشلة _ [email protected] (2) كلية الحقوق والعلوم السياسية _ جامعة عباس لغرور_ [email protected] تاريخ االرسال: 26 / 04 / 2026 تاريخ القبول: 28 / 09 / 2026 تاريخ النشر : 31 / 10 / 2026 ـــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ الملخص: تناول هذه الدراسة توضيح العالقة بين األمن اإلنساني والذكاء االصطناعي، مع التركيز عل ى التحديات الحقوقية الناشئة في السياقات الصناعية المعاصرة. كما تم تحليل تأثير األنظمة الذكية على الحقوق األساسية كالحق في الخصوصية والمساواة والوصول للخدمات األساسية. وأبرزنا في الدراسة المخاطر المتعلقة بالتحيز الخوارزمي وممارسات المراقبة، وفجوات المساءلة في عملية اتخاذ القرار اآللي ، كما بينا دور األطر القانونية وآليات الحوكمة في الحد من هذه المخاطر. وعبر المقاربة القائمة على االنسان أكدنا في الدراسة على ضرورة مواءمة االبتكار التكنولوجي مع معايير حقوق اإلنسان لضمان بناء مجتمعات شالمة وعادلة أمنة في بي ئة صناعية رقمية متزايدة. الكلمات المفتاحية: األمن اإلنساني _ الذكاء االصطناعي _ حقوق اإلنسان_ التحيز الخوارزمي_ الحوكمة الرقمية _ حماية الخصوصية _ المساءلة. Abstract: This study examines the intersection between human security and artificial intelligence, focusing on emerging human rights challenges in contemporary industrial contexts. المؤلف المرسل : حنان أوشن

-- 1 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 700 It analyzes how AI-driven systems influence fundamental rights such as privacy, equality, and access to essential services. The paper highlights risks related to algorithmic bias, surveillance practices, and accountability gaps in automated decision- making. It also explores the role of legal frameworks and governance mechanisms in mitigating these risks. By proposing a human-centered approach, the study emphasizes the need to align technological innovation with human rights standards to ensure inclusive, fair, and secure societies in an increasingly digital industrial environment key words: Human security, Artificial intelligence, Human rights, Algorithmic bias, Digital governance, Privacy protection مقدمة: عالم اليوم عرف أهم مرحلة من مراحل كتابة تاريخ اإلنسان، حيث شهدت هذه المرحلة تحوال عميقا وغير مسبوق ا و معهود ، بفضل مخرجات الثورة الرقمية والتقنية التي صاحبتها تطورات الذكاء االصطناعي باعتباره نمط ا خوارزميا تخطى مدلول المعرفة االبتكارية ليصل ملدلول االبتكار الصناعي ذاتي المعرفة، حيث أضحت أدواتها تلعب دورا رئيسيا في إعادة تشكيل بنية المجتمع الحديث أي انتقالها من مرحلة المساعد ملرحلة الشريك المؤسس المتحكم في مختلف أنماط حياة االنسان. وما يالحظ في هذه المرحلة التي جمعت بين ابتكار اإلنسان وذكاء اآللة، أن أثر المزاوجة بين المتغيرين لم يعد مقتصرا على حدود استخدام التكنولوجيا وضوابط ذلك بل امتد ليشمل البعد اإلنساني في مفهوم األمن اإلنساني القائم على موازنة جدلية حماية حق األفراد وضمان كرامته وحقوقه كإنسان فاعل ومفتعل في منظومة قانونية تجمع بي ن جمود النص وم رونة القاعدة متى انتهج نهج تحقيق المنفعة العامة سواء في مفهومها الضيق ( المحلي) أو الواسع (الدولي ) أو حتى الممتد ( العالمي ) كغاية وغرض في ذات اللحظة. أمام هذا النسق المعرفي الحديث أصبح موضوع األمن اإلنساني والذكاء االصطناعي من المواضيع التي تكتس ي أهمية ب الغة، الرتباطه بتلك العالقة الدقيقة بين التطور التكنولوجي المعرفي السريع ومقتضيات ضرورة حماية االنسان وحقوقه األساسية من جهة أخرى .

-- 2 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 701 مجلة الحقوق والحريات أصبح اليوم مدلول األمن اإلنساني في شكله التقليدي يواجه تحديات جديدة أفرزتها الصناعة المعرفية في مرحلتها الحديثة التي ارت بطت بالذكاء االصطناعي والتنبؤ اآللي والخوارزمية النشطة ، والقرار اآللي الذي مس استخدامه مختلف المجاالت إما زيادة أو نقصان بحسب تأثر المجال بالتقنية ، ومرد ذلك أنه ومع توجيه السلوك البشري بفضل معطيات التنبؤ الخوارزمي وما قدمته من مرونة و تعزيز للكفاءة فبما يحقق تحسين الخدمة ،إال أنها قد و/أو تتحول ألدوات مساس بالخصوصية اإلنسانية ، مع انتاج نمطية جديدة من التمييز غير المرئي القائم على نواتج الخوارزمية ومن ثم االنتقال من نطاق االستغالل لنطاق هدم حق أو جملة من الحقوق األساسية المرتبطة باإلنسان . تظهر أهمية الموضوع في كونه من المواضيع التي تالمس جوهر التحوالت التي عرفها القانون الدولي والوطني على حد السواء، إذ غدى من الضروري إعادة التفكير في مدى كفاية القواعد القانونية التقليدية ملواكبة تسارع التطور التكنولوجي، خاصة أمام غياب اإلطار القانوني الدولي الموحد الذ ي يكفل تنظيم استخدام الذكاء االصطناعي بشكل شامل يضمن الموازنة بين االبتكار كحق فردي وحماية الحقوق الجماعية والفردية حين مواجهته ومن منطلق أن هذا الموضوع من المواضيع التي تفتح نقاشات قانونية متعددة ومتنوعة في مختلف المجاالت وعلى مختلف األصعدة خاصة ما تعلق ب ضمان احترام وتكريس مبادئ حقوق االنسان داخل البيئة الرقمية ، كانت إشكالية الدراسة ترتكز على : مامدى قدرة الذكاء االصطناعي على تعزيز األمن اإلنساني ؟ وماهي تحديات الحقوق المترتبة عن سياق الصناعة المعرفية ؟متى استخدمت الذكاء االصطناعي؟ سياق اإلجابة عن هذه اإل شكالية يفرض وضع تساؤالت جوهرية نوجزها في : - هل يمكن إعادة تعريف األمن اإلنساني في ظل تطبيقات التحول الرقمي والذكاء اإلصطناعي ؟ - ما طبيعة مخاطر الحقوق المرتبطة باستخدام الذكاء االصطناعي ، خاصة متى تحدثنا عن مجال الخصوصية والمساواة؟ - ما مدى قدرة نصوص القانون الحالية في ضبط تسارع التكنولوجيا ، مما يحقق ضمانة فعالية األمن اإلنساني في أقص ى صوره؟ لإلجابة عن هذه اإلشكالية اعتمدنا المنهج التحليلي عبر تفكيك مفاهيم الدراسة المرتبطة باألمن اإلنساني والذكاء االصطناعي ، لتوضيح أبعادها وفهم مختلف أطرها ، كما استعنا

-- 3 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 702 ببع ض من خصائص المنهج الوصفي لبناء وصف تقاربي مرتبط بالواقع التطبيقي لتقنيات الذكاء في مواجهة أبعاد ومتطلبات األمن اإلنساني . المبحث األول: الذكاء االصطناعي كفاعل جديد في مدلول األمن اإلنساني اعتبار الذكاء االصطناعي اعل جديد في مدلول المن اإلنساني يفرض إعادة النظر في األطر المفاهيمية والقانونية التقليدية ، من خالل إدماج الفاعل ضمن منظومة الحوكمة العالمية ، ووضع ضوابط توجه استخدامه بما يخدم االنسان ويحمي حقوقه، ومن ثم كان هدف هذا المبحث هو توضيح طبيعة دوره المستجد ، وتحليل انعكاساته على مفهوم األمن اإلنسان ي في ضوء التوازن بين متطلبات االبتكار وضمان الحماية . المطلب األول: اإلطار المفاهيمي والتداخل العملي بين المصطلحين عرف مفهوم األمن اإلنساني تحوالت جذرية في عصر الرقمنة والذكاء االصطناعي ، حيث لم يعد قاصرا على الحماية التقليدية للفرد من التهديدات ذات ا لطابع العسكري أو المادي فقط ، بل اتسع ليشمل أبعاد متعددة تتعلق بالكرامة اإلنسانية والحقوق األساسية ، واألمن الرقمي والمعرفي على حد السواء ، ومن هنا برز الذكاء االصطناعي كفاعل جديد يؤثر بشكل أو آخر في إعادة تشكيل معالم األمن اإلنساني . الفرع األول: قراءة في مدلول األمن اإلنساني أمام استخدامات الذكاء االصطناعي في هذه الجزئية سنحاول تحليل مدلول األمن اإلنساني عبر توضيح العالقة ما بينه وبين الذكاء االصطناعي كإطار معرفي معاصر متسارع متعدد المجاالت واالستخدامات وفي ذات الوقت ناتج يؤثر سلبا على المنظومة القانوني ة كالمة بما فيها اطار الحقوق األساسية التي تمثل جوهر ومجال األمن االنساني . أوال - مدخالت مصطلح األمن اإلنساني والذكاء االصطناعي نحدد في هذه الجزئية فكرتبن أساسيتين إحداهما ترتبط بتطور مفهوم األمن اإلنسانية والثانية تتعلق بالعالقة بين الذكاء االصطناعي و األمن اإلنساني _ ا المن اإلنساني من الحماية التقليدية إلى األمن الشامل ارتبط األمن في صورته الكالسيكية بمفهوم أمن الدولة، الذي يركّز أساسًا على حماية السيادة الوطنية من التهديدات الخارجية، خاصة العسكرية منها. وقد تشكّل هذا

-- 4 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 703 مجلة الحقوق والحريات التصور في سياق العالقات الدولية التقليدية التي أعقبت أحداث مثل الحرب العالمية الثانية، حيث كان هاجس الدول هو الحفاظ على بقائها في مواجهة األخطار العسكرية . _ ما بين مدلول األمن اإلنساني والذكاء االصطناعي جذب أم نفور العالقة بين األمن اإلنساني والذكاء االصطناعي ليست بذلك النهج المستقيم ال ذي يمكن تحليله على انه قابل للوصف بالجذب أ و النفور بشكل مطلق ، وإنما هي رايطة مركبة تضمن بين طياته التأ رجح بين التوتر والتكامل ، وذلك بحسب معطيات وطريقة توظيف الذكاء االصطناعي كفاعل تكنولوجي وحدود ضبطه قانونيا وأخالقيا . ومرد هذا التأرجح يمتد تاريخيا لسنة 1994 حيث شهد مفهوم األمن اإلنساني تطورا واسعا على إثر اقراره بشكل رسمي ، متجاوزا مقاربة االرتكاز على الدولة ، وهذا حين وسع في تقرير التنمية البشرية أنداك من نطاقه ليشمل أبعاد إنسانية عديدة .1 مما فتح معه المجال اليوم لظهور فاعلين جدد يؤثرون على المفهوم 1 إما باإليجاب أو السلب وعلى رأسهم الذكاء االصطناعي ، وفي هذا االطار ظهر للوجود اتجاهين أساسيين _ اتجاه مبدأ الجذب ، حيث يرتكز على مبدأ أن الذكاء االصطناعي أصبح أداة فعالة في تعزيز األمن اإلنساني في مختلف أبعاده، حيث عبر خاصية التنبؤ يسهم في تحليل المخاطر و تفاديها، كما يحسن من خدمات الرعاية الصحية ودعم أسس األمن الغذائي باإلضافة لدعم العدالة 2 من خالل تحليل معطيات جهاز العدالة، حيث يبرز الذكاء االصطناعي كحليف استراتيجي يعزز قدرة الدول والمؤسسات على حماية اإلنسان، ويقدم ملفهوم األمن اإلنساني بعدا استباقي قائم على التوقع والوقاية بدال من رد الفعل ، وهو ما التي تدعو لتوظيف الذكاء االصطناعي كأداة لخدمة التنمية تؤكده المبادئ الدولية المستدامة 3 _ اتجاه مبدأ النفور ، الذكاء االصطناعي يثير جملة من المخاطر تقلل من أسس األمن اإلنساني في حد ذاته ، حيث أن التوسع في استخدام الخوارزميات يرتب النتهاك 1 . united Nations Development Programme (UNDP), Human Development Report 1994, Oxford University Press, 1994, p. 23. 1 .United Nations, The Age of Digital Interdependence, 2019, p. 15 2 . Global Risks Report, World Economic Forum, 18 th edition,insight report, 2023p: 24 3 . OECD Principles on Artificial Intelligence, 2019, https://www.oecd.org/en/topics/ai-principles.html

-- 5 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 704 الخصوصية وتكريس التمييز المرتب عن فكرة وخاصية التحيز الخوارزمي ، وتهديدات فرص العمل واتساع بؤرة الفجوة الرقمية 1 ، باإلضافة إلضعاف الرقابة البشرية مما يكرس الاليقين يمكن أن نسميه بــ" الاليقين الخوارزمي" نوعا جديدا من باإل ضافة لظاهرة الرأسمالية الرقمية 2. ما بين هذين االتجاهين نقول استنتاجا أن العالقة ليست ال جذب تام وال نفور مطلق، بل يمكن وصفها على أنها عالقة مشروطة ، قائمة على الميل للجذب حين يؤطر الذكاء االصطناعي بضوابط ذات طبيعة أخالقية 3 وقانونية محددة ، ويميل للنفور حين يترك دون تطبيق حوكمة 4 ويوظف من غير ضابط على أساس هيمنة االستغالل. ثانيا - الذكاء االصطناعي ومركزية بنية الصناعة المعرفية مما تقدم تحليله في جزئيات هذا البحث نقول أن التحول الرقمي لم يعد مقتصرا على مجرد االنتقال من الوسائط التقليدية للرقمية ،بل أصب ح تحوال في بنية انتاج المعرفة ذاتها، واآلليات التي تنتج من خاللها القيمة االقتصادية والعلمية واالجتماعية، ومن هذا السياق تظهر أهمية الذكاء االصطناعي باعتباره تكنولوجيا ذات أثر ممتد في مختلف المجاالت وبشتى اإلشكاالت خاصة في اإلنتاجية واالبتكار، مع التركز امل لحوظ في الخدمات ذات الكثافة المعرفية 5. 1 .Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor St. Martin’s Press, New-York, 2018, 272 p:67. 2 . Shoshana Zuboff, The Age of Surveillance Capitalism, New York: PublicAffairs, ,2019, p. 221. 3 . UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021, https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence 4 . European Commission, White Paper on Artificial Intelligence, 2020. https://commission.europa.eu/system/files/2020-02/commission-white-paper- artificial-intelligence-feb2020_en.pdf 5 . Filippucci, Francesco, Peter Gal, Cecilia Jona-Lasinio, Alvaro Leandro, and Giuseppe Nicoletti, The Impact of Artificial Intelligence on Productivity, Distribution and Growth: Key Mechanisms, Initial Evidence and Policy Challenges, OECD Artificial Intelligence Papers, No. 15, OECD Publishing, Paris, 2024,p: 23

-- 6 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 705 مجلة الحقوق والحريات الذكاء االصطناعي وتدخله في بنية الصناعة المعرفية ال تعتمد على ما يمتلكه من قدرات تقنية فقط ، ولكن تمتد إلعادة توزيع أدوار الفاعلين في انتاج المعرفة 1 ، مما يثير اشكاالت ترتبط بحق تملك البيانات والمعرفة ومبدأ الخصوصية والشفافي ة والتحيز الخوارزمي والمسؤولية عن القرارات المؤتمتة، يضاف لها خطر تركز القدرات التقنية والمعرفية عند عدد محدود من الفاعلين، مما دفع اليونسكو للتأكيد على أن حوكمة الذكاء االصطناعي البد من ان تقوم على مبادئ محددة ومضبوطة وعلى رأسها عدم التمييز 2. م ركزية بنية الصناعة المعرفية تظهر على أنها أهم نتائج تحوالت الذكاء االصطناعي ، حيث جعل من المعرفة أهم أجزاء البنية التحتية التي تقوم عليها األنظمة الذكية 3 الفرع الثاني: تداخل األمن اإلنساني مع البيئة الرقمية المعاصرة العالقة بين األمن اإلنساني والبيئة الر قمية قائمة على التداخل المتبادل بين الفرصة والخطر ، حيث ان التكنولوجيا تعزز امن اإلنسان عبر تحسن الوصول للخدمة والمعلومة بما يدعم االستجابة للكوارث واألزمات، لكن في ذات الوقت تكون مصدر تهديد جديد متى استغلت بشكل غير مشروع كاستخدامها لإلضرار بالفرد او المؤسسة على حد السواء. أوال – من مفهوم األمن القومي إلى األ م ن الرقمي اإلنساني اكتسب التداخل بين األمن اإلنساني والبيئة الرقمية أهمية كبرى في ظل التزايد المتسارع للذكاء االصطناعي ، لذلك اتجهت األدبيات الدولية الحديثة لربط التحول الرقمي بمبادئ حقوق اال نسان واألمن والحوكمة والمساءلة، _ البيئة الرقمية وإعادة تشكيل مصادرالتهديد ارتبط مفهوم األمن في التصور التقليدي للدولة بالحفاظ على سيادتها ووحدة إقليمها واستقاللها السياس ي وحماية مصالحها الحيوية من التهديدات الخارجية، ولذلك انصبت المقاربة األمنية الكالس يكية على الدولة بوصفها المرجع األساس ي لألمن، وعلى 1 . مختلف المؤسسات وعلى رأسها العلمية واالقتصادية واإلدارية أصبحت مطالب ة بامتالك قدرات جديدة في إدارة البيانات وتطوير المهارات الرقمية ، وتقييم مخرجات الخوارزميات ، وضمان االستخدام المسؤول للتكنولوجيا. 2 UNESCO, Recommendation on the Ethics of Artificial Intelligence, Paris, UNESCO, 2022, p: 19 3 . UNESCO, Guidance for Generative AI in Education and Research, Paris, UNESCO, 2023

-- 7 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 706 القدرات العسكرية والسياسية باعتبارها أهم أدوات تحقيقه ، لكن التحوالت التي عرفها النظام الدولي كشفت عن محدودية اختزال األمن في حماية الحدود واإلقليم ومواجهة التهديدات العسكرية، إذ أصبحت حياة األفراد ورفاه يتهم وحقوقهم عرضة لجملة من المخاطر. ومن ثم بدأ مفهوم األمن يتجه تدريجي ا من أمن الدولة إلى أمن اإلنسان 1. في ظل انتشار التكنولوجيا الرقمية وإعادة تشكيل بيئة األمن ، لم تعد التهديدات التي تواجه الفرد والدولة محصورة في مجالها المادي المتعارف عليه ، بل انتقلت ملجا ل رقمي يعتمد على فضاء وهمي مرتبط مباشرة بالحياة اليومية والخدمة العامة ، مما جعل تهديدات البنى التحتية الرقمية هي الصور الجديدة للمخاطر التي تؤثر بأمن االنسان مما ينعكس أنيا على الدولة 2. ومن هذا المنطلق لم يعد األمن السيبراني مجرد مفهوم تقني مقتصر على حما ية األنظمة ، بل أصبح مرتبط بحماية الثقة الرقمية وضمان استمرار عجلة الحق مقابل الخدمة في البيئة الرقمية الذكية . إذا مفهوم األمن الرقمي اإلنساني ينظر اليه باعتباره توسيع للمنظور األمني بحيث ال تكون التكنولوجيا واألنظمة هي وحدها موضوع الحماية بل يكون االنسا ن كتركيبة قائمة على الحق ، الكرامة ، االستخدام ، هي أصل الغاية األمنية . ثانيا إعادة تعريف األمن اإلنساني _ عناصر مفهوم األمن اإلنساني لم يعد مقتصرا على الحماية من االعتداء المادي مهما كان شكله ، بل أصبح متعدد األبعاد يركز على االنسان وحقوقه وقدرته على المخاطر مواجهة المتداخلة مما يقود ملفهوم االمن الرقمي اإلنساني . _ االنتقال من االستجابة إلى الوقاية ومن الحماية الى التمكين البد من االنتقال من منطق رد الفعل ملنطق الوقاية ، حيث بدل انتظار تحقق الخطر فالتعامل مع آثاره، يجب أن يركز النهج اإلنساني اليو م على اكتشاف مصادر 1 . Commission on Human Security, Human Security Now: Protecting and Empowering People, New York, 2003 2 . UNDP, Human Security in the Digital Context, 21 October 2025 https://www.undp.org/digital/blog/human-security-digital-context?utm

-- 8 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 707 مجلة الحقوق والحريات الضعف ومعالجة أسبابها الجذرية قبل تحولها الزمات، وهذا التوجه ليس بغريب حيث اعتمدته األمم المتحدة في تفعيلها لألمن اإلنساني 1 . كذلك يجب أن ال ينظر لإلنسان على اعتباره مجرد متلق للحماية بل باعتباره فاعال مشاركا في انتاج امنه، فتستهدف ا لحماية الحد من المخاطر ، ويعمل التمكين على تحقيق هدف تعزيز قدرة األفراد والمجتمعات في المشاركة واتخاذ القرارات وبناء القدرة على مواجهة مخاطر المستقبل 2. _ادراج البعد الرقمي في مفهوم األمن اإلنساني يمثل البعد الرقمي أحدث مراحل إعادة تعريف األمن اإلنساني ، ف إذا كان األمن اإلنساني التقليدي يهتم بحماية اإلنسان من الخوف والعوز واإلهانة، فإن البيئة الرقمية أوجدت أشكاال جديدة من المخاطر تمس اإلنسان بصورة مباشرة، مثل انتهاك الخصوصية، واستغالل البيانات، وفقدان السيطرة على الهوية الرقمية، والتمييز الناتج عن بعض النظم المؤتمتة، والمخاطر المرتبطة بالخدمات الرقمية والبنية التحتية الحيوية . المطلب الثاني:. الذكاء االصطناعي كفاعل جديد في انتاج التهديدات والفرص رتب الذكاء االصطناعي تحول نوعي في طبيعة العالقة بين التكنولوجيا واإلنسان فلم يعد مجرد أداة تقنية ت ستخدم لتنفيذ امل هام أو تحسي ن كفاءة القرارات، بل أصبح عنصر مؤثر في إنتاج المعرفة ، بما جعله فاعال متزايد الحضور في مختلف المجاالت وفي المقابل القدرات المتقدمة لألنظمة الذكية تطرح أنماط ا جديدة من المخاطراألمر الذي يجعل أثر الذكاء االصطناعي مزدوج ا بين إنتاج فرص جديدة وتعقيد م صادر التهديد . أهمية هذه الثنائية تتجاوز المجال التقني لتصل إلى مفهوم األمن اإلنساني؛ إذ أصبح من الضروري إعادة النظر في طبيعة المخاطر التي تواجه اإلنسان في بيئة تتزايد فيها قدرة الخوارزميات على تحليل السلوك والتنبؤ به والتأثير في القرارات. ومن ثم، فإن التحد ي المعاصر ال يتمثل في تحديد ما إذا كان الذكاء االصطناع ي مصدر ا للتهديد أم فرصة للتنمية والحماية، وإنما في كيفية حوكمة هذه التكنولوجيا بما يضمن تعظيم منافعها والحد من مخاطرها، مع الحفاظ على حقوق اإلنسان وكرامته . 1 . صندوق األمم المتحدة االستنماني لألمن البشري،ماهو األمن البشري security - human - is - https://www.un.org/humansecurity/ar/what 2 . هذا النهج األقرب لضمان األمن اإلنساني في البيئة الرقمية ، كون المستخدم لم يعد مجرد مستفيد من التكنولوجيا ، بل أصبح طرفا يأخذ حكم إما المنتج أو المنشئ أو المتفاعل مع األنظمة الرقمية .

-- 9 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 708 الفرع األول: الذكاء االصطناعي ودوره في بناء الفرصة لم يعد الذكاء االصطناعي مجرد تقنية موجهة إلى أتمتة المهام ، بل أصبح أحد العوامل المؤثرة في إعادة تشكيل الفرص بفضل قدرته على معالجة كميات ضخمة من البيانات، واكتشاف األنماط، ودعم التنبؤ واتخاذ القرار، اتاح إمكانات جديدة لتحسين الخدمات وتعزيز االبتك ار وتطوير حلول أكثر استجابة لالحتياجات اإلنسانية. ومن هذه الزاوية، ال ن فهم ( لفرصة ) باعتبارها نتيجة تقنية تلقائية، وإنما باعتبارها قدرة يمكن تحويلها إلى قيمة اجتماعية وإنسانية متى توافرت البيئة القانونية والمؤسساتية والمهارات الالزمة . أوال - دورالذكاء اال الخدمة صطناعي في تعزيز أصبح الذكاء االصطناعي أحد أهم األدوات المعاصرة إلعادة تشكيل مفهوم الخدمة، سواء في القطاع العام أو الخاص، بالنظر إلى قدرته على تحليل البيانات الضخمة، وأتمتة اإلجراءات، والتنبؤ باحتياجات المستفيدين، و تقديم استجابات أكثر سرعة وتخصيص ا. ولم تعد قيمة الذكاء االصطناعي في هذا المجال مقتصرة على اختصار الوقت والجهد، بل امتدت إلى إعادة تصميم دورة تقديم الخدمة ذاتها، من مرحلة تحديد الحاجة إلى مرحلة تقديم الخدمة وتقييم جودتها وتحسينها بصورة مستمرة. ومن ثم أصبح توظيف الذكاء االصطناعي مرتبطًا بصورة متزايدة بمفهوم جودة الخدمة وفعاليتها وإمكانية الوصول إليها 1 كما يسهم الذكاء االصطناعي في تخصيص الخدمة وفق احتياجات المستفيدين . فبدل تقديم خدمة موحدة لجميع المستخدمين، تسمح تقنيات تحليل البيانات بفهم األنماط واالحتياجات المختلفة وتكييف بعض الخدمات تبع ا له ا. يمتد أثر الذكاء االصطناعي إلى تحسين جودة الخدمة واتخاذ القرار اإلداري؛ إذ يمكن تحليل البيانات المتعلقة بأداء الخدمات واكتشاف مواطن الضعف ، ثم استخدام نتائج التحليل في إعادة تصميم اإلجراءات. وبهذا ينتقل الذكاء االصطناعي من مجرد أداة لتنفيذ الخدمة إلى وس يلة تساعد المؤسسة على التعلم من أدائها وتحسينه بصورة مستمرة . 1 . OECD, Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions, OECD Publishing, Paris, 2025.

-- 10 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 709 مجلة الحقوق والحريات وهذه الوظيفة تكتسب أهمية خاصة في اإلدارة العمومية، حيث يمكن أن تساهم البيانات والتحليالت التنبؤية في تحسين تخصيص الموارد وتحديد األولويات . ومن منظور األمن اإلنساني، تكتسب الخدمة المدعومة بالذكاء االصطناعي أهمية إضافية؛ ألن جودة الخدمات األساسية، مثل الصحة والتعليم والحماية االجتماعية واإلدارة العمومية، ترتبط مباشرة بقدرة اإلنسان على ممارسة حقوقه وتحقيق مستوى من األمان واالستقرار. ولذلك يمكن للذكاء االصطناعي أن يسهم في تعزيز األمن اإلنساني عندما يس تخدم لتحسين الوصول إلى الخدمات األساسية، والتنبؤ باالحتياجات، واالستجابة لألزمات، وتوجيه الموارد إلى الفئات األكثر احتياجًا . ثانيا - األمن دورالذكاء االصطناعي في تعزيز أعاد الذكاء االصطناعي تشكيل أدوات التعامل مع المخاطر األمنية، إذ لم يعد األمن يعتمد ف قط على االستجابة للتهديد بعد وقوعه، وإنما أصبح باإلمكان توظيف تحليل البيانات والخوارزميات في اكتشاف األنماط، والتنبؤ بالمخاطر، واإلنذار المبكر، ودعم اتخاذ القرار . وقد أشارت األمم المتحدة إلى استخدام تطبيقات الذكاء االصطناعي في تحديد أنماط العنف، ومراقبة وق ف إطالق النار، ودعم جهود حفظ السالم والعمل اإلنساني، بما يبرز قدرته على االنتقال باألمن من نموذج االستجابة إلى نموذج أكثر اعتمادًا على االستباق والوقاية 1. من زاوية األمن اإلنساني، يتيح الذكاء االصطناعي توسيع نطاق الحماية من خالل تحسين القدرة على التنبؤ با ألزمات والكوارث، ورصد بعض مؤشرات انعدام األمن الغذائي أو النزوح، وتحسين توجيه الموارد اإلنسانية. وقد أشارت األمم المتحدة إلى إمكان استخدام الذكاء االصطناعي في تحديد انعدام األمن الغذائي والتنبؤ بحاالت النزوح المرتبطة باأل حداث المتطرفة وتغير المناخ، فضال عن تطبيقات أخرى في المجال اإلنساني 2. 1 . united Nations , Secretary-General's remarks to the Security Council on Artificial Intelligence [bilingual as delivered; scroll down for all-English]; 18 July 2023 https://www.un.org/sg/en/content/sg/statements/2023-07-18/secretary- generals-remarks-the-security-council-artificial-intelligence-bilingual- delivered 2 . United Nations Secretary-General, Remarks to the Security Council on Artificial Intelligence, 19 December 2024 https://www.un.org/sg/en/content/sg/statements/2024-12-19/secretary-generals- remarks-the-security-council-artificial-intelligence-bilingual-delivered?utm

-- 11 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 710 يمكن للذكاء االصطناعي أن يدعم األمن المؤسس ي واإلداري من خالل تحسين اكتشاف االحتيال، وتحليل المخاطر، وتعزيز كفاءة اتخاذ القرار 1. الفرع الثاني: الذكاء االصطناعي ودوره في تشكيل التهديد الذكاء االصطناعي عنصر مركزي في البيئ ة الرقمية المعاصرة، بما يتيحه من قدرات متقدمة على تحليل البيانات، التنبؤ، األتمتة واتخاذ القرارات. غير أن هذه القدرات ذاتها يمكن أن تتحول إلى مصدر جديد لتهدي د األمن اإلنساني الرقمي عندما ت ستغل في تطوير أساليب الهجوم السيبراني، أو إنتاج المعلومات المضللة وا ملحتوى االصطناعي، أو انتهاك الخصوصية، أو التأثير في السلوك واالختيارات البشرية. وقد أشار برنامج األمم المتحدة اإلنمائي في تقريره الخاص باألمن اإلنساني لعام 2022 إلى أن التقنيات الرقمية، رغم قدرتها على توسيع الحريات اإلنسانية، يمكن أن تنتج آثارًا غير مقصودة تمس األمن اإلنساني، كما تناول بصورة مباشرة أثر االعتماد المتزايد على خوارزميات الذكاء االصطناعي في تقويض األمن اإلنساني 2 أوال – إعادة تعريف المخاطر نحو ل م يعد مصدر الخطر بالضرورة فاعل بشري خارجي يستخدم التكنولوجيا لإلضرار باآلخرين، وإنما قد ينشأ الخطر من الخوارزم ية ذاتها، أو من البيانات التي تدر ب عليها، أو من طريقة تصميم النظام، أو من القرارات اآللية التي ينتجها، أو من االعتماد المفرط عليه . وبذلك ي صبح األمن اإلنساني الرقمي مرتبط ا ليس فقط بحماية البنية التحتية والبيانات، وإنما كذلك بحماية الخصوصية، والهو ية الرقمية، واالستقاللية اإلنسانية، والمساواة، والسالمة المعلوماتية، والثقة في المؤسسات والمنصات الرقمية . 1 . تؤكد منظمة التعاون االقتصادي والتنمية أن الحكومات يمكنها استخدام الذكاء االصطناعي في اكتشاف االحتيال وتحسين عملية صنع القرار، مع ضرورة وضع ضوابط تضمن الشفافية والمساءلة وحماية الحقوق 2 . من منظور األمن السيبرا ني، تؤكد وكالة االتحاد األوروبي لألمن السيبراني (ENISA) أن الذكاء االصطناعي يمكن أن يفتح مسارات جديدة للتالعب والهجوم، وأن المخاطر ال تقتصر على استخدام الذكاء االصطناعي ضد األنظمة، بل تشمل أيضًا نقاط الضعف الموجودة في دورة حياة أنظمة الذكاء االصطناعي وسالس ل توريدها

-- 12 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 711 مجلة الحقوق والحريات ويترتب على ذلك أن مفهوم المخاطر الرقمية يتجه نحو التحول من الخطر المباشر والقابل للرصد إلى الخطر المركب والمتدرج وغير المرئي ؛ فقد يكون الضرر ناتج ا عن قرار خوارزمي متحيز، أو عن تضليل واسع النطاق بواسطة المحتوى االصطناعي، أو عن جمع البيانات وتحليلها بصورة تؤثر في المجال الخاص للفرد، أو عن خلل في نظام ذكي تعتمد عليه خدمات حيوية. ومن هنا تبرز الحاجة إلى مقاربة استباقية للمخاطر تقوم على تحديد مصادرها قبل تحق ق الضرر، وتقييم آثارها على اإلنسان، وإخضاع التقنيات الذكية ملبادئ الشفافية والمساءلة والرقابة . ثانيا - البنيوية في األنظمة الذكية المخاطر ال تنشأ المخاطر المرتبطة باألنظمة الذكية بالضرورة من سوء استخدامها أو من الهجمات التي تستهدفها من الخارج، وإنما قد تكون كامنة في البنية التقنية والتنظيمية التي تقوم عليها هذه األنظمة ، فاعتماد الذكاء االصطناعي على البيانات والخوارزميات ونماذج التعلم اآللي والبنى التحتية ال رقمية يجعل بعض مصادر الخطر جزء من النظام ذاته 1 ومن ثم، فإن فهم المخاطر البنيوية يقتض ي االنتقال من التركيز على الخطر باعتباره حدث ا استثنائي ا إلى النظر إليه باعتباره إمكانا متأصال في تصميم النظام وطريقة تشغيله وتفاعله مع البيئة المحيطة . يرتبط الخطر البنيوي بمشكلة الشفافية وقابلية التفسير فك لما ازدادت األنظمة الذكية تعقيد ا، أصبح من الصعب على المستخدم أو الجهة الرقابية 2 فهم الكيفية التي انتقل بها النظام من المدخالت إلى القرار النهائي. ويكتسب هذا األمر أهمية خاصة عندما تستخدم األنظمة الذكية في مجاالت تمس الحقوق والمصالح األساسية لألفراد، ألن غياب القدرة على تفسير القرار قد يضعف المساءلة ويجعل تصحيح األخطاء أكثر صعوبة . ومن جهة أخرى، يبرز خطر االعتماد المفرط على األنظمة الذكية؛ إذ يمكن أن يؤدي نقل وظائف متزايدة من اإلنسان إلى الخوارزمية إلى تضييق هامش الرقابة البشرية وإضعاف القدرة على التدخل عند حدوث خلل. كما أن الترابط بين األنظمة الذكية والبنى التحتية الرقم ية قد يجعل الخلل في نظام واحد قابال ً لالنتقال إلى أنظمة أخرى، وهو ما 1 . NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), National Institute of Standards and Technology, 2023. 2 . European Union Agency for Cybersecurity (ENISA), Artificial Intelligence Cybersecurity Challenges, 2020

-- 13 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 712 يحول الخطر من مشكلة تقنية محدودة إلى خطر نظامي يمكن أن يمتد أثره إلى قطاعات حيوية . المبحث الثاني: التحديات الحقوقية للذكاء االصطناعي وتأثيرها على األمن اإلنساني من منظور األمن اإلنساني، تتجاوز المسألة حماية الدولة أو أمن المؤسسات إلى حماية اإل نسان باعتباره محور األمن وغايت ه؛ األمر الذي يجعل الحقوق والحريات عن صر ا أساسي ا في تقييم آثار الذكاء االصطناعي ، فكلما اتسع نطاق استخدام األنظمة الذكية أصبح من الضروري ضمان أال تتحول الكفاءة التقنية إلى مصدر لتوسيع المراقبة أو تعميق التمييز أو إضعاف استقاللية الفرد أو تقويض الثقة في المؤسسات ، ومن ثم فإن التحدي الحقيقي ال يتمثل في الذكاء االصطناعي في ذاته، وإنما في ك يفية تصميمه وتنظيمه واستخدامه ومساءلة القائمين عليه بما يحقق التوازن بين متطلبات االبتكار واألمن من جهة، وحماية الحقوق والحريات واألمن اإلنساني من جهة أخرى . المطلب األول: البيئة الخوارزمية والحقوق األساسية المساس بالحقوق األساسية في البيئة الخوارزمية ال ينتج فقط عن االستخدام غير المشروع للذك اء االصطناعي، وإنما قد ينشأ أيض ا من عيوب التصميم، أو جودة البيانات، أو غياب الشفافية، أو ضعف الرقابة البشرية، أو عدم وضوح المسؤولية القانونية . وهو ما يجعل حماية الحقوق تقتض ي اعتماد مقاربة استباقية تقوم على تقييم المخاط ر قبل تشغيل األنظمة، والتدقيق المستمر في الخوارزميات، وضمان الرقابة البشرية، وإتاحة آليات فعالة للتظلم والتصحيح، وربط االبتكار التقني بمبادئ الكرامة اإلنسانية والمساواة والمساءلة. وبذلك تتحول حماية الحقوق األساسية من قيد خارجي على التكنولوجيا إلى مكوّن جوه ري في حوكمة البيئة الخوارزمية وضمان األمن اإلنساني في العصر الرقمي . الفرع األول: ال بيئة الخوارزمية والمساس بالحقوق األساسية الخلل ف ي البيئة الخوارزمية ال يمس حق منفرد بالضرورة، وإنما قد ينتج عنه تراكم للمخاطر الحقوقية يمس الخصوصية والمساواة واالستقاللية وحرية التعبير والوصول العادل إلى الخدمات، بما ينعكس في النهاية على شعور اإلنسان باألمان والثقة في المؤسسات. ولذلك، فإن بناء بيئة خوارزمية متوافقة مع الحقوق األساسية يقتض ي االنتقال من منطق الكفاءة التقنية وحدها إلى منطق المسؤولية الحقوقية والتقنية

-- 14 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 713 مجلة الحقوق والحريات المشتركة ، بحيث تصبح حماية اإلنسان جزء أصيل من تصميم النظام الذكي وتشغيله وتقييمه، ال مجرد معالجة الحقة لآلثار التي قد تترتب على استخدامه . أوال – اقتصاد البيانات و انتهاك الحق في الخصوصية التحول الرقمي المتسارع رتب إلى بروز اقتصاد البيانات باعتباره أحد المكونات األ ساسية لالقتصاد ا ملعاصر، حيث أصبحت البيانات موردا استراتيجي تتنافس المؤسسات والمنصات الرقمية على جمعه وتحليله واستثماره في تطوير الخدمات واستهداف المستخدمين، والتنبؤ بالسلوك، وتحسين عمليات اتخاذ القرار ، ومع توسع تطبيقات الذكاء االصطناعي، ازدادت القيمة االق تصادية للبيانات، إذ تمثل المادة األولية التي تعتمد عليها الخوارزميات في التعلم والتحليل وإنتاج التوقعات. غير أن تحويل البيانات الشخصية إلى مورد اقتصادي يثير إشكالية حقوقية جوهرية، تتمثل في حدود مشروعية جمعها ومعالجتها واستغاللها، ومدى احترام ذلك للحق في ال خصوصية . وتتجلى مظاهر المساس بالخصوصية في التوسع في جمع البيانات الشخصية وتتبع السلوك الرقمي لألفراد، سواء من خالل المنصات اإللكترونية أو تطبيقات الهواتف أو خدمات الموقع أو تقنيات التعرف والتحليل اآللي. وال تقف المخاطر عند البيانات التي يصرح بها الفرد بصورة مباشرة، بل تمتد إلى البيانات التي يمكن استنتاجها من أنماط استخدامه، وعالقاته الرقمية، وعمليات البحث والتصفح، وتفضيالته، بما يسمح ببناء ملفات رقمية شديدة التفصيل عن شخصيته وسلوكه. ويزداد الخطر عندما تتم معالجة هذه البيانات بواسطة أنظمة الذكاء االصطناعي الق ادرة على الربط بين مصادر متعددة واستخال ص معلومات لم يقدمها الفرد صراح ة 1. كما تطرح نماذج األعمال القائمة على استثمار البيانات إشكالية حقيقية بشأن الموافقة الفردية؛ فالموافقة على معالجة البيانات قد تكون في بعض الحاالت شكلية أو غير متكافئة، خصوصًا عندما يكون الوصول إلى خدمة رقمية مشروطًا بقبول شروط طويلة ومعقدة ال يستطيع المستخدم فهم جميع آثارها. ومن هنا يظهر التوتر بين القيمة االقتصادية للبيانات وبين حق الفرد في التحكم في معلوماته الشخصية، وال سيما عندما 1 . OECD. AI, Data Governance and Privacy: Synergies and Areas of International Co-operation. OECD Artificial Intelligence Papers, No. 22, OECD Publishing, Paris2024

-- 15 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 714 تنتقل البيانات بين جهات متعددة أو تستخدم أل غراض تتجاوز الغرض األصلي الذي ج معت من أجله . يكتسب األمر بعدا أكثر تعقيد ا مع الذكاء االصطناعي التنبؤي والتوليدي، إذ لم تعد البيانات الشخصية مجرد م علومات مخزنة، وإنما أصبحت أساس إلنتاج استنتاجات وتوقعات حول األفراد. وقد يؤدي ذلك إلى االنتقال من حماية البيانات المعروفة إ لى ضرورة حماية الفرد من النتائج واالستنتاجات التي يمكن أن تنتجها الخوارزميات بشأنه، حتى عندما ال تكون تلك االستنتاجات واردة بصورة صريحة في البيانات األصلية . ومن منظور األمن اإلنساني، فإن انتهاك الخصوصية في اقتصاد البيانات ال يمثل مجرد اعتداء على حق فردي، ب ل يمكن أن يتحول إلى مصدر أوسع النعدام األمن الرقمي واالجتماعي، عندما يفقد الفرد السيطرة على معلوماته أو يصبح عرضة للمراقبة أو التصنيف أو التالعب. لذلك تقتض ي حوكمة اقتصاد البيانات إرساء توازن بين القيمة االقتصادية للبيانات ومتطلبات حماية الخصوصية 1 ، من خالل مبادئ تقليل جمع البيانات، وتحديد الغرض، والشفافية، واألمن، والمساءلة، وحق الوصول والتصحيح واالعتراض، إلى جانب إخضاع استخدام الذكاء االصطناعي لتقييمات حقوقية ومخاطرية تضمن أال تتحول البيانات من وسيلة لتحقيق التنمية واالبتكار إلى مصدر جديد لتهديد األمن اإلنس اني . ثانيا - . التمييزالخوارزمي وانتهاك مبدأ المساواة التمييز الخوارزمي من أبرز التحديات الحقوقية التي أفرزها التوسع في استخدام الذكاء االصطناعي، إذ قد تؤدي األنظمة الخوارزمية، إلى إعادة إنتاج أشكال قائمة من التحيز والالمساواة أو حتى تضخيمها. و تزداد خطو رة هذه الظاهرة عندما ت ستخدم الخوارزميات في مجاالت تمس بصورة مباشرة الحقوق والمراكز القانونية لألفراد كالتوظيف، والتعليم، والخدمات االجتماعية، واالئتمان، وإنفاذ القانون؛ إذ يمكن أن تنتج عنها قرارات تبدو موضوعية وتقنية، لكنها تؤدي عملي ا إلى معالمة مختلفة لفئ ات معينة. وقد أشار مجلس أوروبا إلى أن أ نظمة الذكاء االصطناعي يمكن أن ت فاقم أنماط عدم 1 OECD/WTO (2025). Economic Implications of Data Regulation: Balancing Openness and Trust. OECD Publishing.

-- 16 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 715 مجلة الحقوق والحريات المساواة القائمة أو تنش ئ أشكاال جديدة من التمييز، وال سيما عندما تعتمد على بيانات تاريخية تعكس تحيزات اجتماعية أو اقتصادية سابقة 1. ال يرتبط التمييز الخوارزمي بالتحيز المب اشر وحده، وإنما قد يظهر أيض ا في صورة تمييز غير مباشر أو تقاطعي، عندما تؤدي معايير تبدو محايدة إلى آثار غير متكافئة على فئات محددة. وتكمن خصوصية هذا النوع من التمييز في صعوبة اكتشافه أحيان ا بسبب تعقيد النماذج الخوارزمية وعدم وضوح العالقة بين البيانات المدخل ة والنتيجة النهائية. لذلك تبرز أهمية الشفافية وقابلية التفسير والتدقيق المستمر ملخرجات األنظمة الذكية إلى جانب الرقابة البشرية ووجود آليات فعالة للطعن واالنتصاف. أكدت توصية مجلس أوروبا CM/Rec(2026)1 بشأن المساواة والذكاء االصطناعي على أهمية مكافحة التمي يز طوال دورة حياة نظام الذكاء االصطناعي، من مرحلة التصميم إلى االستخدام، مع تعزيز الشفافية وقابلية التفسير والضمانات اإلجرائية وسبل االنتصاف 2. الفرع الثاني: الذكاء االصطناعي رافعة لألمن اإلنساني لم يعد الذكاء االصطناعي يُنظر إليه باعتباره مجرد تقنية لتحسي ن الكفاءة التشغيلية، بل أصبح من األدوات التي يمكن توظيفها لتعزيز األمن اإلنساني بمفهومه الواسع، الذي يضع حماية اإلنسان ورفاهه وكرامته في مركز السياسات األمنية والتنموية. أوال – في مجال الفرص التنموية : يمثل الذكاء االصطناعي أحد أبرز محركات التحول التنموي ف ي العصر الرقمي، ملا يتيحه من إمكانات لتطوير اإلنتاجية، وتحسين تخصيص الموارد، ودعم االبتكار، ورفع كفاءة الخدمات العامة والخاصة. فبفضل قدرته على تحليل كميات ضخمة من البيانات واكتشاف األنماط والتنبؤ باالتجاهات، يمكن توظيفه في تحديد االحتياجات التنموية بدقة أك بر، وتوجيه السياسات والبرامج نحو المجاالت والفئات األكثر احتياج ا . و 1 . Frederik Zuiderveen Borgesius, Discrimination, Artificial Intelligence and Algorithmic Decision-Making, Strasbourg, Council of Europe,2018, p:42 2 . Council of Europe, Recommendation CM/Rec(2026)1 on Equality and Artificial Intelligence, adopted 4 March 2026 https://search.coe.int/cm?i=09125948802acd7f

-- 17 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 716 تتجلى الفرص التنموية للذكاء االصطناعي بصورة واضحة في تحسين جودة التعليم والصحة والخدمات العمومية؛ إذ يمكن لألنظمة الذكية دعم التعلم الشخص ي، وتحليل المؤشرات الصحية، والمساعدة في التشخيص، وتحسين إدارة الموارد والخدمات. كما يتيح استخدام الذكاء االصطناعي في الزراعة تحليل البيانات المناخية والتنبؤ بالمحاصيل وترشيد استخدام المياه، بينما يمكن أن يسهم في الصناعة والطاقة والنقل في تحسين العمليات وتقليل الهدر وتعزيز الكفاءة. وتكتسب هذه التطبيقات أه مية خاصة بالنسبة للدول النامية، حيث يمكن للتقنيات الرقمية أن تساعد على تجاوز بعض القيود المرتبطة بنقص الموارد والخبرات والبنية التحتي ة 1 . ثانيا - في مجال الفرص االقتصادية : يفتح الذكاء االصطناعي فرص ا جديدة أمام االبتكار وريادة األعمال واالقتصاد المعرفي، من خالل ظهور أنشطة اقتصادية ونماذج أعمال قائمة على البيانات والخدمات الرقمية والحلول الذكية. ويمكن لهذه التحوالت أن تدعم خلق وظائف ومهن جديدة، وتطوير المؤسسات الصغيرة والمتوسطة، وتعزيز القدرة التنافسية، شريطة االستثمار المتوازي في التعليم والمهارات الرقمية والبنية التحتية والبحث العلمي. ومن ثم، فإن االستفادة التنموية من الذكاء االصطناعي تتطلب بناء منظومة متكالمة تربط بين التكنولوجيا ورأس المال البشري والمؤسسات . غير أن تحويل هذه اإلمكانات إلى فرص تنموية فعلية يظل مشروط ا بقدرة السياسات العامة على الحد من الفج وة الرقمية وضمان توزيع عادل ملنافع التكنولوجيا. فغياب البنية التحتية الرقمية أو محدودية الوصول إلى البيانات والمهارات قد يؤدي إلى تركيز مكاسب الذكاء االصطناعي في قطاعات أو مناطق أو فئات محددة، بما قد يعمق أوجه عدم المساواة القائمة. ولذلك، ينبغي أن تقوم الس ياسات التنموية على مبدأ شمولية التحول الذكي، بحيث ال يُقاس نجاح الذكاء االصطناعي بحجم االستثمار فيه فقط، وإنما بمدى إسهامه في تحسين حياة اإلنسان، وتوسيع فرصه، وتعزيز قدرته على المشاركة واالستفادة من ثمار التنمية 2. 1 UNDP (2025), Human Development Report 2025: A Matter of Choice—People and Possibilities in the Age of AI. 2 . World Bank (2025), Digital Progress and Trends Report 2025: Strengthening AI Foundations

-- 18 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 717 مجلة الحقوق والحريات المطلب الثاني: قرارالذكاء االصطناعي ما بين المسؤولية وإطارحوكمة التنظيم أفرز التطور المتسار ع لتقنيات الذكاء االصطناعي تحوال نوعي في طبي عة القرار، فلم يعد إنتاجه حكر ا على الفاعل البشري، بل أصبحت األنظمة الذكية قادرة على تحليل كميات ضخمة من البيانات، واستخالص األنماط، واقتراح البدائل، بل واتخ اذ قرارات أو التأثير بصورة مباشرة أو غير مباشرة في مجاالت تمس الحقوق والحريات والمصالح الفردية والجماعية وقد أدى هذا التحول إلى بروز مفهوم قرار الذكاء االصطناعي بوصفه مخرج ا لعملية خوارزمية تتداخل فيها البيانات والنماذج الحسابية ومعايير التصميم وأهداف الجهة المستخدمة، األمر الذي يطرح تساؤالت قانونية عميقة حول مدى إمكانية إخضاع هذا القرار للمفاهيم التقليدية للمسؤولية والرقابة . الفرع األول: مسؤولية الذكاء االصطناعي عن قراراته االنتقال من قرار تصنعه الخوارزمية إلى قرار تحكمه المسؤولية والحوكمة يمثل تحديا أساسي ا للقانون المعاصر؛ إذ يقتض ي تحقيق التوازن بين االستفادة من الكفاءة والسرعة التي توفرها تقنيات الذكاء االصطناعي، وبين صيانة الضمانات القانونية التي تحيط بالقرار وآثاره أوال – غموض المسؤولية وتعدد أطر افها : ا ملسؤولية عن قرار الذكاء االصطناعي من أكثر اإلشكاالت القانونية تعقيد ا، بالنظر إلى أ ن القرار الخوارزمي ال ينتج عادة عن إرادة منفردة يمكن إسناد آثاره إليها بصورة مباشرة، وإنما يمثل حصيلة تفاعل متشابك بين البيانات، والخوارزميات، ومطوري األنظمة، ومزودي التكنولوجيا، وال جهات المالكة أو المستخدمة 1. ، فضال عن التدخل البشري الذي قد ي قتصر أحيان ا على اعتماد مخرجات النظام أو مراقبتها ، مما يؤدي هذا التعدد إلى نشوء حالة من غموض المسؤولية ، خصوص ا عندما يصعب تحديد الحلقة التي نشأ فيها الخطأ أو التي كان يمكن عندها توقع الضرر أو منعه . وتزداد صعوبة اإلسناد القانوني عندما تكون األ نظمة قادرة على التعلم من البيانات وتعديل مخرجاتها وفق أنماط يصعب تفسيرها بصورة مباشرة، إذ قد ال يكون الضرر نتيجة خطأ برمجي واضح، وإنما نتيجة بيانات غير متوازنة، أو تصميم خوارزمي منحاز، أو 1 . European Parliament. Liability for the Operation of Artificial Intelligence Systems. Resolution of 20 October 2020, P9_TA(2020)0276

-- 19 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 718 سوء استخدام للنظام، أو قصور في الرقابة البشرية 1 ، ومن ثم، فإن البحث عن مسؤول واحد قد ال يكون كافي ا، بل قد يتطلب توزيع المسؤولية وفق مراحل دورة حياة النظام ، بدء ا من التصميم والتطوير، مرور ا بتدريب النموذج واختباره، ووصوال إلى نشره واستخدامه ومراقبة مخرجاته . ويطرح ذلك بدوره مسألة التمييز بين المسؤولية عن النظام والمسؤولية عن القرار؛ فقد يكون مطور النظام مسؤوال ً عن عيب تقني، بينما تتحمل الجهة المستخدمة مسؤولية اختيار النظام أو تشغيله في سياق غير مالئم، في حين قد يظل متخذ القرار البشري مسؤوال ً عن اعتماد مخرجاته دون التحقق من مشروعيتها أو مالءمتها. وبالتالي، فإن مجرد إسناد القرار إلى «الذكاء االصطناعي» ال ينبغي أن يؤدي إلى نشوء فراغ في المساءلة أو تحويل الخوارزمية إلى طرف مستقل يُنسب إليه الخطأ بدال من األشخاص والجهات التي صممت النظام أو استخدمته أو أشرفت علي ه 2. ثانيا - الفعل اآللي الذكي وقصورالقواعد التقليدية االنتقال من األ نظمة المعلوماتية التقليدية إلى األنظمة الذكية القادرة على التعلم واالستنتاج والتكيف أدى إلى إعادة طرح مسألة الفعل القانوني المنش ئ للمسؤولية . فالقواعد التقليدية للمسؤولية بُنيت في جانب كبير منها على افتراض وجود فعل بشري يمكن تحديده، وفاعل يمكن إسناد السلوك إليه، ونتيجة يمكن ربطها به من خالل عالقة سببية قابلة لإلثبات. غير أن الفعل الصادر عن نظام ذكاء اصطناعي قد يكون نتيجة تفاعل معقد بين البيانات والخوارزميات وعمليات التعلم، دون أن يكون المخرج المحدد قد بُرمج أو اختير مسبقًا من شخص بعينه. وقد أشارت دراسة للبر ملان األوروبي إلى أن التعقيد واالستقاللية والغموض الخوارزمي قد تجعل تطبيق قواعد المسؤولية القائمة على الخطأ أكثر صعوبة، وال سيما فيما يتعلق بإثبات الخطأ والعالقة السببية . 1 . Bertolini, Andrea. Artificial Intelligence and Civil Liability. Study commissioned by the European Parliament, Policy Department for Justice, Civil Liberties and Institutional Affairs, 24 July 2025 2 . European Commission. Proposal for a Directive of the European Parliament and of the Council on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive). COM(2022) 496 final, Brussels, 28 September 2022.

-- 20 of 22 --

حنان أوشن، مريم بن زعيم ـ ــــــــــــــــــــ ـــــــــــــــــ ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ 719 مجلة الحقوق والحريات ويظهر القصور بصورة أوضح في األنظمة التي تتسم بدرجة مرتفعة من االستقاللية؛ إذ قد يصعب تحديد اللحظة التي وقع فيها الفعل المنش ئ للضرر، أو الشخص الذي كان يملك القدرة الفعلية على توقعه ومنعه. كما أن عدم قابلية بعض النماذج الخوارزمية للتفسير الكامل قد يضع المتضرر أمام عائق إثباتي، فال يكفي أن يثبت وقوع الضرر، بل قد يُطلب منه بيان كيفية انتقال ال نظام من المدخالت إلى المخرجات التي أفضت إليه. وقد وصفت األدبيات القانونية والهندسية هذه اإلشكالية بأنها فجوة المسؤولية وفجوة المسؤولية القانونية في األنظمة المستقلة، نتيجة عدم انطباق بعض التصورات التقليدية للفعل والفاعل والسببية بصورة مباشرة على السلوك اآل لي المستقل 1 الفرع الثاني: نموذج حوكمة تنظيم إطار الذكاء االصطناعي تبرز الحاجة إلى نموذج قانوني يقوم على المسؤولية الموزعة والقابلة للتتبع، بحيث ُ ت حدد أدوار كل طرف والتزاماته، وت فرض آليات لتوثيق مراحل اتخاذ القرار، ومراقبة أداء النظام، وتقييم المخاطر، وضم ان التدخل البشري عند القرارات ذات اآلثار القانونية أو الحقوقية المهمة. فكلما تعددت األطراف المشاركة في إنتاج القرار الذكي ، أصبح وضوح سلسلة المسؤولية شرطا أساسي ا لتحقيق المساءلة، وليس مجرد مسألة تقنية أو إجرائية ال خاتمة: سع ينا عبر أسطر هذه الدراسة إلى اإلسه ام في فهم أعمق للعالقة بين التطور التكنولوجي وحقوق اإلنسان، وإبراز الحاجة الملحة إلى تطوير منظومة قانونية وأخالقية قادرة على مواكبة تحديات الذكاء االصطناعي، بما يضمن تحقيق توازن حقيقي بين االبتكار التكنولوجي وصون الكرامة اإلنسانية في عصر الصناعة المعرفية . وقد توصلنا لنتيجة أساسية تتحدد في أن : التطور المتسار ع للذكاء االصطناعي قد أفرز واقعا جديد ا أعاد تشكيل مفهوم األمن اإلنساني، وفرض تحديات غير مسبوقة على منظومة حقوق اإلنسان، مما يستدعي إعادة النظر في األطر القانونية واألخالقية التقليدية . 1 . Simon Burton et al., “Mind the Gaps: Assuring the Safety of Autonomous Systems from an Engineering, Ethical, and Legal Perspective,” Artificial Intelligence, Vol. 279, 2020

-- 21 of 22 --

األمن اإلنساني والذكاء االصطناعي: التحديات الحقوقية في عصر الصناعة المعرفية ـــــــــــــــ ــــــ 720 النتائج - مفهوم األ من اإلنساني لم يصبح قاصرا على األبعاد التقليدية لنظرية الحق والواجب سواء وطنيا أو دوليا، بل امتد ليشمل أبعاد رقمية مرتبطة بحماية البيانات والخصوصية والهوية الرقمية. - دور الذكاء االصطناعي المتصاعد في تعزيز الكفاءة وتحسين جودة الخدمة ، ال يمنع من كونه أ هم تهديد فعلي وحقيقي ملنظومة حقوق االنسان األساسية، خاصة ما ارتبط باالستخدام غير المنضبط للخوارزميات وخصائص التنبؤ. - وجود قصور صارخ في األطر القانونية الحالية، حين مواجهة تحديات األنظمة الذكية . - الالمساواة الخوارزمية أحد أخطر التهديدات المتواترة والمستمرة الس تخدامات الذكاء االصطناعي حين مواجهة األمن اإلنساني الحقوقي. التوصيات - ضرورة تطوير اإلطار القانوني الدولي الموحد الستخدامات الذكاء االصطناعي ، بما يضمن احترام حقوق االنسان في البيئة الرقمية. - تعزيز مبدأ الشفافية الخوارزمية . - ادماج البعد الحقوقي في تصميم و تطوير تقنيات الذكاء االصطناعي بما يضمن احترام مبادئ العدالة وعدم التمييز منذ مرحلة التفكير وصوال ملرحلة االستهالك .

-- 22 of 22 --