الذكاء الإصطناعي : نموذج عن التحديات المعاصرة للمسؤولية التقصيرية

اجملةل اجلزائرية للقانون والعداةل المجلد 10 العدد 01 السنة 2024 ص 131 ص 166 الذكاء اإلصطناعي: نموذج عن التحديات المعاصرة للمسؤولية التقصيرية Artificial Intelligence: A Model of Contemporary Challenges to Tort Liability حمدادو ملياء البحوث القانونية و القضائية ملحق بالبحث بمركز البريد اإللكتروني : [email protected] تاريخ االرسال: 06 / 11 / 2024 تاريخ القبول: 25 / 12 / 2024 تار يخ النشر: 30 / 12 / 2024 الملخص: يعتبر ولوج أنظمة الذكاء اإلصط ناعي لبيئتنا اإلجتماعية، بمثابة تحد حقيقي لقانون المسؤولي ة المدنية، إذ تبدو هذه األخيرة غير قادرة على تغطية أضرار الذكاء اإلصطناعي، األمر الذي دفع بالمساعي األوروبية لإل تجاه نحو ضرورة منح الذكاء اإلصطناعي الشخصية القانونية كحل مؤقت قصد سد القصو ر الذي يعتري قانون المسؤولية المدنية بثوبه الحالي، غي ر أن البعض اعتبره حل غير مناسب مكتفين بتكييف القواعد التقليدية بما يتم اش ى و خصوصيات الذكاء االصطناعي. إال أنه و باستقراء النتائج المترتبة عن إعمال القواع د الكالسيكية للمسؤولية المدنية ، في مجال الذكاء اإلصطناعي، سنجد أن األمر ال يخلو من التحديات و المعوقات، التي تحول دون تلبية جميع احتياجات الضحايا، و بالتالي يجدر بنا التفكير في تكريس نظام مسؤول ية مدنية مستقل عن فعل الذكاء اإل صطناعي كحل مستقبلي، يجسد مسؤول ية مدنية ذكية قادرة على تأطير

-- 1 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 132 الواقع الجديد . الكلمات المفتاحية: الذكاء اإلصطناعي - قانون المسؤولية المدنية - - الشخصية القانونية - مسؤولية ذكية. Abstract: The introduction of artificial intelligence systems into our social environment presents a significant challenge to the law of civil liability. The latter seems unable to adequately address damages caused by artificial intelligence, which has led European efforts to consider granting AI legal personality as a temporary solution to address the shortcomings inherent in the current framework of civil liability law. However, this approach has been criticized by some as unsuitable, opting instead to the adaptation of traditional legal rules to accommodate the specific characteristics of artificial intelligence. However, upon examining the results of applying classical civil liability rules to the field of artificial intelligence, it becomes evident that such an approach is not without its challenges and obstacles, which hinder the ability to meet all the needs of victims. Consequently, it is imperative to consider establishing an independent civil liability system tailored to the actions of artificial intelligence as a forward-looking solution. Such a system would embody a smart civil liability framework capable of addressing the demands of this new reality. Keywords: Artificial Intelligence - Civil Liability - Legal Personality - Smart Liability.

-- 2 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 133 مقدمة: » كل إنسان هو بصدد التحول آللة، أو بمعنى أصح اآللة هي التي في طور التحول لتصبح إنسان « . هذا ما صرح به الفيلسوف الفرنس ي بول فاليري Paul Valéry في دفاتره الشهيرة في بداية القرن التاسع عشر1 .و إذا لم يكن عالم الحاسوب األمريكي جون ماكرثي (John Maccarthy) يوقن و هو يصوغ مصطلح الذكاء اإلصطناعي للمرة األولى سنة21955 بأن التصور الذي توصل إليه سيصبح حديث العالم بعد نحو نصف قرن، فإن الفيلسوف فاليري بمقولته تلك قد استشرف المستقبل، فكان قوله بمثابة نبوءة ملا نعيشه اليوم. و إذا كانت أنظمة الذكاء اإلصطناعي قد أثبتت فا عليتها و نجاعتها في خدمة البشرية ، فإن اختالف هذه الثورة التكنولوجية عما سبقها ، سواء في التعقيد أو سرعة الوتيرة ، كان له جوانب مظلمة ال يمكننا تجاهلها. فإطالق العنان للتحول الرقمي دون إدراك مدى خطورة االنحياز للذكاء اإلصطناعي على حساب نظيره اإلنساني هو وضع يجعلنا في مواجهة تحديات على كافة األصعدة ، على رأسها التحديات القانونية ،خصوصا في باب المسؤولية المدنية . و من هذا المنطلق فإن دنو كل هذه التقنيات جميع مناحي الحياة مؤثرة على صور العالقات اإلنسانية ، يعني أن إمكانية إحدا ث هذ ه األخيرة أضرارا للغير هو أمر وارد ال محالة ، و هو ما يضع قانون المسؤولية المدنية أمام تحد قانوني حقيقي عليه أن يثبت فيه خلو قواعده من أي عجز أو قصور، لتأطير جميع الجوانب القانونية ذات الصلة بتطبيقات الذكاء اإلصطناعي، بما في ذلك تحديد الشخص 1 Maxime blondeau , Propos sur l’intelligence -le bilan de l’intelligence ,Paul valéry Etat d’esprit. https://medium.com/@maximblondeau/propos-sur-lintelligence- 1926-7c5392c1eb75 . 03 / 09 / 2024 ) ) 2 Raja Chatila , intelligence artificielle et robotique : un état des lieux en perspective avec le droit ,Dalloz ,2016 , p.284 .

-- 3 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 134 المسؤول عن إصال ح األ ضرار التي تحدث بسبب هذه األخيرة . اإلشارة هنا أن التساؤل عن واقع المسؤولية المدنية تجدر بتعويض ملا يتعلق األمر أضرار تسببت فيها أنظمة ذكية هو غير متعلق بمعالجة حالة العطل الميكانيكي فهذا األخير ال يثير أي جدل أو إشكال على مستوى نظم المسؤولية عن فعل المنتجات المعيبة أو تلك المتعلقة بحراسة األشياء ، و إنما األمر الذي خلق بلبلة عند رجال الفقه هو التصور القائم على وقوع ضرر برغم التشغيل "العادي" للنظام الذكي، إذ يمكن أن تؤدي تصرفاته إلى أضرار متنوعة و لو لم يكن به أي خلل، بل بسب ب استقالليته في اتخاذ القرارات ، فقد يسبب أضرار ا جسمانية مثل ت حديد وجهة سيارة لتصطدم بعدها بشخص، أو أضرار ا إ قتصادية مثل تحويل أموال موجودة بحساب ما إلى حساب شخص آخر، أو حتى معنوية كنشر البيانات الشخصية أو تش ويه السمعة بنشر معلومات كاذبة األمر الذي سيقص ي امل سؤولية العقدية يي األخرى من مجال البحث ، فالعالقة بين بائع و مشتري آللة ذكية ، أو ما تسمى كذلك بروبوت ، ال تخرج بطبيعتها و آثارها عن األحكام و النظم الحالية للمسؤولية المدنية، فاألمر ال يعدو أن يكون إخالل بالتزامات تعاقدية. و ملا كان است خدام أنظمة الذكاء اإلصطناعي يفرض وضعا قانونيا معينا يعكس الرهانات التي تواجهها نظرية المسؤولية المدنية في التصدي للتحديات القانونية المعاصرة إثر التطور التكنولوجي و التقني الحاصل، ف اإلشكال الذي يفرض نفسه في هذا البحث هو : ما مدى كفاءة قواعد المسؤولية المدني ة التقليدية ملواجهة الناجمة عن الذكاء اإلصطناعي ؟. األضرار و ملحاولة معالجة جميع عناصر الموضوع، تضمنت منهجية البحث تقسيم الدراسة إلى مبحثين : تم التعرض في المبحث األول إلى تداعيات إعمال القواعد التقليدية لل مسؤولية امل دنية على أضرار الذكاء اإلصطناعي ، أما المبحث الثاني

-- 4 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 135 فهو متعلق بالبحث في مالمح النظام المستقل ، المأمول تكريسه ألجل تأطير المسؤولية المدنية عن فعل الذكاء االصطناعي. المبحث األول : الذكاء اإلصطناعي و قانون المسؤولية المدنية الحالي : توافق أم تضاد؟ إن الواقع التقني الجديد كان مناسبة لبروز إشكال قانوني قائم على ا لتشكيك في مدى توافق القواعد التقليدية للمسؤولية المدنية مع الخصائص اإلستثنائية ألنظمة الذكاء اإلصطناعي من هنا كان البد من التطرق في بادئ األمر إلى أوجه تفاعل الذكاء اإلصطناعي مع اآلليا ت التقليدية للمسؤولية المدنية (كمطلب أول) ليتم التعرض بعدها إلى الفرضيات المقترحة من جانب الفقه لتطويع قواعد الناجمة عن األنظ األضرار المسؤولية المدنية لتأطير مة الذكية ) كمطلب ثاني) . المطلب األول : مدى تجاوب الذكاء اإلصطناعي مع آليات المسؤولية المدنية الحالية : قبل النظر في مدى تجاوب نظام المسؤولية المدنية م ع خصوصية األضرار المستجدة بفعل الذكاء اإلصطناعي ، كان البد من التطرق أوال إلى التعريف بأنظمة الذكاء اإلصطناعي في ( الفرع األول ،) ليكو ن عجز أحكام المسؤولية الشخصية و المسؤولية عن فعل الغير عن استيعاب مشكالت الذكاء اإلصطناعي عنوانا للفرع الثاني لهذا المطلب، مع إبراز جميع جوانب التحديات التي تواجهها قواعد الحراسة و المسؤولية عن المنتجات المعيبة لتغطية أضرار الذكاء اإلصطناعي كفرع ثالث . الفرع األول المفاهيمي للذكاء اإلصطناعي : اإلطار الذكاء اإلصطناعي هو نظام علمي بدأ رسميا في عام 1956 في كلية داتموث في هانوفر بالواليات المتحدة األمريكية، خالل انعقاد مدرسة صيفية نظمها أربعة

-- 5 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 136 باحثين أمريكيين: John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon ، بحيث جاء في البيان الختامي الجتماع هؤالء بأن الذكاء اإلصطناعي يهدف في البداية إلى محاكا ة كل واحدة من مختلف قدرات الذكا ء بواسطة اآلالت، سواء كان ذكاء بشريا ، أو حيوانيا ، أو نباتيا ، أو اجتماعيا . وقد استند هذا النظام العلمي أساسا إلى افتراض أن جميع الوظائف المعرفية، وال سيما التعلّم، واالستدالل، والحساب، و اإلدراك، والحفظ في الذاكرة وحتى اإلكتشاف العلمي أو اإلبداع الفني، قابلة لوصف دقيق لدرجة أنه يمكن برمجة الستِنساخها كمبيوتر جهاز1 . وباستطالع جميع التعاريف الواردة ألجل حصر مفهوم الذكاء اإلصطناعي، نجد هذه األخيرة جميعها يتمحور حول دراسة كيفية تدريب األجهزة و اآلالت لتقوم بأشياء بشكل أفضل مما يفعلها اإلنسان ، لذلك فهو ذكاء حيث نريد أن نضيف كل القدرات التي يتميز بها اإلنسان لآللة ، و بالتالي يعرف ا لذكاء اإلصطناعي على أنه طريقة لصنع حاسوب أو روبوت يتم التحكم فيه بواسطة الكمبيوتر، أو األذكياء بها البشر بذكاء بنفس الطريقة التي يفكر برنامج يفكر2 . كما عرفه مارفن لي مينسكي marvin lee minsky ، بأنه بناء برامج الكمبيوتر التي تنخرط في المهام التي يتم إ نجازها بشكل مرض من قبل البشر، و ذلك ألنها 1 Jean gabriel ganascia,intelligence artificielle : entre mythe et réalité https://courier.unesco.org/fr/articles/intelligence-artificielle-entre-mythe-et-realite. (2024/09/19) 1 عبد هللا موس ى، أحمد حبيب بالل، ثورة في تقنيات ال عصر، المجموعة العربية للتدريب و النشر الطبعة األولى، القاهرة ، 2019 ، ص 20 .

-- 6 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 137 تتطلب عمليات عقلية عالية المست وى مثل : التعلم اإلدراكي ، و نظيم الذاكرة و النقدي التفكير1 . الفرع الثاني : عجز قواعد المسؤولية الشخصية و المسؤولية عن فعل عن استيعاب مشك الغير الت الذكاء اإلصطناعي إن اإلقرار بنظام المسؤولية الشخصية عن األضرار المتسببة فيها أنظمة الذكاء اإلصطناعي يضعنا في مواجهة جملة من التحديات و المعوقات التي تجعل من الصعب االقتناع بنجاعة هذا النظام في تغطية ه ذه األضرار ، فكيف يمكننا إنساني اإلعتراف بخطأ مسند لكيان غير2 . و لعل أول عقبة تقف أمام قيام المسؤولية امل دنية لتقنيات الذكاء اإلصطناع ي هو الطبيعة غير المادية له ذه األخيرة ، و ذلك كونها مجموعة من الخوارزميات و البرمجيات المنتمية للعالم اإلفتراض ي ، و التي تج عل من الصعب العلم بمكانها و زمانها، و لهذا يقال أن الذكاء اإلصطناع ي مطلق من حيث الزمان و المكان، إذ يمكن ألي شخص استخدامه في أي زمان وأي مكان3 ، األمر الذي يخلق مجموعة 1 Benoit georges, intelligence artificielle :de quoi parle-t- on ?,constructif,N°54,octtobre 2019,p07. 2 Céline Mangematin , Droit de la responsabilité civile et l’intelligence artificielle l’entreprise et l’intelligence artificielle, les réponses du droit, presses de l’université toulouse,toulouse,2022,p 456. 2 مصطفى أبو مندور موس ى عي س ى ، مدى كفاية القواعد العامة للمسؤولية المدنية في تعويض أضرار الذكاء اإلصطناعي، مجلة حقوق دمياط للدراسات القانونية واالقتصادية ، جامعة دمياط، العدد الخامس، مصر، 2022 ، ص 256 .

-- 7 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 138 من المشاكل القانونية ، أهمها تحديد عنصر الخطأ أو الفعل المحدث للضرر ، و كذا تحديد المسؤول و ن سب الفعل إليه1 . و إذا كان الط ابع غير المادي للذكاء اإلصطناعي يقف عقبة أمام تطبيق أحكام المسؤولية الشخصية على األضرار الناجمة عن فعل هذا األخير، فإن تميزه باإلستقالل الوظيفي يشكل عقبة هو اآلخ ر في إعمال قواعد هذه المسؤولية في مجال الذكاء االصطناعي فقد أصبحت لألنظمة اإللكترونية الذكية ، القدرة على التشغيل الذاتي دون االستعانة بأي تدخل بشري2 ، نظرا إلى االستقاللية الكبيرة التي أصبحت تتمتع بها هذه األخيرة، و هو األمر الذي سيضعف من احتمال توقع األفعا ل التي تصدر من هذه التقنيات الحديثة ، و بالتالي، ال يمكن تصور قيام مسؤولية مستخدم أنظمة الذكاء اإلصطناعي عن األضرار الناجمة عن فعل هذا األخير، نظرا لعدم إمكانية نسب أي خطأ شخص ي له ، بناء على استحالة التنبؤ بأفعاله.3 إذا يمكن القول أن الغرض الذي صمم نظام المس ؤولية الشخصية من أجله ، لم يشمل المصادر المستجدة ،و أمام اعتبار الذكاء اإلصطناعي مسبب مستحدث للضرر ، يختلف عن غيره من المصادر التقليدية، فضال عن استحالة االعتداد بالذكاء االصطناعي كشخص طبيعي أو معنوي، نستخلص أن نظرية المسؤولية 1 Nour el Kaakour , l’intelligence artificielle et la responsabilité civile délictuelle mémoire pour l’obtention d’études approfondies en droit international des affaires faculté de droit et des sciences politiques et administratives filiéres francophone université libanaises , 2017,p35. 2 Tom Allen and Robin Widdisson , Can computer make contracts ?,Harvard Journal of law and Technology ,volume 9, N°1 , Harvard law school , cambridge ,1996 , p26. مصطفى أبو مندور موسى عيسى ، المرجع السابق ، ص 268 . 3

-- 8 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 139 الشخصية عاجزة بكل صورها عن تغط ية األضرار الناجمة عن فعل الذكاء اإلصطناعي1 . الفرع الثالث : تحديات إعمال قواعد الحراسة و المسؤولية عن المنتج ات المعيبة على الذكاء اإلصطناعي با الطالع على التقرير الصادر عن المكتب البرملاني الفرنس ي للتقييم العلمي و التكنولوجي ، الصادر في 15 مارس 20172 ،نجد أنه قد أقر في فحواه صالحية نظامين اثني ن لتغطية أضرار الذكاء اإلصطناعي ، يتمثل األول في نظام المسؤولية عن حراسة األشياء ( أوال) ، و الثاني يتمثل في امل سؤولية عن فعل المنتجات المعيبة (ثانيا). أوال : محاولة التكييف على أساس المسؤولية عن حراسة األشياء باإلطالع على النظريات الفقهية المتبناة في هذا المجال، نجد أن من أبرزها كان قائما على فكرة معالمة الذكاء اإلصطناعي باعتباره ش يء، حيث أبانت المذكرة اإليضاحية التي أصدرتها أمانة األونسيترال UNCITRAL الذي عن المبدأ العام جاءت به اتفاقية األمم المتحدة ، و الذي استند المنادين بهذه النظرية على فحواها، ألجل تأسيس الفكرة التي تقوم عليها هذه األخيرة، حيث نصت المادة 12 1 رفاف لخضر و معوش فيروز، خصوصية المسؤولية المدنية عن أضرار الذكاء اإل صطناعي في القانون الجزائري، مجلة طبنة للدراسات العلمية األكاديمية، المجلد رقم 06 ، العدد األول،الجزائر، 2023 ، ص 582 . 2 M.Claude de Ganay,Dominique Gillot,pour une intelligence artificielle maitrisée untile et démystifiée, Rapport au nom de L’office parlementaire d’évaluation des choix scientifiques et technologiques,N°464 ,Tome 1,2017. https://www.senat.fr/notice-rapport/2016/r16-464-1-notice.html.

-- 9 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 140 من ها على وجوب قيام مسؤولية أي شخص عن فعل أي رسالة صادرة من جهاز مبرمج من قبله. وهو ما ينسجم مع مضمون القاعدة العامة التي تقر "أن المسؤولية عن تبعات استعمال الش يء الذي ال يملك إرادة مستقلة عن صاحبه تعود على مالك هذا الش يء"1 . و تأسيسا لفكرة " الذكاء اإلصطناعي كش يء" حاول الفقيه اإليطالي Ugo Pagallo تبني التص المتسبب فيها ور القائم على أن قيام المسؤولية المدنية في مجال األضرار الذكاء اإلصطناعي يعتمد على معالمة الروبوتات على أنها أشياء ، مما يعني أن مساءلة الشخص الطبيعي أو اال عتباري عن األضرار الناجمة عن أنظمة الذكاء اإلصطناعي التي تتصرف بالنيابة عنهم يي القواعد الموضوعية، و ذلك بعيدا عن إمكانية توقع هذا التصرف من عدمه2 . في هذا الصدد و باستقراء ما جاء به الفقه الفرنس ي ، نجد أن جانبا منه قد نادى باعتبار الذكاء اإلصطناعي ش يء، وبالتالي إمكانية تطبيق أحكام المسؤولية الناشئة عن األشياء، إال أن ذلك ال ينفي وجود جانب كبير من الفقه يجمع على 1 معمر بن طرية ،قادة شهيدة ، أضرار الروبوتات و تقنيات الذكاء اإلصطناعي: تحد جديد لقانون المسؤولية المدنية الحالي، ملحات في بعض مستحدثات القانون المقارن، حوليات جامع ة الجزائر 01 ، الذكاء اإلصطناعي : تحد جديد للقانون؟،العدد 07 ،عدد خاص، الجزائر، 2018 ص 122 . 2 Paulius Cerka,Jurgita Grigiene,Ginitare Sirbikyt,Liability for damages caused by artificial intelligence ,Comuter law and security review ,N°31 ,2015, p385 www.sciencedirect.com. ( 22 / 09 / 2024 )

-- 10 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 141 عدم مواءمة األحكام و المفاهيم التي تقوم عليها مسؤولية حارس األشياء مع المتسبب فيها أنظمة الذكاء اإلصطناعي األضرار1 . إضافة إلى ذلك فإن الحديث عن األساسيات الواجب توافرها ألجل إعمال مع ي ار الحراسة هو مناسبة أخرى للت أ كيد على استحالة تكريس هذا النظام2 ، إذ يعتبر حارسا كل من له قدرة اإلستعمال و التسيير و الرقابة، و بالرجوع إلى خاصية اإلستقاللية التي يتميز بها الذكاء اإلصطناعي سنجد أن سلطة الرقابة يي غائبة تماما في هذه الحالة، فحارس الذكاء ا إلصطناعي يملك سلطة االستعمال و التسيير فقط دون سلطة الرقابة، و بالتالي يمكن لحارس الذكاء االصطناعي أن يدفع بعدم قيام مسؤوليته النعدام سلطة الرقابة التي تفقده صفة الحارس3 . من المسلم به أنه البد أن يكون للش يء دورا فعاال حتى تقوم عالقة السببية، األمر الذي ي ستوجب اتصاال ماديا يكون هو مصدر الضرر، و إذا كان ذلك ممكنا ملا يكون الضرر ناتجا عن فعل الروبوت ،فإنه في حاالت أخرى يكون فعل الذكاء االصطناعي يتسم بطابع غير مادي، مثل حالة تقديم نصيحة أو إبرام عقد الذي يكون بفعل خوارزمية، فتكون النتيجة حينئذ معلوماتية ففي ه ذه الفرضية ال يوجد اتصال مادي يربط بين فعل التقنية الذكية بالفعل الصادر عنها، و ذلك غير مادي، األمر الذي نظرا لتوليد معلومة غير مادية لكن ضارة عن طريق عنصر 1 Cédric Coulon, Du robot en droit de la responsabilité civile : à propos des dommages causés par les shoses intelligentes , Resp.civ .et assur.2016,étude 6 N°4,p17. 2 Cédric Coulon , ibid. 3 إسالم يوسف، المسؤولية المدنية و الذكاء االصطناعي: أي حل؟ ،حوليات جامعة الجزائر 01 الذكاء اإلصطناعي : تحد جديد للقانون؟،العدد 07 ،عدد خاص، الجزائر، 2018 ،ص 237 .

-- 11 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 142 يجعل من استيعاب الفعل الذهني الصادر عن الروبوت أمرا صعب المنال1 فإذا استبعدنا الحالة التي يتسبب فيه ا النظام الذكي في ضرر مباشر و واضح، و التي يكون فيها تالمس مباشر بين النظام الذكي و الش يء المتضرر فإنه يصعب إثبات المسؤولية في األحوال األخرى، إذ يقع على المضرور ، إما إث بات أن الش يء قد تخلله عيب ما، و إما إثبات انحراف الش يء عن سلوكه، علما أن إثبات هذه الفرض يات صعب جدا بالنظر للتعقيدات التي تتصف بها أنظمة الذكاء اإلصطناعي.2 ثانيا : محاولة التكييف على أساس المسؤولية عن فعل المنتجات المعيبة يرى جانب من الفقه الفرنس ي ، أن إلقاء عبء تعويض األضرار مباشرة على المنتج يجعل من نظام المسؤولية عن المنتجات المعيبة األكثر مواءمة مع األضرار الناجمة عن فعل الذكاء اإلصطناعي، فهو يسهل الطريق أمام المضرور لتعويضه عن الضرر الالحق به3 ، فبحسبهم هو الحل األمثل في هذه المرحلة االنتقالية الناجمة عن فعل الذكاء اإلصطناعي لتغطية األضرار4 . 1 Grégoire Loiseau et Matthieu Bourgeois , « Du robot en droit à un droit des robots ».La Semaine Juridique, édition générale,N°48,2014. 2 Jean-Sébastien Borghetti , L’accident généré par l’intelligence artificielle autonome in « Le droit civil à l’ére numérique »,acte du colloque du master 2 Droit privé général et du laboratoire de droit civil ,JCP ,numéro spécial,N°27 ,2017,p 26. 3 Jean-Sébastien Borghetti, op cit ,p 27 4 Laurent Archambault et Léa Zimmermann ,La réparation des dommages causés par l’intelligence artificielle : le droit français doit évoluer , Gaz.Pal .Volume 138,N°2 2018 ,p17.

-- 12 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 143 إال أن هذا الرأي كسابقه لم يسلم من اإلنتقادات ، إذ اعتبر جانب من الفقه الفرنس ي و على رأسهم Jean-Sébastien Borghetti أن التعامل مع أنظمة الذكاء اإلصطناعي على أساس أنها منتوج يفض ي عن إشك الية هامة ال يمكن غض النظر عنها، أال و يي صعوبة إعمال نظام المسؤولية على برامج الكمبيوتر أو الخوارزميات نظرا لطابعها غي ر المادي، في حين أن المنتوج كما متعارف عليه هو بمثابة مال منقول، حيث أشار هؤالء أن هذا النظام غير متعلق بما هو غير مادي1 . فضال عن ذلك قد يظهر لنا في البداية أن نظام المسؤولية عن المنتجات المعيبة ال يثير أي صعوبات عند تطبيقه على الذكاء اإل صطناعي، و ذلك كونه ال ي حتاج إلى إقامة دليل على وجود خطأ ما من جانب المنتج إلشراكه في المسؤولية، إذ يكتفي المضرور بإثبات الضرر الالحق به و عيب المنتج و كذا عالقة السببية بينهما، في حين يجد هذا األخير نفسه محروما من التعويض في حال أثبت المنتج أن المعرفة العلمية و التقنية في الوقت الذي وضع فيه المنتوج المزود بتقنيات الذكاء االصطناعي في األسواق يستحيل معها اكتشاف العيب بالمنتوج، إذ سيتم حينها إعفاؤه من المسؤولية لذا اعتبرت هذه المسؤولية غير كافية ، تبعا لعدم إمكانية توقعه نشاط اآللة من قبل مصمميها عندما وضعت للتداول، فهذه األخير ة قادرة على التعلم الذاتي دون أي تدخل بشري، و هو يعيد امل سؤولية إلى حالة الفراغ السابقة ، و التي تتطلب البحث عن بدائل أخرى2 .فصعوبة إثبات 1Jean-Sébastien Borghetti , La responsabilité du fait des produits défectueux ,Etude de droit comparé, L.G.D.J , Bibliothéque de droit privé ,N° 494,2020. 2 محمد أحمد الشرايري، المسؤولية المدنية ا لذكية عن أضرار الذكاء اإلصطناعي : دراسة مسحية مقارنة، مجلة كلية القانون الكويتية العالمية، العدد التسلسلي 38 ، العدد 2 ، الكويت، مارس 2022 ، ص 370 .

-- 13 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 144 الفعل المرتب للمسؤولية، نظرا للتعقيدات ا لتي تتسم بها التقنيات الذكية، و التي تصعب من إثبات العيب فيها يقف عقبة في وجه المض رور1 . المطلب الثاني : فرضيات تطويع مفاهيم المسؤولية المدنية ملواجهة الذكاء اإلصطناعي أضرار لقد ظهرت للعلن مقترحات ملحاولة إيجاد تبرير قانوني إلقامة مسؤولية مدنية في مجال الذكاء اإلصطناعي و قد تجسدت هذه الفرضيات في نظرية النائب اإلنساني ( الفرع االول ) ، و من ح الذكاء اإلصطناعي الشخصية القانونية ( الفرع الثاني ). الفرع األول: نظرية النائب اإلنساني مكتمل : حل مبتكر، غير في سنة 2015 ونظرا لإلشكاالت التي خلقها تشغيل الروبوتات و أنظمة الذكاء اإلصطناعي، قام االتحاد األوروبي بإنشاء مجموعة عمل مقترحة من لجنة الشؤون ا لقانوني ة لإلجابة على هذه اإلنشغاالت، و التي أصدرت تقريرها النهائي إلى اللجنة القانونية ، التي قامت بدورها بإصدار : " قواعد القانون المدني على الروبوتات Civil Law Rules on Robotics - Régles de Droit civil sur la robotique " في فيفري 20172 . و باالطالع على ه ذا األ خير، نجد أن االتحاد األوروبي ينظر للذكاء اإلصطناعي على أنه آلة بمنطق بشري قابل للتطور، فهو ليس كائن أو ش يء جماد ال يعقل، فهو بن طرية معمر ، قادة شهيدة، مرجع سابق، ص 131 . 1 1 همام القوص ي، اشكالية الشخص المسؤول عن تشغيل الروبوت( تأثير نظرية النائب اإلنساني على جدوى القانون في المستقبل)، - دراسة تحليلية استشرافية في قواعد القانون المدني األوروبي الخاص بالروبوتات - ،مجلة جيل األ بحاث القانونية المعمقة، ، العدد 25 ،الجزائر، 2018 .

-- 14 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 145 ذهب في رأيه العتبار الذكاء اإلصطناعي خادم مطيع لإلنسان، طالما كان الروبوت صنيعة الذكاء المنسوب لآللة1 ، و لذلك فقد ابتكر االتحا د األوروبي نظرية النائب البشري ، و التي أسست على أنه و نظرا لعدم إمكانية قيام مسؤولية الروبوت عن األضرار الناجمة عن أفعاله، فتقوم المسؤولية عن هذه األخيرة على نائب بشري و هو الشخص الذي أطلق عليه الفقه الفرنس ي مصطلح قرين الروبوت2 . باستقراء مضمون فكرة النائب ا لبشري ، و التي تقوم دون افتراض الخطأ و دون وصف الروبوت بش يء ، بناء على توزيع المسؤولية على مجموعة من األشخاص تبعا ملن ثبت في حقه الخطأ، نجد أن االتحاد األوروبي ، و بشأن تكييف أنظمة الذكاء اإلصطناعي ، استخدم فقط لفظ النائب دون لفظ الحارس ، مما يعني عدم اعتباره ش يء بحاجة لعناية خاصة3 . تجدر اإلشارة هنا أن األ ساس الذي تقوم عليه مسؤولية النائب البشري هو الخطأ في التصنيع أو اإلدارة و الذي يؤدي إلى عدم تفادي سلوكه المنحرف أثناء التشغيل و لو توقع ذلك ، مما يعني أن نطاق تطبيق نظرية النائب البشري هو فعل أو إهمال الروبوت خالل حالة التشغيل العادي أين يكون في حالة استقالل تام عن التدخل البشري ، سواء من ناحية التفكير أو التنفيذ4 ، و إذا كان فحوى نظرية النائب اإلنساني ه و حالة خاصة استند االتحاد األوروبي في ابتكارها إلى 1 فتيحة حزام، تحديات المسؤولية المدنية عن فعل األشياء الذكية، مختارات من أشغال الملتقى الوطني حول مستقبل المسؤولية المدنية ليوم 28 جانفي 2020 ، مسطرة إجرائية، الجزء األول جامعة امحمد بوقرة، بومرداس، الجزائر ، 2020 ، ص 450 . المرجع السابق. 2 1 سيف بن ناصربن عبد هللا المعمري، تأصيل المسؤولية المدنية لتطبيقات الذكاء اإلصطناعي في التشريع العماني - دراسة تحليلة -، مجلة االجتهاد للدراسات القانونية و االقتصادية ، المجلد 13 العدد 02 ، عمان، األردن، 2024 ،ص 31 و ما يليها. 2 فتيحة حزام، المرجع السابق، ص 442 .

-- 15 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 146 خصوصية النظام الذك ي التي جعلت من ا لصعب جبر األضرار المتسببة فيها ا ستنادا إلى النظريات التقليدية لنظام المسؤولية المدنية، فهل تعتبر نظرية النائب اإلنساني فعال نظرية يمكنها السماح بتكريس حل قانوني متكام ل في منأى عن أي نقد ؟."حل مبتكر ، غير مكتمل"، هو الوصف الذي يفرض نفسه عند تحليل مدى كفاءة و نجاعة نظرية النائب اإلنساني ف ي معالجة إشكالية البحث ، فاإلجابة على التساؤل المطروح أعاله تظهر بداية في التسمية المعتمدة من قبل االتحاد األوروبي على القواعد الصادرة بنا ء على األشغال المنجزة سنة 2017 ، فتبني مصطلح الروبوت بدء من تسمية القانون ، وصوال إلى المبادئ و القواعد المكرسة في هذا األ خير، سيذهب بنا ال محالة إلى تسقيف مستوى ال طموح في إيجاد حل قانوني مبرر و مستدام لإلشكال المتعلق بضبط جميع مشكالت الذكاء االصطناعي عن طريق نظرية النائب اإلنساني التي أسسها االتحاد األوروبي. فاستنادا ملا سبق، فإن الذكاء اإلصطناعي الذي طرح إشكاالت و تحديات ق انونية كبيرة عند الخوض في مسألة جبر األضرار الناجمة عنه، غير متعلق فقط بالروبوتات ، فالنماذج األخرى كاألنظمة اإللكترونية الذكية سوف تجد صعوبات كبيرة في اإلنسجام مع مضمون نظرية النائب اإلنساني، التي تعتمد على افتراض وجود خطأ واجب اإلثبات ، و هو األمر الصعب المنال في حال األنظمة اإللكترونية الذكية، التي تتميز بأعلى درجات اإلستقاللية الوظيفية و طبيعتها الالمادية. الفرع الثاني: منح الذكاء اإلصطناعي الشخصية القانونية : شخصية من نوع ثالث باستطالع الوضع بعد انتشا نج ر تطبيقات الذكاء اإلصطناعي، د أنه قد أنشأ جيال جد يدا إلى جانب اإلنسان، األمر الذي يحتم على تشريعات الدول تحد يد

-- 16 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 147 اإلطار القانوني المنظم للتع ا مالت القانونية بينها و بين اإلنسان، و الذي قد يكون قائما على منح الشخصية القانونية ألنظمة الذكاء اإلصطناعي ، بعيدا عن تلك الممنوحة للشخص ال طبيعي و المعنوي، مما يعني أن االعتراف بالشخصية القانونية للر وبوت و المتس مساءلته عن األضرار ب ب فبها أ مستبعد غير مر1 . و على نفس النهج لتجسيد هذه الف كرة، راحت المساعي األوروبية في خطوة جريئة منها، من خالل ما ظهر في اإلقتراح الذي طرحه البرملان األوروبي ، في قراره الصادر في 16 فيفري 2018 ، و الذي تضمن في فحواه إمكانية استح د اث شخصية قانونية خاصة بالروبوتات ، خصوصا تلك األكثر تطورا، إذ اعتبرها أشخاص إلكترونية مسؤولة عن األضرار التي تلحقها با ل غير في إطار ما أسماه البعض شخصية روبوتية مع إمكانية تسخير نظام تأميني خاص بها2 ، و قد كان الفيصل في النقلة من مرحلة الش يء محل الحراسة إلى إمكانية اعتبار الروبوت كائن له شخصية قانونية ينوب بها عن اإلنسان، يي قدرته على اتخاذ تدابير السالمة3 ، األمر الذي سيفسح المجال أمام هذه األخيرة إلبرام العقود و كذا الـتأمين من المسؤولية4 . 1 كريمة شليحي، إشكاالت تحديد المسؤولية المدنية لألشخاص في إطار نظم الذكاء اإلصطناعي مختارات من أشغال الملتقى الوطني حول مستقبل المسؤولية المدنية ليوم 28 جانفي 2020 ، مسطرة إجرائية، الجزء األول، جامعة امحمد بوقرة ، بومرداس ، الجزائر، 2020 ، ص 476 . 2 Philippe Glaser et Taylor Wessing , Responsabilité civile du fait du robot doué d’intelligence artificielle : faut-il créer une personnalité robotique ? Contrats Concurrence Consommation , N°1 ,Alerte 1,2018 ,p3. 3 The European Parliament , Civil Law Rules on Robotics , P8-TA(2017)0051 ,16 February 2017. 4 Philippe Glaser et Taylor Wessing , op cit , p2.

-- 17 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 148 إال أ نه و باسقراء أغلب اآلراء الفقهية، نجد أن هذا المقترح قد تعرض للعديد من اإلنتقادات، فحتى الجمعية األوروبية الداعمة ملشروع الروبوتيك euRobotic association لم تتبنى فكرة االعتراف لهذه الكيانات بأي مركز قانوني يجعلها في نفس المصاف مع الشخص الطبيعي أو حتى قريبة منه ،إذ أن كتابها الصادر في 2012 و المتعلق بالحصول على ورقة خضراء ملعالجة المسائل القانونية في مج ال الروبوتات جاء خالي تماما من أ ي دعم لهذه الفكرة1 . و قد استند الفقه في دحضه لهذا المقتر ح للتجاوزات الخطيرة التي قد تح د ث في حال جسدت هذه الفكرة على أرض الواقع، أهمها تدني درجات ال حرص لدى منتجي و مستخدمي األنظمة الذكية على تصنيع أو استعمال روبو تات خطيرة أو غير آمنة و كذا اال نتقاص من مسؤوليت ه م أو اإلعفاء منها تماما، ألن هذه األخيرة ستكون على عاتق الروبوت كما هو الحال عند حدوث خطأ في التصميم ، أ و التحديث ، أو حتى االستخدام ، أين س ت ن ت في في الواقع مسؤو لية جهات فاعلة أخرى2 . من التحليل ا لسابق يتضح لنا جليا الصعوبات و التحديات التي يواجهها قانون المسؤولية المدنية بوضعه الراهن الستيعاب أضرار الذكاء اإلصطناعي، فهل يعد هذا العجز و القصور ذريعة كافية للمناداة بتدخل المشرع لوضع نظام قانوني 1 euRobotics AISBL Suggestions for a green paper on legal issues in robotics Contribution to deliverable D3.2.1 on ELS issues in robotics , spéc , p54. https://fr.scribd.com/document/202087197/EuRobotics-Deliverable-D-3-2-1-ELS- IssuesInRobotics ( 24 / 09 / 2024 ) 2 Samuel Stolton, MEPs chart path for a european approach to artificial intelligence 12 mai 2020. https://www.euractiv.com/section/digital/news/meps-chart-path- for-a-european-approach-to-artificial-intelligence ( 24 / 09 / 2024 )

-- 18 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 149 مستقل ي حدد و بشكل دقيق آلية التعامل مع تكنولوجيا الذكاء اإلصطناعي مل واجهة أضرارها ؟ المبحث الثاني : إستحداث نظام مستقل ألضرار الذكاء اإلصطناعي : حل مستقبلي إن المعوقات و التحديات التي واجهتها قواعد المسؤولية المدنية في تأطير أضرار الذكاء اإلصطناعي أثارت حفيظة البعض لتوجيه النظر حول خلق قواعد جديدة للمسؤولية عن فعل الذكاء اإلصطناعي ، من هنا سيتم التطرق في المطلب األول للمعطيات و المؤشرات المتعلقة بضرورة إنشاء نظام مستقل لفعل الذكاء اإلصطناعي ليتم التعرض بعدها في المطلب الثاني ، ألدوات تطوير النص القانوني بما يتالءم و خصوصية الذكاء اإل صطناعي. المطلب األول : نحو مسؤولية مدنية ذكية ؟ إن تعميم الذكاء اإلصطناعي في جميع نواحي الحياة و مجاالتها قد خلق مواجهة بين واقع مستجد ذو طابع خاص ، و قواعد تقليدية تم سنها في مرحلة سابقة ( الفرع األول ) ، ألجل الوصول إلى مسؤولية مدنية ذكية قادرة على تأطي ر الذكاء اإلصطناعي ( الفرع الثاني .) الفرع األول : الذكاء اإلصطناعي و قانون المسؤولية المدنية: واقع جديد و قواعد تقليدية " التوازن بين الحق في السالمة و حرية اإلبتكار"،"تحقيق المساواة بين األمن القانوني و األمن اإلجتماعي"، يي فضائل لطالما كانت تزين شعارات ال فقهاء في كتاباتهم، مطالبين بتكريسها كضمانة لتحقيق اإلستقرار داخل مجتمعاتهم فقد

-- 19 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 150 أدركوا دوما أن الوصول مل جتمع عادل قانونيا و ا جتماعيا يستوجب تحرير هذا األخير من أية هيمنة لل تنافس ، أو سيطرة النزعة الربح ية واالستهالكية على حد سواء ففي ظل الطموح المتزايد لإلنسا ن في الوصول إلى أقص ى درجات التطور التكنولوجي ألجل تحقيق أقص ى حد من معايير الرفاهية المتنامية، كان البد من تنبيه الجهات الفاعلة في المجتمعات خصوصا القانونية منها، إلى ضرورة إيجاد تناغم و انسجام بين القانون و التكنولوجيا ، و ذلك ألجل تفادي الوقوع في فجوة بين النص القانوني و مخرجات الواقع التقني. فمن المعلوم أن العالقة بين التطور و القانون يي عالقة طردية مفادها أنه كلما زادت صور و مظاهر التطور في مجتمع ما زادت معه الحاجة إلى استحداث نصوص قانونية قادرة على ضبط هذا التطور ، فالتقدم التكنولوجي في الواقع يغير وجه ال حياة داخل المجتمعات، بحيث ما كان مستحيال باألمس صار ممكنا اليوم األمر الذي يتطلب إعادة رسم الحدود الفاصلة بين ما هو مقبول و معقول و مرفوض. و ما هو مستنكر فمن الثابت أن هناك ا رتباط شرطي بين معالجة التحوالت و التغيرات التي تطرأ على الواقع، و تكييف القواعد ا لقانونية بما يتالءم مع هذه المستجدات، أو خلق قواعد جديدة لها ميزة ضبط الواقع فما ك ان في الماض ي يعد ثورة تشريعية أ صبح اليوم غير قادر على تلبية جميع اإلحتياجات القانونية. ففصل القانون عن الواقع سيجعل القواعد القانونية تحيد بمضمونها عن الهدف األساس ي التي سنت ألجله. فالمفروض هو وجود عالقة تفاعلية بين الواقع المعاش و القوانين المكرسة، على اعتبار أن فلسفة تكييف القوانين و تجديدها في حد ذاتها آلية قانونية مفادها جعل القانون مواكبا للواقع. فالنصوص القانونية و إن اتصفت بالعمومية و الشمولية، فإن األمر ال يعدو أن يكون عن صورة وصفا نسبيا ال يعبر نهائية و ثابتة لها، فهي مرتبطة ارتباطا وثيقا بظروف الزمان و المكان و كذا

-- 20 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 151 المفاهيم و المعتقدات السائدة، إذ ال ننس ى أن كل ما هو من وضع اإلنسان هو غي ر دائم الصالحية في الكثير من األ حيان، و ذلك أ ن القوانين تعبر عن حا جيات اإلنسان و ا لواقع، و هذا األ خير في تغير دائم مما يجعل النصوص القانونية بعض المستجدات. عاجزة أحيانا على تأطير و إذا كانت تطبيقات الذكاء اإلصطناعي قد أثبتت تفوقها على قدرات اإلنسان في العديد من الصور والنماذج، فقد هزمت آلة في لعبة الشطرنج بطل العالم في عام 1997 ، كما تف وقت سنة 2016 آالت أخرى على أحد أفضل الالّعبين في العالم في لعبة « الجو » ، وعلى العبين ممتازين في لعبة البوكر كما أنه وبفضل تقنيات التعلم اآللي، تقوم اآلالت بالتعرف على الكالم وتدوينه، مثلها مثل السكرتيرة - الراقنة في السابق، وتقوم أخرى بالتعرف بدقة على سمات ا لوجه أو بصمات األصابع من بين عشرات الماليين، وقراءة النصوص المكتوبة باللغة الطبيعية كما وجدت بفضل هذه التقنيات آالت قادرة على تشخيص سرطان الجلد أفضل بكثير من األطباء المختصين في األمراض الجلدية، و ذلك اعتمادا على صور فوتوغرافية للشّامات الجلدية يتم التقاط ها باستخدام الهواتف المحمولة1 ، فإنها لم تكن بمعزل عن القانون، و ذلك الستخدام معقول و خاصة متحكم فيه لهذه التطبيقات. من هنا و كما تمت اإلشارة إ ليه سابقا ، كانت تطبيقات الذكاء اإلصطناعي مناسبة للتساؤل عن كفاية القواعد القانونية الحالية لتأطير الواقع الجديد ف إذا كان قانون المسؤولية المدنية سابقا يجيب على معظم احتياجات الضحايا ، فإنه سرعان ما أصبح واضحا للعلن أزمة و مشكالت المسؤولية المدن ية في مواجهة التحديات المعاصرة ، التي يعد الذكاء اإلصطناعي أهمها. فتطبيقات الذكاء 1 Jean gabriel ganascia , op cit.

-- 21 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 152 اإلصطناعي في تطور سيثبت عجزها التام الحقا ، فهذ ه األخيرة فشلت في إيجاد هذه التطبيقات. قانوني متكامل للمسؤولية الناجمة عن أضرار تبرير فإذا كان البحث عن بلورة اإلطار العام لعالقة الذكاء اإلصطناعي بقانون المسؤولية المدنية ، يستدعي ضبط العالقة بين قواعد قانونية تقليدية و واقع جديد، فإن محاولة تغطية األضرار الناجمة عن فعل الذكاء اإلصطناعي سيضعنا ال محالة أمام تحد تطبيق ثوابت سنت في واقع مغاير تماما للواقع الذي نعيشه اليوم. و هو ما سيكون حجة قوية ، يمكن التعويل عليها لدعم الرأي القائل بضرورة مواكبة القوانين للمستجدات التقنية، و بالتالي، اإلتجاه نحو عصرنة قواعد المسؤولية المدنية من خالل تكريس نظام مستقل للمسؤولية عن فعل الذكاء اإلصطناعي. من هنا سيكون الذكاء اإلصطناعي مناسبة إلعادة بناء الفكر القانوني و بنية النصوص التشريعية، و ذلك بهدف الوصول إلى مسؤولية مدنية ذكية تنسجم و المعطيات التكنولوجية المعاصرة، بما في ذلك تقنيات الذكاء اإلصطناعي. فبأي سياق يكون هذا اإلذكاء الذي يصل بنا إلى حد بيان ما ينبغي أن يكون عليه القانون الستيعاب التحديات القانونية المرتبطة باستخدام تقنيات الذكاء اإلصطناعي ؟ الفرع الثاني : إذكاء قواعد المسؤولية المدنية ملواجهة مشكالت الذكاء اإلصطناع ي ملا كانت أبرز المشاكل القانونية التي أثارها ظهور الذكاء اإلصطناعي على مستوى األنظمة القانونية الحالية هو مدى استجابة نظام المسؤولية المدنية لتعويض األضرار الناجمة عن فعل الذكاء اإلصطناعي، فإن الخصائص الفريدة لهذه األنظمة قد كانت في كل مرة تشكل عائقا يحو ل دون الوصول إلى حل مقبول على

-- 22 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 153 الصعيد القانوني بطريقة تكفل حماية مدنية فعالة للمضرور من جهة، و ضمان عدم تشويه المفاهيم الكالسيكية لقانون المسؤولية المدنية من جهة أخرى. فإسقاط نظام المسؤولية الكالسيكي على األنظمة الذكية الذي اعتمده الفقهاء المنادين بكفاءة قا نون المسؤولية المدنية لتأطير األضرار الناجمة عن فعل الذكاء اإلصطناعي معتمدين على إجراء بعض التكييفات الطفيفة على مفاهيم هذه األخيرة، لم يكد يخلو من اإلشكاال ت التي جعلت من األسس التقليدية ا ختيارا صعب التطبيق ملعالجة مشكالت الذكاء اإلصطناعي، فهي ال تستوعب ه ذه النوعية المستحدثة من األضرار ، و حتى الطرح القائم على ضرورة التفكير في ورشة إصالح كالمة لقواعد المسؤولية المدنية المؤطرة للذكاء اإلصطناعي، و الذي دعى أصحابه إلى اإلعتراف بفكرة الكيانات الذكية بالشخصية القانونية هو اآلخر لم يكن بمثابة الفرضية المثالية لحل هذه المشكلة. من هنا كان بيان ما ينبغي أن يكون عليه القانون الستيعاب التحديات القانونية المرتبطة باستخدام تقن يات الذكاء اإلصطناعي في حياتنا ، هو مربط الفرس للوصول إلى تأطير قانوني كامل و شامل لجبر األضرار الناجمة عن فعل الذكاء اإلصطناعي، فبدال من البحث و تقص ي الحلول في إطار ما هو متاح حاليا ، كان األحرى بنا التفكير في نظام مسؤولية مستقل لفعل الذكاء اإلصطناعي يتالءم و الخصائص الفريدة لهذا األخير ، فإذا كان الذكاء التكنولوجي الذي تتميز به هذه الكيانات المستحدثة ، هو السبب في خصوصيتها، فإن الذكاء القانوني هو ما يجب إذ من األهمية بمكان إدراك أن أن يقابل هذا األخير الذكاء التكنولوجي البد من أن يوازيه ذكاء قانوني . فلما كان القانون وليد حاجة المجتمع، و يي فكرة قوامها االعتماد ع لى الواقع الذي تسجله المعاينة و تؤكده التجربة، فإ نه باستقصاء معطيات واقعنا اليوم نجد أن الذكاء اإلصطناعي في طليعة العناوين المعبرة عن مستجدات الواقع

-- 23 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 154 التكنولوجي للمجتمعات، األمر الذي يجعله يتصدر جملة التساؤالت الباحثة عن مدى االنسجام بين مستويات الذكاء التي وصلت إليه التكنولوجيا باستكشافها ه ذه الكيانات الجديدة، و مدى اعتبار المسؤولية ا ملدنية يي األخرى تنبثق عنها قواعد ذكية لها من المرونة و الفعالية ما يكفي لتكون مؤهلة لضبط جميع الناجمة عن فعل الذكاء اإلصطناعي. المشكالت القانونية ذات الصلة باألضرار و المنطقي على هذه و ملا كان النفي في رأيي و رأي جانب من الفقه هو الرد المباشر التساؤالت، ب حيث أن الحلول المعتمدة على التكييفات البسيطة و المحدودة للقواعد التقليدية للمسؤولية المدنية ، ليست سوى حل مؤقت سيثبت مستقبال عدم نجاعته ، خصوصا مع التطور المستمر الذي تشهده تطبيقات الذكاء اإلصطناعي ، فإن البحث عن تكريس نظام مسؤولية مستقل لفعل الذكاء اإلصطناع ي سوف يفرض نفسه ال محالة في قادم السنوات. فهل يمكن فعال الوصول لتصور قانوني يفض ي عن إرساء منظومة قانونية متكالمة تعبر عن مسؤولية مدنية ذكية تكفل استيعاب المشكالت الجديدة بما في ذلك المتعلقة بتطبيقات الذكاء اإلصطناعي ؟ . باستطالع رأي الفقه الفرنس ي في هذا ال كان متحفظا إلى شأن، نجد أن هذا األخير حد ما، إذ لم يرحب هذا األخير بفكرة سن تشريعات أوروبية جديدة لضبط األضرار الناجمة عن الذكاء اإلصطناعي، و الذي أبان عنها البرملان األوروبي في 20 أكتوبر 2021 ، باقتراح من السيد أكسل فوس Axel Voss ، عن طريق سلسلة القرارات امل تعلقة بكيفية تغطية أضرار الذكاء اإلصطناعي بشكل أفضل. و استند الفقه في رأيه هذا ، إلى أن قانون المسؤولية الحالي قابل للتكيف بما يكفي لضمان تأطير هذه األضرار ، إال أن ذلك ال ينفي الجدال و التجاذب الفقهي الذي

-- 24 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 155 سيدور حول هذه المسألة، كما هو الحال عليه مع أي قضي ة مجتمعية جديدة مشكوك فيها أخالقيا.1 فالمبادرة التشريعية التي قدمها Axel Voss تهدف إلى إنشاء نظام جديد للمسؤولية فيما يتعلق بمشغلي الذكاء اإلصطناعي، و الذي أعطى نظرة عامة على هذه المسؤولية المستقبلية في هذا المجال، إذ ال تزال الحوادث نادرة بهذا الشأن باستث ناء بعض حوادث السيارات ذاتية ا لقيادة ، و قد ارتكز هذا األخير في مقترحه على أن شروط قيام مسؤولية المشغل ستكون بحسب نوع الذكاء اإلصطناعي، هذا فضال عن اإلعتماد في تعويض الضرر على التأمين في جزء كبير منه فيكون التعويض جزئيا استنادا على المسؤولية .2 و لعل السبب و راء تحفظ الفقه و المشرع األوروبيين بشأن تكريس نظام مسؤولية مستقل لفعل الذكاء اإلصطناعي، هو تفادي اإلفراط في أ نماط المسؤولية، و هو األمر ال ذ ي لطالما تجنبه هؤالء لكن إذا حاولنا النظر للمسألة من منظور آخر بشكل يوصلنا لنفس الهدف المرجو تحقيقه من تأسيس نظام مست قل لفعل الذكاء اإلصطناعي، لكن بشكل آخر من التعدد النمطي ، و ذلك بتبني مبدأ تعدد الدعاوى بدال من التعدد في أنماط المسؤولية ، الذي يقصد به أن ال يكون لدعوى المسؤولية المدنية شكل واحد بتبني منظومة واحدة بنفس الشروط و اآلثار ، بل يمكن أن تكون هناك دعاوى متعددة ل كل منها شروطها و 1 Diane Gablois Lehalle , Responsabilité civile pour l'intelligence artificielle selon Bruxelles : une initiative à saluer, des dispositions à améliorer , Dalloz ,2021 ,p 87. 1James Timothy,Vers la création d’un régime spécial de responsabilité du fait de l’intelligence artificielle , Journal de Droit de la Santé et de l’Assurence Maladie N°27,2020, p 62.

-- 25 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 156 آثارها بحسب طبيعة موضوع الدعوى. فهل ستك و ن ضرورة إذكاء قواعد المسؤولية المدنية ملواجهة أ ضرار الذكاء اإلصطناعي حجة مقنعة لتبني هذه الفرضية ؟ ، أم أن ذلك سيكون بمثابة زعزعة لثوابت المسؤولية المدنية ؟. إن مرد اإلجابة عن هذه التساؤالت هو راجع ب الدرجة األولى إلى منظورنا لهذا القانون، و الذي على أساسه سيكون بناء الفرضيات المحتملة ، الستنباط الحلول القانونية المعقولة لهته اإلشكاالت ، ففي إطار البحث عن تصميم مسؤولية مدنية عادلة تكفل حماية فعالة للمضرور البد من إذكاء قواعد هذه األخيرة عن طريق تبني فرضي ة تضمن هذا الهدف. و قد يوحي األمر في بدايته إلى تشويه المفاهيم الكالسيكية للمسؤولية المدنية، فإذا كانت أولى الفرضيات المقترحة يي قائمة على النظر لقانون المسؤولية المدنية على أساس نظام موحد في شروطه و وظائفه، فإن الحديث عن تبني مبدأ تعدد الدعاوى المدنية ، و بالتالي خلق دعوى مستقلة بشروط و آثار مغايرة ،خاصة باألضرار الناجمة عن فعل الذكاء اإلصطناعي أمرا غير ممكنا، فهذه المبادرة بناء على مضمون هذه الفرضية يي بمثابة دعوة لكسر األطر القانونية التقليدية و هو أمر بالنسب ة لجانب كبير من مستسا الفقه غير غ. إال أن الذ هاب بعيدا بتفكيرنا في تأصيل دعائم الفرضية المخالفة لسابقتها ، و و كسر اإلعتقاد القائم على المبنية على تبني نظام مسؤولية متعدد الدعاوى وحدة دعاوى المسؤولية امل دنية، النابع من وحدة شروطها و آ ثارها و وظائفها، نكون قد مهدنا الطريق ألجل تكريس مسؤولية مدنية ذكية قادرة على تأطير أضرار الذكاء اإلصطناعي، و ذلك بإذكاء قواعدها عن طريق تبني مبدأ تعدد الدعاوى.

-- 26 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 157 المطلب الثاني : خصوصية الذكاء اإلصطناعي : دعوة لتطوير النص القانوني إن اإلقرار بخصوصية الذكاء اإلصطناعي كذريعة لتطوير النص القانوني عن طريق تكريس مبدأ تعدد الدعاو ى في قانون المسؤولية المدنية ، سيجد تجسيده في الواقع العملي عن طريق تجاوز شرط السببية ( الفرع األول) ، و تفعيل دعوى جماعية ( الفرع الثاني) حين يتعلق األمر بأضرار ناجمة عن فعل الذكاء اإلصطناعي. الفرع األول : لزوم تجاوز شرط السببية: نحو قلب عبء اإلثبات إن اإلح تجاج بصعوبة إثبات عالقة السببية بين الفعل المنش ئ للضرر و الضرر الحاصل ، هو ذريعة يجب إعادة النظر فيها، حيث أنه و ملا كان إصالح األضرار الحاصلة و تعويض الضحايا هو الهدف المرجو تحقيقه من وراء إعمال قواعد المسؤولية ا ملدنية، فإنه من غير المنصف اال ستهتار باألذى الذي قد يلحق الضحايا في مصالحهم المالية أو الجسمانية أو حتى المعنوية فقط لصعوبة إثبات رابطة السببية أحيانا، و استحالة ذلك أحيانا أخرى. ،فقد عرفت المجتمعات المعاصرة تطورات هائلة في مجال العلوم و التكنولوجيا ، تسببت في ظهور موجة كبيرة من أخطار من نوع خاص ذات طابع معقد، يكاد يكون الكشف عن التلوث التي وجدت حقائقها أحيانا شبه مستحيل، كما هو الحال بالنسبة ألضرار اليوم بوجود التطور الصناعي و التكنولوجي الهائل ، و التي يصعب فيها إثبات عالقة السببية بين الضرر الحاصل و النشاط الملوث ، و من هنا سيكون اإلحتفاظ بشرط إثبات عالقة السببية كأحد األركان الواجب توافرها لقيام المسؤولية المدنية، هو قول يجعل من المصالح المادية أو االقتصادية للصناع و المنتجين ، في مكانة أرقى من المصالح اإلنسانية التي من المفروض أنها دوما ذات

-- 27 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 158 أولوية ال يمكن التغاض ي عنها أو تجاهلها . كما يمكن أن تظهر السببية كذلك كشرط يحد من مجال تطبيق قواعد المسؤولية و هو ما يقف عائقا أمام نشر هذه األخيرة بشكل كامل1 ، أي أن اعتبار إثبات عالقة السببية ركنا أساسيا ، البد من توافره للقول بقيام المسؤولية المدنية ، لحقه من ضرر، سيجعل من مجال عما و الحكم بتعويض المتضرر تطبيق هذه األخيرة ذو نطاق أضيق مما سيكون عليه الحال ، فيما لو كان شرط السببية غير الزم ملساءلة ا ملتسبب في الضرر ، فإذا كان اشتراط السببية له كل هذه السلبيات التي تحول دون الوصول بقانون المسؤولية المدنية إلى أهدافه المرجوة من وراء تأسيس هذا النظام القانوني، فلما ال تكون لنا مساعي ألجل التخلي عن هذا الشرط حين يتعلق األمر باألضرار الناجمة عن فعل الذكاء ا إلصطناعي؟ حيث أنه و إذا كان إثبات عالقة السببية كركن أساس ي للقول بقيام المسؤولية المدنية للمسؤول هو مسألة لها انعكاسات عديدة تحسب عليها ال لها، فإن في إعادة النظر في هذا الشرط، ملا يتعلق األمر بدعوى قائمة ألجل جبر ضرر حاصل من جراء فعل الذكاء اإلصطناعي ، هو أمر حتمي ،إذ أنه و فضال عن التحديات و العراقيل التي تنجم عن التمسك بإلزامية إثبات عالقة السببية من جانب المضرور ، في دعوى المسؤولية عن فعل الذكاء اإلصطناعي، فإن بقاء هذا الشرط (خطأ يمثل أحد أعمدة الثالثية الكالسيكية ألركان قيام المسؤولية المدنية – ضرر عال قة سببية) في هذا النوع من الدعاوى، يجعل قانون المسؤولية المدنية احتياجات الضحايا عاجزا عن تلبية جميع ، فهل يكمن فعال تصور دعوى 1 Jean Sébastien Borghetti , Peut-on se passer de la causalité en droit de la responsabilité ?, « Quel avenir pour la responsabilité civile ?» , Dalloz 2015, p13.

-- 28 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 159 مسؤولية مدنية ال يكون لعالقة السببية مكان فيها ؟ أو على األقل صياغة هذا ملفهومنا له حاليا ؟ الشرط بشكل مغاير . إذا صعوبة تحقيق ذلك في الواقع العملي على األقل حاليا تجعلنا بعيدا تماما عن أية محاولة للوصول إلى إجابة قطعية جازمة لهته اإلشكاالت، فإن ذلك ال ينفي أن تجاوز شرط السببية سيكون من بين المستلزمات التي يتطلبها تكريس دعوى مستقلة متعلقة بالتعويض عن أضرار الذكاء اإلصطناعي، و ذلك إما بتجاوزه بشكل كلي أو على أقل تقدير الحد من دوره ملا يتعلق األمر بالمسائل ذات الصلة بتقنيات الذكاء اإلصطناعي، و ذلك من خالل قلب عبء اإلثبات . حيث أنه و في حال ميالد دعوى مسؤولية مدنية عن فعل الذكاء اإلصطناعي ذات طابع مستقل عن نظيرتها المتعلقة بالمسائل ا ألخرى سيكون الصانع أو المنتج أو المبرمج ...إلخ المدعى عليه في هذه الدعوى، هو من يقع عليه عبء اإلثبات كأقل تقدير، ليكون تجاوز شرط السببية كليا حل مستقبلي ملا يتعلق األمر الناجمة عن فعل الذكاء اإلصطناعي. باألضرار : الثاني الفرع م في جماعية مسؤولية دعوى تفعيل الذكاء جال اإلصطناعي إن أحد أهم اإلشكاالت التي واجهها نظام المسؤولية المدنية بقواعده الكالسيكية في تأطير المسائل القانونية المتعلقة بالذكاء اإلصطناعي، هو تحديد من المسؤول عن جبر هذه االضرار ؟. و ذلك نظرا لتعدد الفاعلين في هذه الحاالت : مالك مصمم منتج و غير هم ، و باستقراء اآلراء الفقهية التي حاولت اإلجابة على ه ا ته اإلشكالية نجد من أهمها مقترح المحامي الفرنس ي المتخصص في هذا الميدان Alain Bensoussan ، و الذي يعتمد على خطة توزيع المسؤولية على هؤالء، و هو ما يسمى بنظام مسؤولية تعاقبي للفاعلين في المسائل المتعلقة ب الذكاء

-- 29 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 160 اإلصطناعي و بالتالي مساءلتهم بشكل متتالي نظرا ملساهمتهم جميعا في خلق هذا في المجتمع، الخطر1 مستوحيا هذا النمط من المسؤولية من القانون األمريكي من خالل مساءلة مصمم الذكاء اإلصطناعي ، ثم المستعمل ، ثم المنتج ،و أخيرا مساءلة المالك بصفته حائز للذكاء اإل صطناعي، بمعنى آخر تكريس مسؤولية تدريجية لكل المتدخلين في نشاط أنظمة الذكاء اإلصطناعي.2 إال أنه و بالنظر إلى الغاية المراد بلوغها من خالل مضمون و فحوى اإلقتراح القائم على تبني مبدأ تعدد الدعاوى ألجل تكريس دعوى مسؤولي ة مدنية عن فعل الذكاء اإلصطناعي ذات شروط و آثار مستقلة عن غيرها من الدعاوى، فإن الطرح المبني على مساءلة عدة أطراف ساهموا في استحداث أو توجيه النظام المناسب لتحقيق هذه الغاية. الذكي بصفة تضامنية و بدون خطأ، هو الخيار و لقد كان الفقه األمريكي السباق في تقديم هذا المقترح، و في مقدمتهم األستاذ David Vladeck ، مستلهما من فكرة المسؤولية الجماعية للمؤسسة Common entreprise liability ، و التي تتميز بقيام المسؤولية و بقوة القانون لألطراف الفاعلة في عمل المؤسسة ، و ذلك بشكل تضامني عن األفعال الصادرة عن نشاطهم و من هنا ستكون المسؤولية قائمة في حق جميع ال فئات المع نية بالذكاء اإلصطناعي، األمر الذي سيدفع بالفاعلين و المتدخل ين في تصنيع هذه األخيرة، إلى اال شتراك في تجمعات لتغطية مسؤولياتهم و تعويض آثارها، و كذا 1 Allain Bensoussan, Le droit des robots , de l’éthique au droit , Planéte Robots N°24 ,p137. https://www.alain-bensoussan.com/wpcontent/uploads/23934921.pdf. 2 إسالم يوسف، المسؤولية المدنية و الذكاء االصطناعي: أي حل؟ ،حوليات جامعة الجزائر 01 ، الذكاء اإلصطناعي : تحد جديد للقانون؟،العدد 07 ،عدد خاص، الجزائر، 2018 . ، ص 239 .

-- 30 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 161 يرفع من حرص المنتجين و المبرمجين الذين اشتركوا في تسويق أنظمة الذكاء االصطناعي1 . خاتمة : باستقراء التحليل امل توصل إليه من خالل هذا البحث، سنجد أن " أزمة قانون المسؤولية المدنية" و "التكييف المحدود لقواعد المسؤولية المدنية" كانا وجها التجاذب الفقهي حول مدى كفاءة و صالحية قانون المسؤولية المدنية بوضعه الراهن لـتأطير األضرار الناجمة عن فعل الذكاء اإلصطناعي، و البحث في مدى مالءمة القواعد التقليدية للمسؤولية المدنية للتعويض عن األضرار الناجمة عن النتائج التالية : فعل الذكاء اإلصطناعي، جعلنا نبصر 1 - إن صعوبة تحديد اإلطار القانوني للمسؤولية المدنية عن فعل الذكاء اإلصطناعي يرجع إلى اإلستقاللية في اتخاذه ا لقرار ، و التي ستؤدي بدورها إلى صعوبة تحديد الشخص المسؤول عن الضرر ، بحيث قد يت دخل في نشاط و عمل من شخص. الذكاء اإلصطناعي أكثر 2 - محاولة البعض تكييف القواعد القانونية التقليدية و التوسع فيها ، لكي تتماش ى مع تقنيات الذكاء اإلصطناعي ، و محاولة البعض اآلخر ابتكار أسس حديثة هو حل مؤقت ، سيثبت عجزه و قصوره مستقبال ، نظرا لتقنيات الذكاء اإلصطناعي. للتطور المستمر 3 - إن الجهود األوروبية المبذولة لتجاوز عقبات إسقاط النظام الكالسيكي للمسؤولية المدنية على أضرار الذكاء اإلصطناعي، يي تدخل مبتكر و مكتمل. لكن غير معمر بن طرية و قادة شهيدة، المرجع السابق، ص 140 . 1

-- 31 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 162 4 - ضرورة تدخل المشرع لوضع نظام قانوني متكامل يحدد بشكل دقيق آلية التعامل مع تكنولوجيا الذكاء اإلصطناعي ، و مواجهة األضرار الناجمة عنه كحل مستقبلي. و بناء على النتائج المتوصل إليها يمكن طرح التوصيات التالية : 1 . ضرورة تكثيف جهود الفقه قصد الوصول إلى تصور جديد للمسؤولية المدنية عن الذكاء اإلصطناعي تأخذ ب خصوصياته. عين اإلعتبار 2 . على المشرع الجزائري هو اآلخر السعي لوضع نظام قانوني متكامل يحدد و بشكل دقيق ، آلية التعامل مع تكنولوجيا الذكاء اإلصطناعي، و مواجهة الناجمة عنه األضرار كحل مستقبلي. 3 . في ظل ترقب تكريس النظام المأمول لتأطير مسائل المسؤولية المدنية ذات الصلة بأنظمة الذكاء اإلصطناعي، يمكن للقضاء اإلستناد على نظام المسؤولية المقرر عن فعل المنتجات المعيبة ، إذ من تحليل جميع أحكام و مبادئ المسؤولية المدنية الحالية ، يظهر هذا األخير هو األقرب . لتغطية هذه األضرار 4 . يمكن ا عتماد فكرة التأمين اإلجباري على أنظمة الذكاء اإل صطناعي مثلها مثل السيارات كحل مؤقت لتغطية األضرار الناجمة عن هذه األخيرة. 5 . تعزيزا ملبادئ المسؤولية الجماعية ، يمكن إنشاء صناديق ضمان خاصة بتعويض ضحايا األضرار الناجمة عن فعل أنظمة الذكاء اإلصطناعي ذلك باشتراك جميع الجهات الفاعلة في مجال الذكاء اإلصطناعي من منتجين مبرمجين ، ومصممين و غيرهم.

-- 32 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 163 قائمة المراجع أوال: المراجع باللغة العربية المقاالت العلمية 1 - إسالم يوسف، المسؤولية المدنية و الذكاء االصطناعي: أي حل؟ ،حوليات جامعة الجزائر 01 الذكاء اإلصطناعي : تحد جديد للقانون؟،العدد 07 ،عدد خاص، الجزائر، 2018. 2 - رفاف لخضر و معوش فيروز، خصوصية المسؤولية المدنية عن أضرار الذكاء اإلصطناعي في القانون الجزائري، مجلة طبنة للدراسات العلمية األكاديمية، المجلد رقم 06 ، العدد األول،الجزائر، 2023. 3 - علي فياللي، نريمان مسعود بورغدة ، الذكاء اإلصطناعي : تحد جديد للقانون؟، حوليات جام عة الجزائر 01 ، العدد 07 ، عدد خاص، الجزائر، 2018. 4 - عبد عبد هللا موس ى، أحمد حبيب بالل، ثورة في تقنيات العصر، المجموعة العربية للتدريب و النشر، الطبعة األولى،القاهرة، 2019 . 4 - كريمة شليحي، إشكاالت تحديد المسؤولية المدنية لألشخاص في إطار نظم الذكاء اإلصطناعي م ختارات من أشغال الملتقى الوطني حول مستقبل المسؤولية المدنية ليوم 28 جانفي 2020 ، ، مسطرة إجرائية، الجزء األول، جامعة امحمد بوقرة، بومرداس، الجزائر 2020. 5 - محمد أحمد الشرايري، المسؤولية المدنية الذكية عن أضرار الذكاء اإلصطناعي : دراسة مسحية مقارنة، مجلة كلية القانون الكويتية العالمية ، العدد 2 ، العدد التسلسلي 38 ، الكويت السنة العاشرة، مارس 2022. 6 - مصطفى أبو مندور موس ى عيس ى، مدى كفاية القواعد العامة للمسؤولية المدنية في تعويض أضرار الذكاء اإلصطناعي، مجلة حقو ق دمياط للدراسات القانونية و اال قتصادية ، جامعة دمياط ، العدد الخامس ،مصر، 2022. 7 - معمر بن طرية ،قادة شهيدة ، أضرار الروبوتات و تقنيات الذكاء اإلصطناعي: تحد جديد لقانون المسؤولية المدنية الحالي، ملحات في بعض مستحدثات القانون المقارن، حوليات جامعة الجزائر 01 ، ، الذكاء اإلصطناعي : تحد جديد للقانون؟،العدد 07 ، عد د خاص ،الجزائر، 2018. 8 - نريمان مسعود بورغدة ، المسؤولية عن فعل األنظمة اإللكترونية الذكية ؟، حوليات جامعة الجزائر 1 ،العدد 31 ، الجزء األول،الجزائر، 2017.

-- 33 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 164 9 - همام القوص ي، إ شكالية الشخص المسؤول عن تشغيل الروبوت ( تأثير نظرية النائب اإلنساني على جدوى القانون في المستقبل)، - دراسة تحليلية استشرافية في قواعد القانون المدني األوروبي الخاص بالروبوتات - ،مجلة جيل األبحاث القانونية المعمقة ، العدد 25 ، الجزائر، 2018. 10 - فتيحة حزام، تحديات المسؤولية المدنية عن فعل األشياء الذكية، مختارات من أشغال الملتقى الوطني حول مستقبل المسؤولية المدنية ليوم 28 جانفي 2020 ، مسطرة إجرائية، الجزء األول، ، جامعة امحمد بوقرة، بومرداس، الجزائر 2020. 11 - سيف بن ناصر بن عبد هللا المعمري ،تأصيل المسؤولية المدنية لتطبيقات الذكاء العماني التشريع في اإلصطناعي - تحليلة دراسة - ا ،مجلة ال الق للدراسات جتهاد و انونية اال قتصادية، المجلد 13 العدد 02 ، عمان، األردن، 2024 . ثانيا: المراجع باللغة األجنبية : Les ouvrages - A 1-Céline Mangematin , Droit de la responsabilité civile et l’intelligence artificielle , l’entreprise et l’intelligence artificielle , les réponses du droit, presses de l’université toulouse,toulouse,2022. B- Théses et Mémoires: 1-Nour el Kaakour , l’intelligence artificielle et la responsabilité civile délictuelle mémoire pour l’obtention d’études approfondies en droit international des affaires,faculté de droit et des sciences politiques et administratives filiéres francophone , université libanaises,2017 . 2-Adrien Bonnet,La responsabilité du fait de l’intelligence artificielle : Réflexion sur l’émergence d’un nouvel agent générateur de dommages , Mémoire de recherche Université Panthéon-Assas , paris2,2015. C-Les articles : 1-Benoitgeorges,intelligenceartificielle :de quoi parle-t-on ?,constructif,N°54,octtobre 2019. 2-Cédric Coulon, Du robot en droit de la responsabilité civile : à propos des dommages causés par les shoses intelligentes,Resp.civ.et assur.,étude 6, N°4, 2016.

-- 34 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 165 3-Diane Gablois Lehalle, Responsabilité civile pour l'intelligence artificielle selon Bruxelles : une initiative à saluer, des dispositions à améliorer, Dalloz ,2021. 4-Grégoire Loiseau et Matthieu Bourgeois , « Du robot en droit à un droit des robots ».La Semaine Juridique,édition générale,N°48, 2014. 5-James Timothy,Vers la création d’un régime spécial de responsabilité du fait de l’intelligence artificielle, Journal de Droit de la Santé et de l’Assurence Maladie,N°27,2020. 6-Jean Sébastien Borghetti, Peut-on se passer de la causalité en droit de la responsabilité ?, « Quel avenir pour la responsabilité civile ?»,Dalloz ,2015. 7-Jean-Sébastien Borghetti , La responsabilité du fait des produits défectueux,Etude de droit comparé, L.G.D.J , Bibliothéque de droit privé,N° 494,2020. 8-Jean-Sébastien Borghetti,L’accident généré par l’intelligence artificielle autonome,in « Le droit civil à l’ére numérique »,acte du colloque du master 2 Droit privé général et du laboratoire de droit civil ,JCP ,numéro special , N°27 ,2017. 9-Laurent Archambault et Léa Zimmermann ,La réparation des dommages causés par l’intelligence artificielle : le droit français doit évoluer,Gaz.Pal,Volume 138,N°2,2018. 10-Philippe Glaser et Taylor Wessing, Responsabilité civile du fait du robot doué d’intelligence artificielle : faut-il créer une personnalité robotique ?, Contrats Concurrence Consommation, N°1 , Alerte 1 ,2018. 11-Raja Chatila , intelligence artificielle et robotique : un état des lieux en perspective avec le droit,D ,2016 . 12-Tom Allen and Robin Widdisson,Can computer make contracts ?,Harvard Journal of law and Technology , Volume 9,N° 1,Harvard law school,cambridge,1996. B-Articles publiés sur Internet : 1-.Allain Bensoussan, Le droit des robots ,de l’éthique au droit,Planéte Robots N°24 . https://www.alain-bensoussan.com/wp-content/uploads/23934921.pdf . 2-Jack Breese and Gene Ball , Modeling emotional state and personality for conversational agents , Technical raport,1998. https://cdn.aaai.org/Symposia/Spring/1998/SS-98-03/SS98-03-002.pdf.

-- 35 of 36 --

اجملةل اجلزائرية للقانون والعداةل الذكاء اإلصطناعي : نموذج عن التحديات امل ع ا صر ة للمسؤولية التقص ي رية 166 3-Jean gabriel ganascia,intelligence artificielle : entre mythe et réalité, https://courier.unesco.org/fr/articles/intelligence-artificielle-entre-mythe-et-realite. 4-Maxime blondeau, Propos sur l’intelligence -le bilan de l’intelligence ,Paul valéry Etat d’esprit. https://medium.com/@maximblondeau/propos-sur-lintelligence- 1926-7c5392c1eb75 . 5-Paulius Cerka,Jurgita Grigiene,Ginitare Sirbikyt,Liability for damages caused by artificial intelligence ,Comuter law and security review,n31,2015,p385,www.sciencedirect.com. 6-Samuel Stolton,MEPs chart path for a european approach to artificial intelligence,12 mai 2020. https://www.euractiv.com/section/digital/news/meps- chart-path-for-a-european-approach-to-artificial-intelligence 7-The European Parliament ,Civil Law Rules on Robotics,P8-TA(2017)0051,16 February 2017. 8-euRobotics AISBL Suggestions for a green paper on legal issues in robotics,Contribution to deliverable D3.2.1 on ELS issues in robotics, spéc. https://fr.scribd.com/document/202087197/EuRobotics-Deliverable-D-3-2-1- ELS-IssuesInRobotics . 9-L’office parlementaire d’évaluation des choix scientifiques et technologiques ,15 mars 2017 ,TOME1 ,www.cours-appel-justice.fr. 10-M.claude de Ganay ,Dominique Gillot , Pour une intelligence artificielle maitrisée untile et démystifiée , Rapport d’office parlementaire ,N°464 ,Tome 1,2017. https://www.senat.fr/rap/r16-464-1/r16-464-1.html

-- 36 of 36 --