انعكاس خصوصية الذكاء الاصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية

المجلد 41 / العـــدد : 14 ( 2 6 20 ) ، ص 222 - 212 م جلـة القانون العقاري والبيئة 1 انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية The Legal Implications of Artificial Intelligence Specificity in Defining Civil Liability تكوك زوبيدة  ، كوثر زهدور 2 1 جامعة عبد الحميد بن باديس مستغانم mosta.dz - zoubida.rekouk.etu@univ 2 جامعة عبد الحميد بن باديس مستغانم mosta.dz - kaouter.zahdour@univ تاريخ االستالم: 21 / 11 / 2025 تاريخ القبول: 22 / 01 / 2022 تاريخ النشر: 22 / 01 / 2022 ملخص : تدرس هذه الدراسة اإلشكاالت المتعلقة بالمسؤولية المدنية عن األضرار الناتجة عن أنظمة الذكاء االصطناعي، في ظل توسع استخدامها. ورغم فوائدها، يثير االعتماد على هذه األنظمة تساؤالت حول الجهة القانونية المسؤولة عن األضرار، نظرًا لخصائصها التي تتجاوز أحيانًا السيطرة البشرية. و تهدف الدراسة إلى وضع أساس قانوني سليم من خالل تحديد الطبيعة القانونية لألنظمة الذكية. وتشير النتائج إلى أن التشريع المدني الجزائري غير كافٍ، مما يبرز الحاجة إلى مبادئ قانونية حديثة لتنظيم المسؤولية المدنية. كلمات مفتاحية: الذكاء ا الصطناعي ، المسؤولية المدنية ، الشخصية القانونية ، أضرار الذكاء االص طناعي . Abstract: This study examines civil liability issues arising from damages caused by artificial intelligence systems, given their expanding use. Despite their benefits, reliance on these systems raises questions about the legally responsible party, due to characteristics beyond human control. The study aims to establish a sound legal basis by defining the legal nature of AI systems. Findings show that Algerian civil legislation is insufficient, highlighting the need for modern legal principles to regulate civil liability. Keywords: artificial intelligence; civil liability; legal personality; Damages of Artificial Intelligence. ______________________ _ ____ _ _____________

تكوك زوبيدة كوثر / زهدور 226  المؤلف المرسل 1 . مقدمة: شهد العالم في عصر الثورة المعلوماتية تطورًا تكنولوجيًا ملحوظًا، أفرز ظهور أنظمة وتقنيات حديثة لم يكن للبشر معها خبرة سابقة، أبرزها ما يعرف بالذكاء االصطناعي، الذي أحدث نقلة نوعية في مفهوم اآلالت، من مجرد أدوات جامدة تُدار بتوجيه اإلنسان المباشر، إلى أنظمة تمتلك القدرة على االستقاللية في اتخاذ القرار، ومحاكاة السلوك البشري في التفكير والتحليل وحل المشكالت. ترجع بدايات الذكاء االصطناعي إلى منتصف القرن العشرين، مع أبحاث العالم اإلنجليزي آالن تورينغ حول الحوسبة واآلالت الذكية، وتم اإلعالن رسم كلية دورتموث سنة يًا عن المفهوم في مؤتمر 1252 1 كيز العالمي على تطوير هذه األنظمة، مؤديًا إلى ظهور تطبيقات . وفي بداية التسعينات، بدأ التر ذكية متعددة تدخل في مختلف المجاالت الصناعية، التعليمية، الطبية وحتى العسكرية، ما قلل االعتماد على العنصر البشري في أداء المهام التقليدية. عرف الفقهاء والهيئات الدولية الذكاء االصطناعي بعدة تعريفات، تجمع بين كونه نظامًا قادرًا على معالجة البيانات حاسوبيًا بطريقة آلية، وبين قدرته على محاكاة الذكاء البشري واتخاذ قرارات مستقلة. وقد قسم المختصون الذكاء االصطناعي إلى نوعين: الذكا ء االصطناعي الضعيف، الذي يقت صر على تنفيذ أوامر محددة مسبقًا، والذكاء االصطناعي القوي، الذي يحاكي قدرات التفكير والتحليل البشري، ويتعلم من التجربة ويطور إمكانياته الذاتية باستقاللية تامة 2 . مع تزايد استخدام أنظمة الذكاء االصطناعي، ظهرت الحاجة إلى تحديد األسس القانونية لتحميل المسؤولية عن األضرار الناتجة عن أخطائها، خاصة أن هذه األنظمة قادرة على اتخاذ قرارات كبيرة على الصعيدين مستقلة قد تلحق ضررًا باآلخرين أو بالممتلكات. ويكتسب هذا الموضوع أهمية 1 - محمد أحمد مشعل ، " الذكاء االصطناعي وآثاره على حرية التعبير في مواقع التواصل االجتماعي "،مجلة البحوث القانونية واالقتصادية ، كلية الحقوق ، جامعة منصورة ، مصر ، المجلد 11 ، العدد 77 ، سبتمبر 0201 ، ص 444 . 2 مها رمضان بطيخ ،" المسؤولية المدنية عن أضرار أنظمة الذكاء االصطناعي – دراسة تحليلية مقارنة – كلية الحقوق ، جامعة القاه "، المجلة القانونية ، رة ، مصر ، المجلد 4 ، العدد 5 ،ماي 0201 ، ص 1551 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 227 العملي، حيث أصبح التعامل مع األنظمة الذكية جزءًا ال يتجزأ من حياة األفراد والدول، والعلمي، با عتباره موضوعًا حديثًا لم تتطرق له التشريعات الوطنية بشكل شامل. كز الدراسة على البحث في طبيعة المسؤولية المدنية الناتجة عن استخدام في هذا السياق، تر أنظمة الذكاء االصطناعي، ومدى مالءمة القواعد التقليدية للمسؤولية المدنية، مع استكش اف االتجاهات الحديثة في تأسيس المسؤولية بما يتوافق مع خصائص هذه األنظمة التقنية. ومن هنا تبرز اإلشكالية األساسية للدراسة: ما مدى قدرة قواعد المسؤولية المدنية التقليدية على مواجهة األضرار الناجمة عن أنظمة الذكاء االصطناعي في التشريع الجزائري؟ انطالقا من اإل شكالية يتم التطرق الى موضوع البحث خالل محورين : المحور األول تم التطرق كز القانوني للذكاء االصطناعي و المحور الثاني تم التطرق الى األساس القانوني للمسؤولية الى المر المدنية عن أضرار الذكاء االصطناعي . 2 . كز القانوني للذكاء االصطناعي المحور األول: المر لم تعد أنظمة الذكاء االصطناعي مجرد أدوات تقنية يستخدمها اإلنسان، بل أصبحت واقعًا متجذرًا يتطلب متابعة تطوراتها المستمرة، حيث ساهمت في خدمة الصالح العام وتسهيل الحياة اليومية وأداء وظائف متعددة عبر مختلف المجاالت. وتتميز هذه األنظمة بقدرتها على التعلم واكتس اب الخبرة واتخاذ القرارات بشكل مستقل، إلى جانب مرونتها في التكيف مع المواقف المختلفة . هذا الوجود الواسع للذكاء االصطناعي أثار تساؤالت قانونية حول الحقوق وااللتزامات المترتبة عنه، والمسؤولية المدنية الناتجة عن األضرار، ومن يتحمل عبء التعويض. ولتحديد األساس القانون ي للمسؤولية، كز القانوني لألنظمة، ما إذا كانت أشياء أم أشخاصًا أم تتمتع بطبيعة خاصة، إذ يتعين أوال ً تحديد المر يشكل ذلك أساسًا لتطبيق المسؤولية المدنية. ويستدعي التنوع في خصائص الذكاء االصطناعي دراسة طبيعتها القانونية، ثم إمكانية االعتراف بشخصيتها ال قانونية.

تكوك زوبيدة كوثر / زهدور 228 4.2 ال طبيعة القانونية ألنظمة الذكاء االصطناعي : تشكل الطبيعة القانونية ألنظمة الذكاء االصطناعي إشكالية حديثة بسبب قدرتها على التعلم الذاتي واتخاذ القرارات باستقاللية، مما يثير تساؤالت حول إمكانية إدراجها ضمن التصنيفات القانونية التقليدية كاألشياء أو المنتجات، سواء في صورتها المادية كالروبوتات والطائرات الذاتية القيادة، أو الرقمية ح إشكال حول اعتبارها أشخاصًا قانونيين، كالبرمجيات والخوارزميات الخاضعة للحقوق المالية. كما يُطر غير أن غياب الذمة المالية والممثل القانوني يمنع إضفاء الشخصية القان ونية عليها في ظل الت شريع الحالي، رغم ما تتمتع به من استقاللية وقدرة على التصرف  الذكاء االصطناعي في نطاق نظرية األشياء : - الذكاء االصطناعي ومفهوم الشيء: تنص القوانين المدنية في الجزائر (المواد 131 - 140 ) 3 ، ومصر (المواد 11 - 11 ) 4 ، وفرنسا (المواد 512 - 532 ) على تنظيم األشياء واألموال، مع غياب كل ما يصلح أن يكون محال ً للحقوق المالية، تعريف محدد للشيء. بصفة عامة، يُعرف الشيء بأنه كل ما له كيان مستقل عن اإلنسان كالحقوق الفكرية، ويشمل سواء كان ماديًا ملموسًا أو معنويًا 5 ، ويتطلب في بعض الحاالت عناية خاصة، كما في اآلال ت الميكانيكية ذات القوة الذاتية والتي تشكل مصدر خطر محتمل 6 . كة (كالهواء وتنقسم األشياء قانونيًا إلى ما يمكن االستئثار به وما ال يمكن، مثل األشياء المشتر والشمس) 7 أو المحظور التعامل بها لحماية النظام العام أو األموال العامة. 3 األمر رقم 75 - 55 خ في المؤر 02 سبتمبر 1475 المتضمن القانون المدني ، ج .ر عدد 75 الصادرة في 52 سبتمبر 1475 المعدل و المتمم بالقانون رقم 27 - 25 المؤرخ في 15 ماي 0227 ج.ر عدد 51 . 4 القانون رقم 151 لسنة 1444 ، الصادر بقصر القبة في 4 رمضان 1527 الموافق ل 12 يوليو 1445 ، المعمول به اتداء من 15 اكتوبر 1444 ، المتعلق بالقانون المدني المصري ، ج .ر عدد 125 مكرر (أ). 5 محمد حسين منصور ،نظرية الحق ، منشأة المعارف ، اإلسكندرية ، مصر ، 1445 ، ص 170 . 6 محمد صبري السعدي ، شرح القانون المدني الجزائري مصادر االلتزام – الواقعة القانونية ( العمل غير المشروع - شبه العقود – والقانون)، الجزء الثاني ،الطبعة الثانية ، دار الهدى للطباعة والنشر والتوزيع ، الجزائر ، 0224 ، ص 015 . 7 ح مقدمة القانون المدني رمضان ابو السعود ، شر – نظرية العامة للحق - ، الطبعة األولى ، دار المطبوعات الجامعية ، اإلسكندرية ، مصر 1444 ، ص 551 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 229 كما يمكن تصنيف األشياء حسب طبيعتها(عقارات ومنقوالت) أو حسب أثر استعمالها (قابلة لالستهالك أو غير قابلة) أو حسب العالقة بين مفرداتها (مثلية أو قيمية) 8 . كانت أنظمة الذكاء االصطناعي تدخل ضمن مفهوم األشياء. انقسم ويثير السؤال القانوني ما إذا الفقه في هذا الصدد: فذهب فريق إلى اعتبار التطبيقات المادية (مثل الروبوتات، السيارات ذاتية ا لقيادة والطائرات المسيرة) أشياء ً مادية من نوع المنقوالت 9 ج ضمن ، إذ لها كيان ملموس يُدرك بالحواس وتندر اآلالت الميكانيكية المزودة بمحرك أو قوة دافعة. أما التطبيقات المعنوية (كالبرامج والخوارزميات) فتُعد أشياء معنوية قابلة للحقوق المالية الذهنية، حيث ال يميز القانون بين المادي والمعنوي إال من حيث التنظيم القانوني. في المقابل، يرى فريق آخر من الفقه أن أنظمة الذكاء االصطناعي ال يمكن حصرها ضمن األشياء، نظرًا لطبيعتها غير الملموسة، وقدرتها على التعلم والتطور الذاتي واستقاللية اتخ اذ القرار، وهو ما كة المستقلة، إذ كما أنها ال تُعد حيوانات، رغم تشابه بعض خصائص الحر يميزها عن األشياء الجامدة، أن الذكاء االصطناعي يعتمد على البرمجة البشرية مسبقًا، بعكس الكائنات الحية. بالتالي، ال يمكن إطالق مفهوم الشيء التقليدي على ه ح تساؤالت حول إمكانية اعتبارها منتجات ذه األنظمة، ما يطر قابلة لتطبيق أحكام المسؤولية المدنية عليها. - أنظمة الذكاء االصطناعي ومفهوم "المنتج": كل شيء يتولد عن عملية يُعرف المنتج قانونيًا بأنه اإلنتاج، سواء كان صناعيًا، زراعيًا، تحويليًا أو فنيًا، ويمكن أن يكون ملموسًا أو غير ملموس، منفر دًا أو ضمن مجموعة من المنتجات أو الخدمات المترابطة 10 . وتختلف التعريفات الفقهية بحسب نطاق التطبيق: فالبعض يقتصر على المنتجات الصناعية فقط، بينما يرى آخرون شمول جميع المنتجات المادية والطبيعية، بما في ذلك الخدمات والسلع المستمدة من اإلنسان أو الكهرباء، كما أشار إليه القانون الفرنسي والقوانين المقارنة. 8 نص عليه ال ع الجزائري في القانون المدني ، في القسم الثاني المعنون ب : " تقسيم األشياء و األموال " المواد مشر 255 و 255 و 252 . 9 مها رمضان بطيخ ، المرجع السابق ، ص 1555 . 10 فياللي علي ، االلتزامات : العمل المستحق للتعويض ، الطبعة الثانية ، موفم للنشر والتوزيع ، الجزائر ، 0227 ،ص 171 و 170 .

تكوك زوبيدة كوثر / زهدور 230 في التشريع الجزائري، اعتبر القانون المدني المنتج ماال ً منقوال ً يشمل المنتجات الزراعية والصناعية وتربية الحيوانات والطاقة الكهربائية، فيما عرفه قانون حماية المستهلك بأنه أي سلعة أو خ دمة يم كن التنازل عنها بمقابل أو مجانًا 11 كز على مسؤولية المنتج تجاه المنتجات المعيبة، مع . أما التشريع المصري فر اعتبار المنتج سلعة أو خدمة 12 . وبالرجوع إلى أنظمة الذكاء االصطناعي، ذهب فريق من الفقه إلى اعتبار التطبيقات المادية منها (كالروبوتات والطائرات ب دون طيار والسيارات الذاتية القيادة) منتجات منقولة غير قابلة لالستهالك، ألنها ال تهلك بعد االستعمال األول 13 ، أما التطبيقات المعنوية (كالبرمجيات والخوارزميات) فتُعد منتجات ذهنية يمكن أن تخضع ألحكام الملكية الفكرية، ما يسمح بالتعامل المالي معها باعتبارها منتجًا رقميًا. لكن هناك من يرى صعوبة تعميم هذا التصنيف على جميع تطبيقات الذكاء االصطناعي، خصوصًا األنظمة فائقة الذكاء التي تتمتع باستقاللية عالية في اتخاذ القرارات، وتتجاوز الطبيعة المادية التقليدية للمنتج. لذا، رغم إمكانية اعتبار بعض التطبيقات البسيطة منت جًا، فإن األنظمة الذكية األكثر ت طورًا تبقى كائنات قانونية خاصة ذات طبيعة فريدة، تتطلب إعادة النظر في تطبيق أحكام المسؤولية المدنية التقليدية عليها.  الذكاء االصطناعي في نطاق نظرية األشخاص : أدى التطور السريع في مجال التكنولوجيا إلى تحويل اآلالت التقليدية إلى أنظمة ذكية قادرة على البحث والتحليل واتخاذ القرارات بشكل مستقل، بما في ذلك إبرام التصرفات القانونية في بعض الحاالت، وهو ما أثر على النظام القانوني التقليدي القائم على اإلنسان كمحور لألفعال القانونية. 11 القانون 24 - 25 المؤرخ 05 فبراير 0224 المتعلق بحماية المستهلك وقمع الغش ، ج.ر عدد 15 الصادرة في 5 مارس 0224 . 12 القانون المصري رقم 151 - 0215 المتعلق بحماية المستهلك ، الصادر بتاريخ 5 محرم 1442 الموافق ل 15 سبتمبر 215 0 ، ج.ر عدد 57 ، الملغي للقانون 27 - 0220 . 13 محمود سالمة الشريف، " المسؤولية الجنائية لالنسآلة – دراسة تاصيلية مقارنة "، المجلة العربية لعلوم االمنية ، الرياض ، العربية السعودية ، المجلد 5 ، العدد 1 ، 0201 ، ص 5 - 2 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 231 - أنظمة الذكاء االصطناعي والشخص الطبيعي : الشخص الطبيعي هو اإلنسان الحي الذي تُقرر له الشخصية القانونية بمجرد الوالدة، ويكتسب حقوقه ويلتزم بالتزاماته، وتحدد له المراحل القانونية حسب العمر ومستوى التمييز، وتنتهي شخصيته بموته 14 . من الواضح أن أنظمة الذكاء االصطناعي تختلف جوهريًا عن الشخص الطبيعي، فهي كيانات رقمية تُبرمج ألداء وظائف محددة، وتستند في عملها على الذكاء االصطناعي وليس على القدرات العقلية الفطرية لإلنسان 15 ، لذلك ال يمكن تطبيق معايير الشخص الطبيعي عليها، وال يمكن منحها حقوقًا أو أهلية قانونية مماثلة لإلنسان. - أنظمة الذكاء االصطناعي والشخص االعتباري : يُعرف الشخص االعتباري بأنه كيان قانوني مستقل يُمنح الشخصية القانونية لتحقيق غرض معين، ويتميز بذمة مالية مستقلة وأهلية قانونية وإدارة بواسطة ممثلين طبيعيين، وتشمل أمثلته الدولة، كات، والجمعيات المؤسسات العمومية، الشر 16 . غير أن أنظمة الذكاء االصطناعي، رغم استقالليتها وقدرتها على اتخاذ القرارات ذاتيًا، تفتقر إلى الذمة كغيرها من كشخص اعتباري أو مساءلتها مدنيًا وجزائيًا المالية والممثل القانوني، مما يمنع تصنيفها الكيانات القانونية. وقد أكدت توصيات البرلمان األوروبي سنة 2012 أن الروبوتات ال تتحمل المسؤولية عن األضرار بصورة مستقلة. وبالتالي، فإن غياب الشخصية القانونية والبيولوجية يجعل من غير الممكن اعتبار أنظمة الذكاء االصطناعي أشخاصًا طبيعيين أو اعتباريين ضمن اإلطار التشريعي الحالي. 14 جعفور محمد سعيد ، تصرفات ناقص األهلية ا لمالية في القانون المدني الجزائري والفقه اإلسالمي ، دار هومة ، الجزائر ، 0220 ، ص 12 . 15 هاري سوردين ، " الذكاءاالصطناعي و القانون : لمحة عامة "، مجلة معهد دبي القضائي ، معهد دبي القضائي ، االمارات العربية المتحدة ، ا لسنة الثامنة ، العدد 11 ، افريل 0202 ، ص 1 50 . 16 عبد المنعم فرج الصدة ، اصول القانون ، الطبعة االولى ،دار النهضة العربية للطباعة والنشر والتوزيع ، بيروت ، 1475 ، ص 010 و 015 .

تكوك زوبيدة كوثر / زهدور 232 2.2 كز قانوني متميز للذكاء االصطناعي نحو تحديد مر : تتجه الحاجة نحو وضع إطار قانوني جديد يمنح أنظمة الذكا ء االصطناعي شخصية قانونية خاصة، بهدف تمكين التعويض عن األضرار وضمان جبرها، رغم ما يطرحه ذلك من صعوبات تتعلق بتجاوز المفهوم التقليدي للشخصية القانونية. ويستلزم هذا التوجه إنشاء آليات قانونية تتيح مساءلة هذه األنظمة بشكل يحقق التوازن بين األطراف، مع مراعاة خصائصها المميزة المتمثلة في االستقاللية واتخاذ القرار والتعلم الذاتي.  كأساس لتحميل المسؤولية عن أنظمة الذكاء االصطناعي نظرية النائب البشري : مع توسع استخدام أنظمة الذكاء االصطناعي، ظهرت الحاجة إلى إطار قانوني يحدد المسؤولية عن األضرار الناتجة عنها. ومنذ سنة 2015 ، تبنى االتحاد األوروبي فكرة "النائب اإلنساني" أو "قرين الروبوت" كآلية مؤقتة لتحميل اإلنسان المسؤولية عن تصرفات الروبوتات الذكية التي تتمتع بقدرات على التفكير واتخاذ القرار . وفي سنة 2012 ، أصدرت لجنة الشؤون ال قانونية باالتحاد األوروبي "قواعد القانون المدني على الروبوتات"، التي أكدت أن الذكاء االصطناعي يظل أداة في خدمة اإلنسان، دون أن يتمتع بأهلية كاملة قانونية 17 . ووفق هذا اإلطار، يتحمل النائب البشري المسؤولية عن الخطأ في التصنيع أو التشغيل أو اإلهمال في إدارة ال مخاطر، دون افتراض الخطأ تلقائيًا . ويختلف نظام النائب اإلنساني عن النيابة القانونية التقليدية، إذ ال يمثل الروبوت، بل يتحمل تبعات أفعاله لتحقيق تعويض عادل للمتضررين، في نموذج قريب من التأمين على المسؤولية 18 . ويُعد هذا النظام مرحلة انتقالية نحو االعتراف المست كشخص قانوني مستقل قبلي بالذكاء االصطناعي . 17 The European Parliament, Civil Law Rules on Robotics, P8_TA(2017)0051, 16 February 2017 . 18 همام القوصي ، اشكالية الشخص المسؤول عن تشغيل الروبوت ( تأثير نظرية " النائب االنساني "على جدوى القانون في المستقبل ) ، دراسة ت حليلية كز جيل البحث العلمي ، استشرافية في قواعد القانون المدني األوروبي الخاص بالروبوتات ، مجلة جيل االبحاث القانونية المعمقة ، مر ا لبليدة ، العدد 05 ، اوت 0215 ، ص 55 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 233 أما صور النائب اإلنساني، فتحدد وفقًا لمدى قدرة كل شخص على السيطرة على الروبوت وخطورة الخطأ، وتشمل : - مصنع أنظمة الذكاء االصطناعي : يتحمل مسؤولية العيوب الناتجة عن سوء التصنيع أو اإلهمال في صيانة النظام، والتي قد تؤدي إلى أضرار للغير، مثل تعطل روبو ت طبي يؤدي إلى تفاقم حالة ال مري ض. - مشغل األنظمة الذكية كلة له، مثل تشغيل الروبوتات : المختص بإدارة تشغيل النظام وتنفيذ المهام المو المصرفية أو العقود التجارية، ويكون مسؤوال ً عن األخطاء التي تقع نتيجة سوء اإلدارة 19 . - مالك األنظمة الذكية : يتحمل المسؤولية عند تشغيل الروبوت بنفسه أو لخدمة عمالئه، مع مراعاة محدودة المسؤولية أحيانًا لحصر المخاطر ضمن قيمة النظام نفسه . - المستعمل : الشخص الذي يستخدم النظام من غير المالك أو المشغل، ويكون مسؤوال ً عن أي ضرر ينتج عن استخدامه للنظام بشك ل خاطئ أو مهمل . ح القانون األوروبي فرض التأمين اإللزامي على المصنع أو المالك لتغطية األضرار الناتجة عن كما اقتر تشغيل الروبوتات، ما يتيح نقل المسؤولية المدنية عنهم ويضمن تعويض المتضررين بطريقة عادلة  الشخصية القانونية الرقمية للذكاء االصطناعي : م ع التطور السريع ألنظمة الذكاء االصطناعي وقدرتها على محا كاة البشر واتخاذ قرارات مستقلة، ظهرت دعوات لمنح هذه األنظمة شخصية قانونية رقمية بهدف تحديد المسؤول عن األضرار الناتجة عنها، نظرًا لتعدد الفاعلين في إنشائها واستخدامها، مما يستلزم إطارًا قانونيًا واضحًا للمساءل ة والتعويض . - االتجاه المؤيد: يرى أن منح الذكاء االصطناعي الشخصية القانونية مبرر لعدة أسباب : 19 همام القوصي ، المرجع السابق ، ص 54 .

تكوك زوبيدة كوثر / زهدور 234 يرى االتجاه المؤيد أن منح الذكاء االصطناعي الشخصية القانونية مبرر، ألن الشخصية القانونية ليست حكرًا على اإلنسان، واألنظمة الذكية تتمتع باالستقاللية في اتخاذ القرارات، ما يجعلها قادرة عل ى تحمل مسؤوليات محددة 20 . كما يسمح االعتراف القانوني لها باكتساب ذمة مالية مستقلة إلبرام العقود، مثل التأمين لتعويض المتضررين، مع ضمان أال تمس الحقوق األساسية لإلنسان، واالكتفاء بالحقوق الضرورية ألداء مهامها وحماية األطراف المتأث رة . - على الجانب اآلخر، االتجاه الرافض : كز االتجاه الرافض على القيود القانونية والواقعية، إذ يميز ير القانون المدني بين الشخص الطبيعي واالعتباري، وال يعرف أشخاصًا افتراضية ذكية، كما أن األنظمة كاملة أو القدرة على البرمجة الذكية لم تصل إلى استقاللية الذاتية، وال يمكن تحميلها المسؤولية ال كاملة عن أفعالها. ومنحها الشخصية القانونية يستلزم حقوقًا ال يمكن لها إدراكها، مما يجعل اإلنسان المسؤول عن برمجتها واستخدامها الطرف القادر على التعويض. وبناء ً عليه، يظل النقاش قائمًا بين االعتراف باالستقاللية الجزئية لأل نظمة وحماية حقوق المتضررين 21 ، وضمان عدم تهرب البشر من المسؤولية، مما يجعل منح الشخصية القانونية الرقمية للذكاء االصطناعي مسألة معقدة تتطلب تكييفًا تشريعيًا دقيقًا . 3 . األساس القانوني للمسؤولية المدنية عن أضرار الذكاء االصطناعي 4.3 المسؤولية المدنية في ضوء القواعد التقليدية : تعتبر المسؤولية المدنية حجر األساس في حماية األفراد من األضرار القانونية وتعويض المتضررين عن الخسائر التي تلحق بهم. وفي ظل التطور التكنولوجي وظهور أنظمة الذكاء االصطناعي، باتت الحاجة 20 Rodolphe Gelin, Olivier Guilhem, Le robot est- il l’avenir de l’homme ?, La Documentation Française, Paris, 2016, P.8 21 محمد عرفان الخطيب ، الذكاء االصطناعي والقانون – دراسة نقدية مقارنة في التشريعين المدني الفرنسي و القطري – في ضوء القواعد اال وروبية في قانون المدني لإلنسىآلة لعام 0217 والسياسة الصناعية األوروبية للذكاء االصطناعي و اإلنسآالت لعام 0214 "، مجلة الدراسات القانونية ، جامعة بيروت العربية ، لبنان ، المجلد 0202 ، العدد 0202 ، جوان 0201 ،ص 04 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 235 ملحة لمراجعة القواعد التقليدية للمسؤولية، سواء العقدية أو التقصيرية، لضمان التوازن بين االبت كار وحماية الحقوق.  المسؤولية العقدية: كائز األساسية في النظام القانوني الجزائري، إذ تقوم على مبدأ تُعد المسؤولية العقدية إحدى الر إلزام المتعاقد بتنفيذ التزاماته المتفق عليها، بحيث يُسأل عن أي إخالل أو تقصير يؤدي إلى ضر ر للطرف اآلخر. ويتطلب قيام هذه المسؤولية توافر ثالثة عناصر رئيسية: الخطأ المتمثل في عدم تنفيذ االلتزام 22 أو التأخر في تنفيذه، والضرر الذي يصيب الدائن، والعالقة السببية التي تربط بين اإلخالل كما نص عليها القانون المدني الجزائري. والضرر، في إطار أنظمة الذكاء ح التساؤل حول مدى قابلية هذه القواعد التقليدية االصطناعي، يُطر للتطبيق على األضرار الناتجة عن عمل األنظمة الذكية. فالعالقات القانونية المرتبطة بهذه األنظمة غالبًا ما تكون ذات طبيعة تعاقدية، مثل عقود البيع الخاصة باألجهزة المجهزة بالذكاء االصطناعي، أو عقود ا لخدمة والبرمجيات التي تتيح استخدام األنظمة الذكية في مجاالت متعددة. وفي هذه الحالة، يكون المبرمج أو المزود أو المستخدم طرفًا متعاقدًا يمكن أن يتحمل المسؤولية متى ثبت إخالله بالتزاماته التعاقدية. غير أن ما يميز المسؤولية العقدية في هذا السياق هو صعوبة تحديد الخطأ بدقة. فالنظام الذكي ج نطاق قد يتخذ قراراته بطريقة مستقلة، باالعتماد على خوارزميات التعلم الذاتي التي تجعله يتصرف خار ما برمجه عليه اإلنسان. وبذلك، قد يحدث الضرر رغم التزام المبرمج أو المستخدم بواجبات الحيطة كن الخطأ غامضًا وغير مح والرقابة، مما يجعل ر ح تساؤالت حول مدى إمكانية نسبته دد المصدر، ويطر إلى أي من األطراف المتعاقدة. 22 محمد صبري السعدي ، شرح القانون المدني الجزائري النظرية العامة لاللتزامات مصادر االلتزام – التصرف القانوني العقد واالرادة المنفردة ، الجزء األول ، الطبعة الثانية ، دار الهدى للطباعة والنشر والتوزيع ، الجزائر ، 0224 ، ص 552 .

تكوك زوبيدة كوثر / زهدور 236 كما أن طبيعة العالقة بين المنتج والمستهلك في هذا السياق قد تتجاوز النموذج التقليدي للعقود، فالمستهلك ال يتعامل مع منتوج جامد بل مع نظام ديناميكي قادر على التطور والتصرف الذاتي 23 . و هذا يجعل االلتزامات التعاقدية غير ثابتة، بل قد تتغير تبعًا لتحديثات النظام أو قدراته المتنامية، األمر الذي يزيد من تعقيد تحديد من يتحمل الخطأ عند وقوع ضرر. ح استخدام الذكاء االصطناعي في العقود اإللكترونية والتعامالت الرقمية إضافة إلى ذلك، يطر إشكاالت جديدة تتعلق بمصدر االلتزام ذاته، ومدى مسؤولية مزود الخدمة في حال وقوع ضرر ناجم عن خلل في خوارزميات النظام أو عن خطأ تقني ال يمكن للمستخدم اكتشافه. وهنا تبرز فكرة ا لتزام العناية بدل التزام النتيجة، بحيث يُسأل الطرف المهني إذا ثبت أنه لم يبذل الجهد الكافي لتأمين عمل النظام بشكل سليم. ومن ثم، فإن تطبيق أحكام المسؤولية العقدية على أضرار الذكاء االصطناعي يتطلب إعادة النظر في مفاهيم الخطأ والسببية والتنفيذ العيني لاللتزا م، بما يتالءم مع خصوصية األنظمة الذكية و استقاللها النسبي عن تدخل اإلنسان، كما يستوجب األمر تطوير قواعد قانونية جديدة تُحمّل األطراف المهنية التزامات أكثر صرامة في مجال الضمان والرقابة، مع مراعاة الطبيعة التقنية المتغيرة لهذه األنظمة.  المسؤولية التقصيرية: ُ ت عتبر المسؤولية التقصيرية في القانون الجزائري أداة لتعويض الضرر الناتج عن فعل ضار مخالف للقانون أو للقواعد العامة للسالمة، وهي قائمة على أساس تعويض المتضرر عن الخسائر التي لحقت به، كما جاء في المواد 131 و 132 و 140 من القانون المدني الجزائري. ومع تطور التكنو لوجيا وظهور أنظمة الذكاء االصطناعي، برزت تحديات كبيرة أمام تطبيق قواعد المسؤولية التقليدية، نظرًا الستقاللية هذه األنظمة في اتخاذ القرارات وقدرتها على إحداث أضرار دون تدخل مباشر من المستخدم البشري. 23 معوش رضا ، حماية المستهلك من الشوط التعسفية ، رسالة مقدمة لنيل شهادة الماجستير تخصص قانون العقود ، كلية الحقوق والعلوم السياس ي ة ، جامعة مولود معمري ، تزي وزو ، الجزائر ، 0215 - 0212 ، ص 42 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 237 - مسؤولية المستخدم أو المتحكم : ينص القانون المدني الجزائري على مسؤولية الشخص عن أعمال تابعه أثناء تأديته لمهامه (المواد 131 و 132 و 140 ). إال أن الذكاء االصطناعي ال يمكن اعتباره تابعًا تقليديًا تحت سلطة فعلية للمستخدم، إذ قد يتصرف بشكل مستقل عن اإلشراف المباشر، ما يجعل تحميل المستخدم المسؤولية أمرًا صعب التطبيق عمل يًا. ورغم ذلك، يظل من الضروري أن يلتزم المستخدم باتخاذ التدابير الوقائية لمنع الضرر الناتج عن استعمال األنظمة الذكية، وفق مبدأ واجب العناية. - مسؤولية حارس الشيء: تنص المواد 131 و 132 و 140 على مسؤولية الحارس عن األضرار الناتجة عن األشياء التي تحت حيازته. ويمكن في بعض الحاالت اعتبار األنظمة الذكية "أشياءً" تحت حيازة المستخدم أو المؤسسة، إال أن استقاللية هذه األنظمة في اتخاذ القرار وصعوبة مراقبتها بشكل كامل تحد من فاعلية تطبيق هذا المبدأ التقليدي. - مسؤولية المنتج أو المطور: يشكل هذا الجانب الحل القانوني األكثر وضوحًا في التشريع الجزائري عند التعامل مع أضرار الذكاء االصطناعي. تنص المادة 124 فقرة 5 من القانون المدني على مسؤولية الشخص عن األضرار كات أو الناتجة عن األشياء أو المنتجات المعيبة. وبما أن األنظمة الذكية تُنتج وتُصمم بواسطة شر مطورين، فإن تحميلهم ال مسؤولية عن أي خلل أو عيب أدى إلى ضرر يُعد األساس القانوني األقوى لتعويض المتضررين. ويشمل ذلك األخطاء التقنية أو الثغرات في برمجة النظام، مع مراعاة الظروف التي حصل فيها الضرر وطبيعة استخدام النظام. - التحديات التطبيقية:

تكوك زوبيدة كوثر / زهدور 238 يواجه تطبيق المسؤولية التقصيرية على أنظمة الذكاء االصطناعي في الجزائر صعوبات متع ددة، أهمها تحديد مصدر الضرر بدقة بين المستخدم والمنتج، وتقييم مدى اإلشراف الفعلي المتاح للمستخدم، إضافة إلى صعوبة التمييز بين العيب التصميمي والخلل التقني. كما يستدعي األمر تكييفًا قانونيًا أعمق لتحقيق حماية فعا لة للمتضررين دون المساس بالتوازن بين التطور التكنولوجي والمسؤولي ة القانونية. ورغم أن التشريع الجزائري، ال سيما وفق أحكام القانون المدني، يوفّر أساسًا لتعويض األضرار الناتجة عن األنظمة الذكية من خالل مسؤولية المنتج المعيب، إال أن مسؤولية المستخدم أو الحار س كد ضرورة تطوير اإلطار التشريعي لمواكبة تطورات الذكاء تبقى محدودة بتوافر شروط خاصة. وهو ما يؤ االصطناعي مع الحفاظ على مبادئ العدالة والمسؤولية القانونية. 2.3 االتجاهات الحديثة لتأسيس المسؤولية المدنية : يشهد تطور الذكاء االصطناعي وتوسع مجاالت استخدامه بروز أنواع جديدة من األضرار لم تكن كشف محدودية األسس القائمة على الخطأ معروفة في ظل القواعد التقليدية للمسؤولية المدنية، وهو ما والعالقة السببية في تحقيق اإلنصاف. وأمام هذا القصور، اتجهت الدراسات القانونية واألنظمة الحديثة إلى تبني مقاربات بديلة ت كز على ضمان حق المتضرر في التعويض راعي خصوصية المخاطر التقنية، وتر العادل وجبر الضرر بصورة أكثر فعالية .  مساءلة أنظمة الذكاء االصطناعي وفق األسس المستحدثة : أمام قصور القواعد التقليدية للمسؤولية المدنية عن مجاراة التطور التكنولوجي السريع الذي أفرزته أنظمة الذكاء االصطناعي وتطبيقاتها، لجأ الفقه والتشريع إلى البحث عن أسس جديدة أكثر مرونة ومالءمة، تُيسر على المضرورين الحصول على حقوقهم في التعويض وجبر الضرر، دون إلزامهم بإثبات الخطأ أو عالقة السببية بدقة في كل الحاالت، فقد أثبت الواقع العملي أن الضرر يمكن أن يق ع دون إمكانية

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 239 تحديد الفاعل أو الخطأ بدقة، وهو ما جعل الفقهاء يطرحون فكرة المسؤولية الموضوعية أو ما يعرف بـ المسؤولية بدون خطأ، القائمة على مبدأي تحمل التبعة والمخاطر المستحدثة 24 . تقوم هذه المسؤولية على قاعدة الغنم بالغرم ، أي من ينتفع من نشاط معين عليه أن ي تحم ل تبعته إن تسبب بضرر، ويكفي المضرور إلثباتها أن يُثبت وقوع الضرر وعالقته بالنشاط أو النظام محل المساءلة. إال أن تطبيق هذه الفكرة على أنظمة الذكاء االصطناعي يصطدم بمسألة تعدد المتدخلين (المصنع، المبرمج، المستخدم، المشغل...) مما يجعل من الصعب تحديد من ي تحمل التعويض. ولهذا اتجهت كالنظام األوروبي، إلى فرض المسؤولية التضامنية بين هؤالء لتفادي ضياع حقوق بعض األنظمة المقارنة، المتضرر . ع أرسى أسسًا مشابهة تسمح بمرونة في مساءلة من يتسبب وفي القانون الجزائري، نجد أن المشر بضرر حتى دون إثبات الخطأ، إذ نصت الما دة 131 من القانون المدني على أن : " كل من تسبب بخطئه في ضرر للغير يلزم بتعويضه"، بينما نصت المادة 140 على مسؤولية حارس األشياء التي تستوجب رقابة خاصة، وهو ما يمكن أن يُستأنس به لمساءلة مستخدم أو مشغل النظام كما تقر المادة الذكي الذي ينطوي على خطر. 141 مسؤولي ة المتبوع عن أعمال تابعه، مما يفتح المجال إلعمالها في حالة استخدام أنظمة ذكية تخضع لتسيير أو إشراف جهة معينة . ا : حالة صعوبة إثبات الخطأ أو العيب رغم تحقق الضرر أوال يقوم أساس المسؤولية المدنية التقليدية على الخطأ الواجب إثباته، وهو ما أصبح غير ممكن في كثير م ن ح الفقه إعمال الحاالت التي تثيرها األنظمة الذكية بسبب استقاللها الذاتي في اتخاذ القرارات. ولهذا اقتر المسؤولية الموضوعية لتجاوز هذه العقبة، بحيث يكتفي المضرور بإثبات الفعل المسبب للضرر وعالقته بالنظام الذكي، دون الحاجة إلثبات الخطأ أو العيب 25 . 24 محمد صبري السعدي ، المرجع السابق ، ص 01 . 25 مها رمضان بطيخ ، مرج ع سابق ، ص 1545 .

تكوك زوبيدة كوثر / زهدور 240 وقد تبنت بع ض األنظمة المقارنة هذا االتجاه من خالل فرض المسؤولية التضامنية على كافة المتدخلين ع الجزائري مستقبال ً إلى التفكير في إدراج نصوص في تصميم وتشغيل النظام الذكي، وهو ما يدعو المشر خاصة بمساءلة جماعية أو تضامنية، انسجامًا مع ما أقره البرلمان األوروبي في مشروعاته التش ريعية بشأن الذكاء االصطناعي . ا: حالة األضرار الناتجة عن المخاطر المستحدثة ا ثاني ترتبط هذه الحالة باألنشطة الصناعية والتكنولوجية الحديثة، التي تخلق أخطارًا جديدة لم تكن معهودة في الفقه التقليدي، ما يجعل إثبات أسباب الضرر أو المسؤول عنه أمرًا بالغ الصعوب ة. و هنا تظهر أهمية المسؤولية على أساس المخاطر، حيث يُسأل من يستحدث نشاطًا ينطوي على خطر، حتى وإن لم يرتكب خطأ. وهذا ما يتماشى مع محتوى المادة 140 من القانون المدني الجزائري المتعلقة بحراسة األشياء، إذ يمكن أن يُعتبر النظام الذكي شيئًا تُمارس عليه الحراسة ا لقانونية 26 . ثالثاا: حالة األنشطة الخطيرة بطبيعتها ويقصد بها تلك األنشطة التي تتضمن خطرًا دائمًا ومتكررًا، كتشغيل أنظمة ذكاء اصطناعي في كبات ذاتية القيادة، حيث ترتفع احتماالت وقوع الضرر رغم المجاالت الطبية، العسكرية، أو في المر الحيطة. وفي مثل هذه الحاالت، يرى الفقه وجوب إرساء نظام خاص للمسؤولية يعفي المضرور من عبء اإلثبات، استنادًا إلى طبيعة النشاط ذاته 27 . وقد تبنى البرلمان األوروبي هذا المنحى، معتبرًا أن مشغل أنظمة الذكاء االصطناعي عالية الخطورة مسؤول مسؤولية مباشرة وموضوعية عن األضرار التي تتسبب فيها هذه ا ألنظمة أثناء تشغيلها، كونها تقع تحت سيطرته وإشرافه، وهو اتجاه ينسجم مع المبادئ العامة في التشريع الجزائري حول منافع وتبعات النشاط الخطِر . 26 محمد ابراهيم يسن ،" المسؤولية الموضوعية عن المخاطر المستحدثة – دراسة مقارنة – "، مجلة بنها للعلوم االنسانية ، جامعة بنها ، مصر ، المجلد 21 ، العدد 20 ، اكتوبر 0200 ،ص 71 - 75 . 27 حسن حسين البراوي ، مخاطر التطور بين قيام المسؤولية واالعفاء منه ا ، دار النهضة العربية ، القاهرة ، مصر ، 0225 ، ص 121 .

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 241 - إعمال قواعد المسؤولية الموضوعية على أضرار الذكاء االصطناعي : يشكل تطبيق المسؤولية الموضوعية على أضرار الذكاء االصطناعي ضرورة لمواكبة التحوالت التكنولوجية وحماية األفراد من كافية للتعامل مع المخاطر الجديدة. فالقواعد التقليدية، سواء العقدية أو التقصيرية، أصبحت غير ُ األضرار الناتجة عن األنشطة الذكية المستقلة. لذلك، ي سهل على المضرور الحصول على التعويض بمجرد تحقق الضرر، دون اشتراط إثبات الخطأ، بما يعزز العدالة واإلنصاف. وقد أكّد القضاء المعاصر هذا التوجه، معتبرًا أن من ينتفع من النظام الذكي يتحمل تبعاته ومخاطره، ما يجعل مساءلة المستخدمين أو مشغلي هذه األنظمة على أ ساس المسؤولية الموضوعية الحل األكثر مالءمة وواقعية في المرحلة الحالية. 2.2- كضابط للمسؤولية عن األضرار التقنية مبدأ الحيطة : مع انتشار األنظمة الذكية وتوسع استخدامها، برزت الحاجة إلى وسائل قانونية فعّالة لحماية الغير وضمان التعويض عن األضرار الناتجة عنها، نظرًا لصعوبة ضبط تصرفاتها واستقالليتها. في هذا اإلطار، يبرز مبدأ الحيطة كأداة قانونية استباقية تهدف إلى الكشف عن المخاطر واتخاذ اإلجراءات الوقائية قبل كدة، مع عكس عبء اإلثبات وفق القواعد القانونية وقوع الضرر، حتى في غياب أدلة مؤ . ويس تند المبدأ إلى تقي يم التأثيرات السلبية للنشاط قبل الشروع فيه، ويتيح إقامة المسؤولية المدنية عن األضرار التقنية على أساس استباق المخاطر بدل االقتصار على جبر الضرر بعد وقوعه . وقد كرّس التشريع الجزائري هذا المبدأ في عدة نصوص، أبرزها قانون حماية البيئة وقانون حماية المستهلك وقم ع الغش، بينما أقره التشريع الفرنسي صراحة في قانون بارنيي رقم 25 - 28 101 . ويستند 28 Loi n° 95-101 du 2 février 1995 relative au renforcement de la protection de l'environnement, JORF n° 29 du 03 février 1995, modifié par Décret n°99-630 du 21 juillet 1999.

تكوك زوبيدة كوثر / زهدور 242 تطبيقه إلى عنصرين رئيسيين: دراسة مدى التأثير لتقييم االنعكاسات السلبية ووضع اإلجراءات الوقائية المناسبة، وعكس عبء اإلثبات على القائم بالنشاط إلثبات عدم خطورة نشاطه على الغير . وتكت سب هذه اآلليات أهمية خاصة عند تطبيقها على أنظمة الذكاء االصطناعي، نظرًا لطبيعة أضرارها الجسيمة والمفاجئة، وصعوبة التحكم في قراراتها الذاتية، مما يجعل تقدير المخاطر ضرورة قانونية وتقنية. كما يمكن تعزيز فعالية التطبيق في الجزائر من خالل إنشاء هيئة وطنية متخصصة لإلشراف على نشاطات األنظمة الذكية، وتقييم المخاطر المرتبطة بها، واعتماد الدراسات االستشرافية، ومنح التراخيص وفق آليات دراسة التأثير وعكس عبء اإلثبات. وستضمن هذه الهيئة اتخاذ التدابير الوقائية المناسبة للحد من المخاطر، مع تحقيق التوازن بين المصلحة ا لعامة واالقتصاد الوطني، وتوجيه المستثمرين نح و استخدامات آمنة ألنظمة الذكاء االصطناعي. 1 . خ اتمة : شهد العالم في السنوات األخيرة تحوّال ً عميقًا بفعل التطور السريع للذكاء االصطناعي، الذي أثر على العالقات القانونية واالقتصادية واالجتماعية، بينما ظل القانون المدني الجزائري عاجزًا عن استيعاب ع الجزائري في الطبيعة المعقدة لألضرار الناتجة عن هذه األنظمة. فالمسؤولية المدنية كما أقرها المشر المادتين 104 و 155 كان الخطأ والضرر وعالقة السببية، وهي مفاهيم من القانون المدني تقوم على أر يصعب تطبيقها في البيئة الرق مية، حيث تتخذ األضرار طابعًا غير مألوف يتجاوز الفعل البشري الم باشر . وتبرز الحاجة إلصالح تشريعي شامل يوازن بين حماية المضرور وتشجيع االبتكار التكنولوجي، إذ أن اعتبار األنظمة الذكية مجرد "أشياء" أو "منتجات" يخضع استعمالها لقواعد الحراسة أو عيوب التصنيع

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 243 (ا لمواد 155 - 142 )، ال يتالءم مع استقالليتها وقدرتها على اتخاذ القرارات الذاتية، مما يُضعف إمكانية تطبيق المسؤولية التقليدية . ويُعد تطبيق المسؤولية الموضوعية حاليًا األنسب، على غرار ما ورد في المواد 104 و 155 من القانون المدني أو المسؤولية عن األشياء والحيوانات، لضمان تعويض المتضررين رغم صعوبة تحديد الفاعل الحقيقي بين المصنّع والمبرمج والمستعمل، بينما تبقى فكرة منح الشخصية القانونية أو استخدام "النائب اإلنساني" حلوال ً غير مناسبة ضمن التشريع الجزائري الحالي . ّع بوضع قواعد جديدة تراع وعليه، يُلزم المشر ي خصوصية األنظمة الذكية، وتضمن توازنًا بين االبت كار وحماية الحقوق الفردية، من خالل تحديث اإلطار التشريعي، استحداث نظم تأمين إلزامية، اعتماد آليات الصندوق األسود لتوثيق القرارات، ضبط حدود استقاللية األنظمة تحت الرقابة البشرية، وإعادة تعريف مفهوم الحارس أو ا لمسؤول بما يتوافق مع بيئة الذكاء االصطناعي . 2 . قائمة المراجع: ا لمؤلفات : - محمد حسين منصور ،نظرية الحق ، منشأة المعارف ، اإلسكندرية ، مصر ، 1221 . - محمد صبري السعدي ، ح القانون المدني الجزائري مصادر االلتزام شر – الواقعة القانونية ( العمل غ ير المشروع - شبه العقود – والقانون)، الجزء الثاني ،الطبعة الثانية ، دار الهدى للطباعة والنشر والتوزيع ، الجزائر ، 2004 . - ح مقدمة القانون المدني رمضان ابو السعود ، شر – نظرية العامة ل لحق - ، الطبعة األولى ، دار المطبوعات الجامعية ، اإلسكندرية ، مصر 1222 .

تكوك زوبيدة كوثر / زهدور 244 - فياللي علي ، االلتزامات : العمل المستحق للتعويض ، الطبعة الثانية ، موفم للنشر وال توزيع ، الجزائر ، 2002 . - جعفور محمد سعيد ، تصرفات ناقص األهلية المالية في القانون المدني الجزائري والفقه اإلسالمي ، دار هومة ، الجزائر ، 2002 . - ج الصدة ، اصول القانون ، الطبعة االولى ،دار النهضة العربية للطباعة والنشر والتوزيع ، عبد المنعم فر بيروت ، 1221 . - ح محمد صبري السعدي ، شر القانون المدني الجزائري النظرية العامة لاللتزامات مصادر االلتزام – التصرف القانوني العقد واالرادة المنفردة ، الجزء األول ، الطبعة الثانية ، دار الهدى للطباعة والنشر والتوزيع ، الجزائر ، 2004 . - حسن حسين البراوي ، مخاطر التطور بين قيام المسؤولية واالعفاء من ها ، دار النهضة العربية ، ا لقاهرة ، مصر ، 2001 . الرساالت واألطروحات : - معوش رضا ، حماية المستهلك من الشوط التعسفية ، رسالة مقدمة لنيل شهادة الماجستير تخصص قانون العقود ، كلية الحقوق والعلوم السياسية ، جامعة مولود معمري ، تزي وزو ، الجزائر ، 2015 - 2012 . Rodolphe Gelin, Olivier Guilhem, Le robot est- il l’avenir de l’homme ?, La Documentation Française, Paris, 2016, P. 8 المقاالت :

انعكاس خصوصية الذكاء االصطناعي في تحديد الطبيعة القانونية للمسؤولية المدنية 245 - محمد أحمد مشعل ، " الذكاء االصطناعي وآثاره على حرية التعبير في مواقع التواصل االجتماعي "،مجلة البحوث القانونية واالقتصادية ، كلية الحقوق ، جامعة منصورة ، مصر ، المجلد 11 ، العدد 22 ، سبتمبر 2021 . - مها رمضان بطيخ ،" المسؤولية المدنية عن أضرار أنظمة الذكاء االصطناعي – دراسة تحليلية مقا رنة – "، المجلة القانونية ، كلية الحقوق ، جامعة القاهرة ، مصر ، المجلد 2 ، العدد 5 ،ماي 2021 . - محمود سالمة الشريف، " المسؤو لية الجنائية لالنسآلة – دراسة ت أ صيلية مقارنة "، المجلة العربية لعلوم االمنية ، الرياض ، العربية السعودية ، المجلد 3 ، ا لعدد 1 ، 2021 . - هاري سوردين ، " الذكاء االصطناعي و القانون : لمحة عامة "، مجلة معهد دبي القضائي ، معهد دبي القضائي ، االمارات العربية المتحدة ، السنة الثامنة ، العدد 11 ، افريل 2020 . - همام القوصي ، اشكالية الشخص المسؤول عن تشغيل الروبوت ، دراسة تحليلية استشرافية في قواعد كز جيل البحث القانون المدني األوروبي الخاص بالروبوتات ، مجلة جيل االبحاث القانونية المعمقة ، مر العلمي ، البليدة ، العدد 25 ، اوت 2011 . - محمد عرفان الخطيب ، الذكاء االصطناعي والقانون – دراسة نقدية مقارنة في التشريعين المدني الفرنسي و الق طري – في ضوء القواعد االوروبية في قانون المدني لإلنسىآلة لعام 2012 والسياسة الصناعية األوروبية للذكاء االصطناعي و اإلنسآالت لعام 2012 "، مجلة الدراسات القانونية ، جامعة بيروت العربية ، لبنان ، المجلد 2020 ، العدد 2020 ، جوان 2021 . - محمد ابراهيم يسن ،" المسؤو لية الموضوعية عن المخاطر المستحدثة – دراسة مقارنة – "، مجلة بنها للعلوم االنسانية ، جامعة بنها ، مصر ، المجلد 01 ، العدد 02 ، اكتوبر 2022 . النصوص التنظيمية : - القوانين :

تكوك زوبيدة كوثر / زهدور 246 - القانون رقم 131 لسنة 1242 ، الصادر بقصر القبة في 2 رمضان 1322 الموافق ل 12 يوليو 1241 ، المعمول به اتداء من 15 اكتوبر 1242 ، المتعلق بالقانون المدني المصري ، ج .ر عدد 101 مكرر (أ). - القانون 02 - 03 خ المؤر 25 فبراير 2002 المتعلق بحماية المستهلك وقمع الغش ، ج.ر عدد 15 الصادرة في 1 مارس 2002 . - القانون المصري رقم 111 - 2011 المتعلق بحماية المستهلك ، الصادر بتاريخ 3 محرم 1440 الموافق ل 13 سبتمبر 2011 ، ج.ر عدد 32 ، الملغي للقانون 22 - 2002 . - Loi n° 95 - 101 du 2 février 1995 relative au renforcement de la protection de l'environnement, JORF n° 29 du 03 février 1995, modifié par Décret n°99 - 630 d u 21 juillet 1999 . - The European Parliamen t, Civil Law Rules on Robotics P8_TA(2017)0051, 16 February 2017 . - األوامر : - األمر رقم 25 - 51 خ في المؤر 22 سبتمبر 1225 المتضمن القانون المدني ، ج .ر عدد 21 الصادرة في 30 سبتمبر 1225 المعدل و المتمم بالقانون رقم 02 - 05 خ في المؤر 13 ماي 2002 ج.ر عدد 31 .