أولًا: ملخص تنفيذي
تتناول هذه الورقة سؤالًا أصبح حاضرًا في النقاش القانوني والحقوقي: كيف يمكن حماية الأفراد عندما يتسبب وكيل ذكاء اصطناعي في قرار أو فعل ضار، بينما لا يظهر شخص واحد بوصفه الفاعل المباشر؟ لم تعد المسألة متعلقة ببرنامج يقدم توصية يمكن قبولها أو رفضها فحسب، بل بأنظمة قادرة على التخطيط، واستخدام أدوات رقمية، وتنفيذ خطوات متتابعة، والتفاعل مع بيانات وواجهات ومنصات دون تدخل بشري مباشر في كل خطوة. في هذه البيئة، قد يتأثر مريض بقرار فرز أو توصية علاجية، أو مستهلك بقرار تعاقدي آلي، أو طالب أو عامل بتقييم خوارزمي، أو مواطن بترتيب استحقاق في خدمة عامة، ثم يجد نفسه أمام نظام غامض لا يعرف من صممه أو شغله أو منحه صلاحياته.
وتستند هذه الورقة إلى رؤية واضحة مفادها أن: استقلالية وكلاء الذكاء الاصطناعي لا تعني غياب المسؤولية. ولا يجوز أن تتحول الاستقلالية التقنية إلى حجة لخلق منطقة رمادية تضيع فيها حقوق المتضررين. المسؤولية يجب أن تظل موجهة إلى البشر والمؤسسات التي تطور هذه الأنظمة أو تشغلها أو تنتفع منها أو تمنحها صلاحيات مؤثرة. ويعني ذلك الانتقال من سؤال ضيق هو: هل أخطأ البرنامج؟ إلى سؤال أوسع وأكثر عدلًا: من كان يملك القدرة على الوقاية، أو السيطرة، أو المراجعة، أو الحد من الضرر؟
وتصبح القضية حقوقية لا تقنية فقط لأن الضرر الناتج عن الأنظمة الوكيلة يمس حقوقًا جوهرية: الخصوصية، والسلامة الجسدية، وعدم التمييز، والحق في المعرفة، والحق في التظلم، والحق في التعويض. كما أن المتضرر غالبًا لا يملك الأدلة اللازمة لإثبات الخطأ والسببية؛ فالسجلات، وبيانات التدريب، وتقارير الاختبار، وإعدادات النموذج، وسلاسل التحديث، تكون في يد الشركة أو الجهة العامة أو مقدم الخدمة. ومن دون قواعد للإفصاح وحفظ السجلات وتفسير القرارات، يصبح حق التقاضي حقًا شكليًا لا يمكن ممارسته بفاعلية.
تؤكد الورقة أن الحل لا يتمثل في منح الذكاء الاصطناعي شخصية قانونية مستقلة. فهذا الخيار قد يبعد المسؤولية عن مراكز القرار والربح والسيطرة، وقد يخلق كيانًا اعتباريًا بلا ذمة مالية حقيقية أو إرادة قانونية أو قدرة أخلاقية على تحمل اللوم. البديل الأجدر هو تطوير قواعد مدنية وتنظيمية توزع المسؤولية بين المطور، والمشغل، والمالك، والمستخدم المهني، ومزود البيانات، ومقدم البنية التقنية، بحسب درجة السيطرة والانتفاع والقدرة على منع الضرر.
توصي الورقة بإصدار قانون إطاري مصري للذكاء الاصطناعي قائم على المخاطر، يعرّف وكلاء الذكاء الاصطناعي والأنظمة عالية الخطورة، ويقرر صراحة أن هذه الأنظمة لا تتمتع بشخصية قانونية مستقلة، ويطور مفهوم حراسة الأشياء إلى حراسة وظيفية تشمل السيطرة على التصميم، والتشغيل، والصلاحيات، والتحديثات، والبيانات، والسجلات. كما توصي بإقرار حق المتضرر في الوصول إلى المعلومات اللازمة للإثبات، وتنظيم أوامر الإفصاح القضائي مع حماية الأسرار التجارية والبيانات الشخصية، وفرض التأمين الإجباري أو صندوق تعويض في الأضرار الجسيمة أو الجماعية.
وتدعو الورقة السلطة التنفيذية والجهات التنظيمية إلى إنشاء هيئة أو وحدة وطنية متخصصة لتنظيم الذكاء الاصطناعي، وإصدار أدلة قطاعية، واعتماد قاعدة عملية مفادها: لا قرار آلي مؤثر دون حق في تظلم بشري. كما تدعو القضاء إلى تفسير قواعد المسؤولية المدنية بما يستوعب الحراسة الوظيفية، وتخفيف عبء الإثبات على المتضرر من خلال الخبرة الفنية وأوامر تقديم المستندات. وتدعو الشركات ومطوري التكنولوجيا إلى إدماج المسؤولية في دورة حياة المنتج، وتوفير رقابة بشرية حقيقية، وتصميم آليات شكوى مفهومة، وعدم تسويق الأنظمة بما يتجاوز قدراتها الفعلية.
ثانيًا: مقدمة
يقصد بوكلاء الذكاء الاصطناعي، الأنظمة الرقمية التي لا تكتفي بإنتاج إجابة أو توصية، بل تستطيع تنفيذ مهمة مركبة عبر سلسلة من الخطوات. قد يبدأ الإنسان بطلب عام، مثل تحليل ملف طبي، أو إدارة إعلان، أو ترتيب طلبات، أو تنفيذ معاملة، ثم يتولى النظام اختيار بعض الخطوات، واستخدام أدوات مساعدة، واستدعاء بيانات، وإعادة المحاولة عند الفشل، وإنتاج نتيجة عملية قد تؤثر في مركز الشخص أو مصلحته.
هنا يجب التمييز بين نظام يقدم توصية ونظام وكيل ينفذ. النظام الذي يرشح خيارًا للطبيب أو الموظف أو المستخدم يظل أقرب إلى أداة مساعدة، ما دام القرار النهائي واضحًا ومسنودًا إلى إنسان يملك الوقت والفهم والسلطة للمراجعة. أما الوكيل فيتجاوز مرحلة النصيحة إلى مرحلة العمل: قد يرسل رسالة، أو يبرم خطوة تعاقدية، أو يغير ترتيب طلبات، أو يفعّل أداة، أو يحجب محتوى، أو يمرر معاملة، أو ينفذ أمرًا داخل منصة. كلما زادت المسافة بين الأمر البشري الأول والنتيجة النهائية، زادت صعوبة تحديد المسؤول إذا وقع الضرر.
لا تعني هذه الصعوبة أن القانون عاجز. لكنها تكشف أن القواعد التقليدية، التي صيغت حول فعل بشري مباشر أو شيء مادي واضح أو منتج مستقر، تحتاج إلى تطوير. وكيل الذكاء الاصطناعي ليس مجرد آلة في يد مالك واحد، وليس مجرد برنامج ثابت، وليس مجرد خدمة عابرة. إنه منظومة تتداخل فيها البيانات، والنموذج، والبنية السحابية، والتحديثات، والصلاحيات، والواجهة التي يتعامل معها المستخدم، والسياسات التي تحدد متى يتدخل الإنسان ومتى يترك النظام يعمل وحده.
من منظور حقوق الإنسان، لا يمكن التعامل مع هذه المسألة بوصفها نقاشًا هندسيًا. فالأنظمة الوكيلة قد تمس الحق في الخصوصية عندما تجمع بيانات من مصادر متعددة وتربطها بملفات شخصية. وقد تمس الحق في السلامة عندما تدخل في مجالات الصحة أو النقل أو البنية التحتية. وقد تمس الحق في عدم التمييز عندما تعتمد على بيانات تاريخية تحمل انحيازات اجتماعية أو اقتصادية. وقد تمس الحق في المعرفة عندما لا يعرف الفرد أن قرارًا آليًا أثر عليه. وقد تمس الحق في التظلم والتعويض عندما لا يستطيع المتضرر الوصول إلى سجل القرار أو فهم سبب الضرر.
تكتسب المسألة أهمية خاصة في السياق المصري مع اتساع استخدام النظم الرقمية في الخدمات الحكومية، والقطاع الصحي، والتمويل، والعمل، والتعليم، والتجارة الإلكترونية، والإدارة العامة. حتى قبل صدور قانون شامل للذكاء الاصطناعي، تتزايد احتمالات استخدام أدوات آلية في الفرز، والتقييم، والتصنيف، وإدارة المخاطر، وخدمة العملاء، وتحليل البيانات. وفي غياب قواعد واضحة، قد تتقدم الممارسة التقنية أسرع من الحماية القانونية، فيتحمل الأفراد نتائج قرارات لا يعرفون مصدرها ولا يملكون وسيلة فعالة للطعن عليها.
لا تكمن المشكلة في استخدام الذكاء الاصطناعي ذاته. فالتكنولوجيا قد تحسن جودة الخدمات، وتقلل التكاليف، وتوسع الوصول إلى المعرفة، وتدعم الأطباء والمعلمين والقضاة والإدارات العامة. المشكلة تظهر عندما تستخدم الأنظمة ذات الأثر العالي من دون شفافية، ومن دون تقييم أثر، ومن دون سجلات قابلة للمراجعة، ومن دون رقابة بشرية فعلية، ومن دون طريق واضح للإنصاف. عندها يتحول الابتكار من أداة لتحسين الحياة إلى وسيلة لنقل المخاطر إلى الأفراد الأضعف قدرة على الفهم والإثبات والمواجهة.
لذلك تدعو هذه الورقة إلى إطار مصري يوازن بين الابتكار وحماية الحقوق. فالهدف ليس تعطيل التكنولوجيا، بل جعلها قابلة للمساءلة. والغاية ليست تحميل الشركات أو الجهات العامة مسؤولية مطلقة عن كل خطأ، بل تحديد واجبات معقولة ومسبقة بحسب المخاطر، بحيث يعرف كل طرف ما يجب عليه فعله، ويعرف المتضرر أين يذهب إذا وقع الضرر.
ثالثًا: تحليل الإشكالية
تبدأ المشكلة من أن قواعد المسؤولية التقليدية تفترض، في كثير من الأحوال، فاعلًا يمكن تحديده بسهولة، وخطأً يمكن نسبته إلى هذا الفاعل، وعلاقة سببية يمكن إثباتها بين الخطأ والضرر. أما في بيئات الذكاء الاصطناعي الوكيلة، فقد يصدر الضرر من مسار مركب: نموذج تعلم من بيانات معينة، ثم تلقى تعليمات عامة، ثم استخدم أداة خارجية، ثم اتخذ خطوة لم يتوقعها المستخدم تفصيلًا، ثم تأثر بتحديث أو إعداد أمني أو قيد لم يكن ظاهرًا للمتضرر.
وتزداد حدة هذه المشكلة لأن الوكيل لا يعمل دائمًا كمرحلة مستقلة يمكن عزلها عن باقي النظام. فقد يكون جزءًا من منصة أكبر لإدارة العملاء، أو من نظام معلومات صحي، أو من بنية مصرفية، أو من خدمة عامة رقمية. في هذه الحالات لا يكون السؤال: من كتب السطر البرمجي الذي أدى إلى الضرر؟ بل: من قرر دمج النظام؟ ومن حدد البيانات؟ ومن وافق على مستوى المخاطر؟ ومن وضع حدود الاعتماد على المخرج؟ ومن كان ملزمًا بإيقاف النظام عند ظهور مؤشرات خلل؟
هذا التعقيد يضعف قدرة المتضرر على إثبات عناصر دعواه. فإذا رفض نظام آلي طلب خدمة، أو رتب شخصًا في درجة أدنى، أو قدم توصية مضرة، فقد لا يستطيع الفرد أن يعرف هل كان السبب في عيب بيانات، أم خطأ تصميم، أم إعدادات تشغيل، أم استخدام مهني غير حذر، أم نقص في الرقابة البشرية، أم خلل في البنية السحابية. والجهة التي تملك الإجابة هي غالبًا الجهة نفسها التي قد تكون مسؤولة عن الضرر أو حريصة على تقليل مسؤوليتها.
تتضاعف الصعوبة بسبب تعدد الأطراف. فالمطور يبني النموذج أو يدمجه في خدمة. والمشغل يحدد طريقة استخدامه في بيئة معينة. والمالك أو المؤسسة المنتفعة قد تقرر الصلاحيات والميزانية ومستوى الرقابة. والمستخدم المهني قد يعتمد على مخرجات النظام في قرار يمس فردًا. ومزود البيانات قد يقدم مجموعات بيانات ناقصة أو منحازة. ومقدم البنية السحابية قد يتحكم في أمن النظام واستقراره وسجلاته. في هذه السلسلة قد يدفع كل طرف بأن الضرر نشأ من مرحلة أخرى.
ومن ثم فإن غياب قواعد واضحة لا يؤدي فقط إلى فراغ نظري، بل إلى خطر عملي يتمثل في تبادل المسؤولية بين الأطراف. الشركة قد تقول إن المستخدم أساء استخدام النظام. والمستخدم المهني قد يقول إنه وثق في نظام معتمد. والجهة المالكة قد تقول إن العيب في النموذج. والمطور قد يقول إن العيب في البيانات أو في التشغيل. وبين هذه الدفوع قد يبقى المتضرر بلا تفسير، وبلا دليل، وبلا تعويض.
ولهذا تحتاج السياسة العامة إلى قاعدة توزيع لا تسمح بذوبان المسؤولية. ليست كل الأطراف مسؤولة بالقدر نفسه، لكن كل طرف يجب أن يسأل في حدود دوره وقدرته على السيطرة. فالمطور يسأل عن التصميم والاختبار والتحذيرات العامة، والمشغل يسأل عن ملاءمة النظام للسياق الذي نشر فيه، والمستخدم المهني يسأل عن الاعتماد غير النقدي على المخرجات في قرار مؤثر، والجهة المالكة تسأل عن سياسة المخاطر والرقابة والموارد. هذا التوزيع يحمي المتضرر من لعبة الإحالة المتبادلة، وفي الوقت نفسه يمنع تحميل طرف واحد عبئًا لا يخصه.
تظهر المشكلة أيضًا في معيار الخطأ. ففي الأنظمة التقليدية يمكن سؤال الطبيب أو السائق أو الموظف: هل اتبع معيار العناية الواجب؟ أما في الأنظمة الوكيلة، فالمعيار يجب أن يمتد إلى التصميم والاختبار والتوثيق والتحديث والرقابة. قد لا يكون الخطأ في القرار النهائي وحده، بل في السماح للنظام باتخاذ قرار مؤثر دون تدخل بشري، أو في منحه صلاحيات أوسع من اللازم، أو في إطلاقه في قطاع عالي الخطورة دون تقييم أثر، أو في عدم حفظ سجلات تمكن من مراجعة ما حدث.
أما السببية فتزداد تعقيدًا لأن النظام قد يكون احتماليًا ومتغيرًا. فالمخرج لا ينتج دائمًا عن قاعدة واحدة ثابتة، بل عن تفاعل بين بيانات ونموذج وسياق. وهذا لا يعني استحالة الإثبات، لكنه يتطلب قواعد مساعدة: سجلات تشغيل، وتقارير اختبار، وتوثيق للبيانات، وتحديد للصلاحيات، وسجل للتحديثات، وآليات خبرة فنية. من دون هذه الأدوات، يصبح عبء الإثبات أثقل من قدرة الفرد العادي، خاصة عندما يواجه مؤسسة تملك المعرفة والموارد.
يجب السياسة العامة الرشيدة أن تمنع هذا الاختلال. فلا يكفي أن يقال للمتضرر: ارفع دعوى وأثبت الخطأ. يجب أن ينشئ القانون شروطًا مسبقة تجعل الإثبات ممكنًا أصلًا. وهذا يشمل واجب حفظ السجلات، وواجب الإفصاح عن استخدام النظام، وواجب تقديم تفسير مفهوم للقرار المؤثر، وواجب تمكين الجهة القضائية أو التنظيمية من فحص الوثائق الفنية عند الحاجة. فحق التعويض لا يبدأ عند الحكم النهائي فقط، بل يبدأ من القدرة على معرفة ما حدث.
رابعًا: الإطار القانوني المصري الحالي
لا يوجد في مصر، حتى تاريخ هذه الورقة، قانون شامل ينظم الذكاء الاصطناعي أو وكلاءه بوصفهم فئة قانونية مستقلة. لكن ذلك لا يعني غياب كل أساس قانوني. فالقانون المصري يتضمن قواعد دستورية وجنائية ومدنية وحمائية يمكن البناء عليها. المشكلة أن هذه القواعد صيغت قبل ظهور الأنظمة الوكيلة بصورتها الحالية، ولذلك تحتاج إلى تفسير وتطوير وتشريع مكمل.
في المجال الجنائي، يعد مبدأ الشرعية الجنائية هو المبدأ الحاكم: لا جريمة ولا عقوبة إلا بناء على قانون. كما أن العقوبة شخصية، وأصل البراءة قائم، ولا يجوز افتراض الجريمة أو التوسع في القياس الجنائي لمجرد أن الضرر خطير أو أن التكنولوجيا معقدة. ولهذا لا يصح إسناد الجريمة إلى نظام ذكاء اصطناعي ذاته. فالجريمة، في بنيتها التقليدية، تفترض فعلًا أو امتناعًا من شخص، وركنًا معنويًا قد يكون قصدًا أو خطأ بحسب نوع الجريمة. والذكاء الاصطناعي، مهما بلغت قدرته على المحاكاة أو التخطيط، لا يملك إرادة قانونية أو وعيًا أخلاقيًا بالمعنى الذي تقوم عليه المسؤولية الجنائية.
ويترتب على ذلك أن استخدام الذكاء الاصطناعي لا ينبغي أن يؤدي إلى تجريم واسع وغامض. فإذا وقع ضرر جسيم، فالغضب العام قد يدفع إلى البحث عن مسؤول سريع، لكن العدالة الجنائية لا تقوم على الانطباع. يجب تحديد واجب قانوني محدد، وفعل أو امتناع محدد، ورابطة سببية معقولة، ودرجة من العلم أو الإهمال يقررها القانون. أما مجرد وجود نظام معقد في سلسلة الوقائع فلا يكفي بذاته لتأسيس اتهام جنائي.
غير أن رفض مساءلة النظام ذاته لا يعني إعفاء البشر والمؤسسات. يمكن مساءلة المستخدم إذا استخدم وكيلًا في ارتكاب فعل مجرم، مثل الاحتيال أو الاعتداء على الخصوصية أو اختراق نظام معلوماتي. ويمكن مساءلة المطور أو المشغل أو الشخص الاعتباري إذا توافر فعل أو امتناع واضح، مثل نشر نظام مع علم بخطر جسيم، أو تعطيل آليات أمان، أو مخالفة واجب قانوني محدد، أو إهمال جسيم في بيئة تتطلب رقابة. لكن هذا يقتضي دائمًا تحديد الفعل البشري أو المؤسسي والركن المعنوي، لا الاكتفاء بالقول إن النظام أخطأ.
وتبرز هنا أهمية الحذر من التوسع الجنائي. فالجرائم والعقوبات يجب أن تظل محددة وواضحة، ولا يجوز خلق مسؤولية جنائية غامضة بسبب صعوبة فهم النظام. الأفضل هو أن يضع المشرع واجبات واضحة في المجالات عالية الخطورة: واجب الترخيص أو التسجيل، واجب تقييم الأثر، واجب حفظ السجلات، واجب الإبلاغ عن الحوادث الجسيمة، وواجب الرقابة البشرية. عندها يمكن مساءلة من يخل بهذه الواجبات وفق نصوص محددة، بدلًا من ترك النيابة والقضاء أمام وقائع تقنية شديدة التعقيد من دون معيار قانوني.
في المسؤولية المدنية، توفر المادة 163 من القانون المدني قاعدة عامة مفادها أن كل خطأ سبب ضررًا للغير يلزم من ارتكبه بالتعويض. وتصلح هذه القاعدة لتطبيقات كثيرة عندما يمكن إثبات خطأ المطور أو المشغل أو المستخدم المهني أو المؤسسة. فالخطأ قد يكون في التصميم، أو الاختبار، أو التحذير، أو التدريب، أو المتابعة، أو منح صلاحيات مفرطة، أو تجاهل إشارات خطر. لكن إثبات هذا الخطأ يحتاج إلى معلومات لا تكون غالبًا في حوزة المتضرر.
كما تتيح قواعد مسؤولية حراسة الأشياء والآلات، وخاصة المادة 178 من القانون المدني، مدخلًا مهمًا. فهذه القواعد تقوم على أن من يتولى حراسة شيء تتطلب حراسته عناية خاصة، أو آلة ميكانيكية، يكون مسؤولًا عما تحدثه من ضرر إلا إذا أثبت السبب الأجنبي. وقد طورت المحاكم مفهوم الحراسة حول السيطرة الفعلية على الشيء والقدرة على توجيهه ورقابته. هذا المنطق يمكن أن يساعد في أضرار الذكاء الاصطناعي إذا فهمنا الحراسة فهمًا وظيفيًا لا ماديًا فقط.
ولا يعني تطوير الحراسة الوظيفية قلب عبء المسؤولية بلا حدود. المقصود هو الاعتراف بأن مصدر الخطر في النظم الرقمية لا يوجد دائمًا في جسم مادي ظاهر. فقد يكون الخطر في نموذج يتغير، أو في صلاحية ممنوحة للوكيل، أو في تحديث دفعه المطور، أو في قاعدة بيانات غير ممثلة، أو في غياب سجل يسمح بالمراجعة. فإذا كان القانون يعترف بالحراسة على الآلة الميكانيكية لأنها تحتاج إلى عناية خاصة، فمن المنطقي أن يعترف بحراسة منظومة رقمية عالية الأثر تحتاج إلى عناية أشد وأكثر تخصصًا.
الحراسة الوظيفية تعني أن الحارس في أنظمة الذكاء الاصطناعي ليس بالضرورة من يملك الجهاز أو الخادم ماديًا. الحارس هو من يملك السيطرة العملية على مصدر الخطر: من يحدد تصميم النظام، أو نطاق استخدامه، أو صلاحياته، أو تحديثاته، أو بياناته، أو سجلاته، أو شروط إيقافه. قد تكون الحراسة موزعة بين أكثر من طرف، وقد تختلف بحسب المرحلة. فمطور النموذج يسيطر على خصائص عامة، والمشغل يسيطر على سياق الاستخدام، والمستخدم المهني يسيطر على الاعتماد على المخرج في قرار معين.
هذا التطوير لا يكفي وحده، لكنه مهم كحل انتقالي حتى يصدر تنظيم خاص. فالقواعد الحالية لا تقدم تعريفًا للذكاء الاصطناعي، ولا تصنيفًا للمخاطر، ولا تحدد واجبات فنية، ولا تنظم الإفصاح عن السجلات، ولا تعالج البرمجيات والتحديثات والبيانات بوصفها مصادر ضرر. كما أن قواعد حماية المستهلك والمسؤولية عن المنتجات تحتاج إلى تحديث لتستوعب المنتجات الرقمية والخدمات المتغيرة بعد البيع أو بعد الاشتراك.
على مستوى حماية البيانات، يمثل قانون حماية البيانات الشخصية ولائحته التنفيذية تطورًا مهمًا في تنظيم المعالجة والالتزامات والرقابة. لكنه لا يغطي وحده كل أضرار وكلاء الذكاء الاصطناعي. فقد يقع الضرر من قرار آلي لا يعتمد فقط على بيانات شخصية، أو من خلل سلامة، أو من عيب منتج رقمي، أو من إخلال بالرقابة البشرية. لذلك يجب ربط حماية البيانات بإطار أوسع للمساءلة والتعويض.
خامسًا: الأثر الحقوقي لوكلاء الذكاء الاصطناعي
تتجلى خطورة وكلاء الذكاء الاصطناعي عندما ينتقلون من مجالات منخفضة الأثر إلى مجالات تمس الحقوق والحريات. في الصحة، قد تستخدم الأنظمة في الفرز أو التشخيص أو اقتراح العلاج أو ترتيب الأولويات. الخطر لا يتمثل في وجود أداة مساعدة للطبيب، بل في اعتماد المؤسسة على مخرج آلي دون تفسير كاف أو رقابة بشرية حقيقية، أو في عدم معرفة المريض أن قرارًا مؤثرًا في علاجه مر عبر نظام آلي.
في التمويل، قد تدخل الأنظمة في التصنيف الائتماني، وكشف الاحتيال، وإدارة المخاطر، والتداول، وتقديم المنتجات المالية. وهنا قد يؤدي خطأ أو انحياز إلى حرمان شخص من قرض، أو زيادة كلفة خدمة، أو تعرضه لمخاطر مالية لا يفهم مصدرها. كما أن وكلاء التداول أو الاستثمار قد ينفذون خطوات سريعة ومتتابعة، بما يجعل تحديد سبب الخسارة أو المسؤول عنها أكثر صعوبة.
في العمل والتعليم، قد تستخدم الأنظمة في الفرز الأولي للمتقدمين، وتقييم الأداء، وترتيب الأولويات، وتخصيص الفرص، وتحديد احتياجات التدريب. هذه الاستخدامات تمس فرص الحياة والعمل والترقي، وقد تعيد إنتاج أنماط تمييز قائمة إذا اعتمدت على بيانات منحازة أو معايير غير شفافة. ومن منظور حقوقي، يجب ألا يحرم شخص من فرصة عمل أو تعليم بسبب نظام لا يستطيع فهم منطقه أو الاعتراض عليه.
في الخدمات العامة، قد تستخدم الأنظمة في قبول الطلبات أو رفضها أو ترتيب الاستحقاق أو كشف المخالفات. وكلما كانت الخدمة ضرورية، زادت الحاجة إلى ضمانات. فالقرار الإداري المعتمد على الذكاء الاصطناعي يجب أن يظل خاضعًا لمبادئ المشروعية، والسببية، والمساواة، وإتاحة التظلم، وإمكانية الرقابة القضائية. لا يجوز أن تختفي السلطة الإدارية خلف نموذج أو مورد تقني.
في الخصوصية، لا يقتصر الخطر على جمع البيانات، بل يمتد إلى ربطها وتحليلها واستنتاج معلومات جديدة منها. قد يتعامل الوكيل مع رسائل، وسجلات، ومواقع، وتفضيلات، وبيانات مالية أو صحية أو مهنية. وكلما زادت صلاحياته، زاد خطر الاستخدام الزائد أو التسريب أو الاستنتاجات غير العادلة. لذلك يجب أن يقترن تشغيل الوكلاء بمبدأ تقليل البيانات والصلاحيات، وبحدود واضحة للاحتفاظ والمشاركة.
في حماية المستهلك، قد يتعاقد الفرد مع وكيل آلي أو يتلقى عرضًا أو قرارًا غير مفهوم. المشكلة أن المستهلك غالبًا لا يملك القدرة على فحص شروط الخدمة أو فهم حدود النظام أو معرفة هل يتعامل مع إنسان أم نظام آلي. ويجب أن يضمن القانون الإفصاح الواضح عن استخدام الوكلاء في التعاقد أو التسعير أو تقديم الخدمة، وأن يمنع الشروط التي تعفي الشركات من المسؤولية عن كل مخرج أو خطأ على نحو واسع وغير عادل.
ويمتد الأثر الحقوقي أيضًا إلى الحق في الكرامة وعدم المعاملة كملف بيانات فقط. فعندما تختزل المؤسسة الشخص في درجة ائتمانية أو مؤشر خطر أو تقييم احتمالي، قد تتجاهل ظروفًا فردية لا يلتقطها النظام. لا يعني ذلك رفض استخدام المؤشرات، بل يفرض وجود منفذ بشري للتصحيح، خاصة عندما تكون النتيجة حرمانًا من خدمة أو فرصة أو حق.
لذلك، يجب أن تتركز حقوق المتضرر حول خمسة ضمانات. أولًا، حقه في معرفة أن قرارًا آليًا أو مسارًا آليًا أثر عليه. ثانيًا، حقه في الحصول على تفسير مفهوم، لا كود برمجي معقد، يبين العوامل الرئيسية التي أدت إلى النتيجة. ثالثًا، حقه في تظلم بشري فعال أمام شخص يملك سلطة حقيقية لتعديل القرار أو إلغائه. رابعًا، حقه في تعويض عادل عند وقوع الضرر. خامسًا، حقه في عدم التعرض للتمييز الخوارزمي المباشر أو غير المباشر.
ولا تكون الرقابة البشرية حقيقية بمجرد وجود موظف يضغط زر الموافقة. الرقابة الفعالة تقتضي أن يمتلك الإنسان وقتًا كافيًا، وفهمًا مناسبًا، ومعلومات لازمة، وسلطة فعلية للتعديل أو الإيقاف، وحماية مؤسسية من الضغط الآلي أو التجاري. فإذا كان الموظف لا يستطيع مخالفة النظام عمليًا، أو لا يفهم أساس توصيته، أو يخشى المسؤولية عند الاعتراض عليه، فإن الرقابة تصبح شكلية ولا تحقق الغرض منها.
سادسًا: القانون المقارن والدروس المستفادة
تقدم التجارب المقارنة دروسًا مفيدة لمصر، بشرط عدم نقلها بصورة آلية. أهم هذه الدروس هو النهج القائم على المخاطر. فليس كل استخدام للذكاء الاصطناعي يحتاج إلى العبء التنظيمي نفسه. التطبيقات منخفضة الخطر يمكن أن تخضع لالتزامات أخف، بينما تحتاج الأنظمة التي تمس الصحة، والسلامة، والحقوق الأساسية، والخدمات العامة، والعمل، والتعليم، والتمويل إلى واجبات أشد.
في الاتحاد الأوروبي، يقدم قانون الذكاء الاصطناعي نموذجًا مهمًا لتنظيم قائم على المخاطر، مع تصنيف لبعض الممارسات المحظورة، وتنظيم للأنظمة عالية الخطورة، ومتطلبات تتعلق بإدارة المخاطر، وجودة البيانات، والتوثيق، وحفظ السجلات، والشفافية، والرقابة البشرية، والدقة، والمتانة، والأمن السيبراني. أهمية هذا النموذج ليست في نسخه حرفيًا، بل في إدراك أن التنظيم الجيد يبدأ قبل وقوع الضرر، عبر واجبات وقائية واضحة.
ومن أهم ما يمكن الاستفادة منه في هذا النهج أنه يحول المسؤولية من نقاش لاحق على الحادث إلى نظام إدارة مخاطر سابق عليه. فإذا فرض القانون تقييمًا للأثر، وتوثيقًا للبيانات، واختبارات للسلامة، وسجلات للتشغيل، فإن النزاع اللاحق يصبح أكثر قابلية للفهم والحسم. أما إذا تركت الأنظمة تعمل دون أثر مكتوب، فإن المحكمة والمتضرر والجهة التنظيمية سيحاولون إعادة بناء ما حدث بعد فوات الأوان.
كما يقدم التوجيه الأوروبي الجديد رقم 2024/2853 بشأن المسؤولية عن المنتجات المعيبة درسًا مهمًا لأنه يوسع تصور المنتج ليشمل البرمجيات والملفات الرقمية والتحديثات في سياقات معينة، ويعالج صعوبات الإثبات والإفصاح. هذا الاتجاه مهم لمصر لأن كثيرًا من أضرار الذكاء الاصطناعي لا تنتج من جهاز مادي، بل من برنامج أو تحديث أو خدمة رقمية أو بيانات. ومع ذلك، يجب التمييز بين هذا التوجيه، الذي دخل حيز النفاذ على مستوى الاتحاد الأوروبي مع منحه الدول الأعضاء مهلة لنقله إلى قوانينها الوطنية، وبين مقترح توجيه مسؤولية الذكاء الاصطناعي، الذي ظل مجرد مقترح تشريعي ولم يصبح قانونًا نافذًا، ثم سحبته المفوضية الأوروبية. هذا التمييز ضروري حتى لا تبنى السياسة العامة على وصف غير دقيق لحالة القانون المقارن.
وتقدم اللائحة العامة لحماية البيانات في الاتحاد الأوروبي درسًا آخر من خلال تنظيم القرارات القائمة حصرًا على المعالجة الآلية، بما في ذلك التنميط، متى ترتب عليها أثر قانوني على الشخص أو أثر مهم مشابه. ولا تكتفي اللائحة بحظر أو تقييد هذا النوع من القرارات في حالات معينة، بل تربطه أيضًا بحقوق إجرائية تتعلق بالشفافية، ومعرفة وجود معالجة آلية، والحصول على معلومات مفيدة عن المنطق المستخدم وأهمية المعالجة وآثارها المتوقعة. كما تشترط، في الحالات التي يسمح فيها بهذا النوع من القرارات، وجود ضمانات مناسبة، من بينها إمكانية التدخل البشري، وتمكين الشخص من إبداء وجهة نظره، والطعن في القرار. وحتى إذا اختلف السياق المصري، تظل الفكرة الأساسية مهمة: القرار الآلي المؤثر في الحقوق أو المصالح الجوهرية للأفراد يجب ألا يكون صندوقًا مغلقًا، بل ينبغي أن يقترن بضمانات إجرائية تجعل الشخص قادرًا على الفهم والاعتراض وطلب المراجعة.
في الولايات المتحدة، يظهر اتجاه قطاعي وولائي أكثر منه قانون اتحادي شامل للذكاء الاصطناعي. وتُعد تجربة كولورادو مثالًا دالًا على هذا المسار؛ فقد اتجهت الولاية أولًا إلى قانون ينظم أنظمة الذكاء الاصطناعي عالية المخاطر ويركز على واجبات المطورين والمستخدمين ومخاطر التمييز الخوارزمي، ثم أعادت في 2026 صياغة هذا الإطار في قانون أضيق نطاقًا يركز على تقنيات اتخاذ القرار الآلي المستخدمة في القرارات الجوهرية التي تمس الأفراد، مثل بعض قرارات التعليم والعمل والإسكان والائتمان والتأمين والرعاية الصحية والخدمات الحكومية الأساسية. ويكشف هذا التطور أن التنظيم في الولايات المتحدة يتقدم غالبًا عبر ولايات أو قطاعات محددة قبل أن يتشكل إطار اتحادي شامل، كما يوضح في الوقت نفسه مخاطر التباين التشريعي إذا اختلفت الحماية باختلاف الولاية أو الجهة أو السوق. ومن ثم، فإن الدرس الأهم لمصر ليس نقل نموذج ولاية بعينها، بل الانتباه إلى ضرورة بناء قواعد متسقة تضمن حدًا أدنى موحدًا من الحماية، خاصة في القرارات الآلية المؤثرة في الحقوق والمصالح الأساسية للأفراد.
في المملكة المتحدة، يقوم النهج المعلن على تشجيع الابتكار والمرونة والتنظيم القطاعي القائم على المبادئ، من خلال توجيه الجهات التنظيمية القائمة إلى تطبيق مبادئ مشتركة داخل نطاق اختصاص كل منها، بدل إصدار قانون شامل واحد للذكاء الاصطناعي. ميزة هذا النهج أنه يتجنب الإفراط المبكر في التنظيم، لكنه يحمل خطر التشتت إذا لم تحصل الجهات التنظيمية على صلاحيات وأدوات واضحة. والدرس لمصر أن الأدلة القطاعية مفيدة، لكنها لا تكفي وحدها في مسائل المسؤولية والتعويض والوصول إلى الأدلة.
في كندا، ظهر مشروع قانون الذكاء الاصطناعي والبيانات ضمن حزمة تشريعية أوسع بوصفه محاولة اتحادية لتنظيم الأنظمة عالية الأثر، لكنه لم يصبح قانونًا نافذًا بعد انتهاء مساره التشريعي. ومع ذلك، تكشف هذه التجربة أن الأفكار التنظيمية في مجال الذكاء الاصطناعي تحتاج إلى صياغة دقيقة، ونقاش عام واسع، وتحديد واضح للالتزامات والجهات المخاطبة بها، حتى لا تبقى عامة أو مثار خلاف واسع. أما اليابان، فقد قدمت نموذجًا يعتمد بدرجة أكبر على الإرشاد، والثقة، والمسؤولية الطوعية، من خلال إرشادات حكومية موجهة للأعمال وحوكمة قائمة على تشجيع الاستخدام الآمن والمسؤول للذكاء الاصطناعي. ورغم صدور قانون ياباني خاص بالذكاء الاصطناعي في 2025، فإنه يظل أقرب إلى إطار تشجيعي وتنسيقي يركز على المبادئ والخطط المؤسسية، أكثر من كونه نظامًا تفصيليًا للالتزامات والعقوبات. ويُظهر ذلك أن الإرشادات والمعايير الطوعية قد تكون مفيدة في دعم الامتثال وبناء ثقافة حوكمة، لكنها لا تغني عن قواعد ملزمة وواضحة في المجالات عالية الخطورة، خاصة عندما يتعلق الأمر بالمسؤولية، والتعويض، وحماية الحقوق الأساسية.
وفي الصين، توجد قواعد أكثر مباشرة بشأن خدمات الذكاء الاصطناعي التوليدي المقدمة للجمهور وخدمات التوصية الخوارزمية على الإنترنت، مع تركيز واضح على مسؤوليات مقدمي الخدمة، وإدارة المحتوى، وحماية البيانات الشخصية، والوسم أو الإفصاح عن المحتوى المولّد، والتقييمات الأمنية أو إجراءات التسجيل والإيداع في بعض الحالات، فضلًا عن إتاحة بعض آليات الشكوى وخيارات المستخدم. ويقدم هذا النموذج مثالًا على تنظيم أكثر تدخلًا ومباشرة، وإن كان مرتبطًا بسياقه السياسي والقانوني الخاص. وفي المقابل، تقدم بعض الدول العربية، مثل الإمارات والسعودية وقطر والبحرين، استراتيجيات وسياسات ومبادئ أو إرشادات أخلاقية للذكاء الاصطناعي، تهدف إلى بناء الوعي، وتشجيع الاستخدام المسؤول، وتطوير أطر الحوكمة. وتعد هذه الوثائق مهمة في دعم الامتثال الطوعي وبناء ثقافة مؤسسية حول الاستخدام الآمن والمسؤول للذكاء الاصطناعي، لكنها لا تكفي وحدها لضمان تعويض المتضررين، أو إلزام الجهات بالإفصاح عن الأدلة، أو فرض واجبات واضحة بشأن حفظ السجلات والتوثيق في الحالات عالية الخطورة.
الدروس العامة التي يمكن استخلاصها لمصر هي: ضرورة التصنيف القائم على المخاطر؛ فرض واجبات محددة على الأنظمة عالية الخطورة؛ جعل التوثيق والسجلات شرطًا للمساءلة؛ اعتبار الشفافية ضمانة للإنصاف؛ تعريف الرقابة البشرية تعريفًا عمليًا؛ إدماج أمن النظام ومتانته في المسؤولية؛ تحديث قواعد المنتجات لتشمل البرمجيات والتحديثات والبيانات؛ تسهيل الإثبات من خلال أوامر الإفصاح والقرائن؛ والنظر في التأمين وصناديق التعويض عندما تكون الأضرار جسيمة أو جماعية.\
سابعًا: الفجوات التشريعية والتنظيمية في مصر
الفجوة الأولى هي غياب تعريف قانوني واضح للذكاء الاصطناعي ووكلائه. من دون تعريف وظيفي، يصعب تحديد نطاق الالتزامات. وينبغي أن يركز التعريف على الاستقلالية، والمدخلات، والمخرجات، والقدرة على التأثير في بيئة رقمية أو مادية، لا على تقنية واحدة بعينها قد تتغير سريعًا.
الفجوة الثانية هي غياب تصنيف قائم على المخاطر. فالتنظيم الموحد لكل الأنظمة قد يكون عبئًا غير مبرر على الابتكار، بينما ترك الأنظمة عالية الأثر بلا واجبات خاصة يضع الحقوق في خطر. المطلوب هو تصنيف يميز بين استخدامات منخفضة الخطر، واستخدامات محدودة الشفافية، وأنظمة عالية الخطورة، وممارسات ينبغي حظرها أو تقييدها بشدة.
الفجوة الثالثة هي غياب واجبات محددة على المطورين والمشغلين والمستخدمين المهنيين. القواعد العامة لا تكفي لتحديد ما يجب على كل طرف فعله. يجب تحديد واجبات التصميم الآمن، والاختبار، والتوثيق، والتحذير، والتحديث، والإبلاغ عن الحوادث، والرقابة البشرية، وتدريب العاملين، وحفظ السجلات.
الفجوة الرابعة هي صعوبة حصول المتضرر على الأدلة والسجلات. فإذا لم توجد قواعد لحفظ سجل التشغيل وسلسلة القرار والتحديثات والإعدادات، يصبح التحقيق في الضرر مستحيلًا أو شديد الكلفة. ويجب أن يكون الامتناع غير المبرر عن حفظ أو تقديم السجلات قرينة مدنية ضد الجهة المسؤولة، مع مراعاة حماية الأسرار التجارية والبيانات الشخصية.
ولا ينبغي أن يفهم حق الوصول إلى الأدلة بوصفه حقًا مطلقًا في كشف أسرار الشركات أو بيانات أشخاص آخرين. المطلوب هو آلية متوازنة تسمح للقاضي أو الخبير أو الجهة التنظيمية بالاطلاع على المعلومات اللازمة، وربما تلخيصها أو حجب الأجزاء الحساسة منها، بحيث لا تستخدم السرية التجارية كدرع كامل ضد المساءلة، ولا تتحول الشفافية إلى انتهاك جديد للخصوصية.
الفجوة الخامسة هي غياب آليات خاصة للتأمين والتعويض في الأضرار الجسيمة أو الجماعية. بعض التطبيقات قد تسبب أضرارًا واسعة أو يصعب فيها تحديد مسؤول واحد بسرعة. في هذه الحالات، يمكن للتأمين الإجباري وصندوق التعويض أن يضمنا سرعة جبر الضرر، ثم يتركا مسألة توزيع العبء بين الأطراف لاحقًا.
الفجوة السادسة هي ضعف التنظيم المؤسسي المتخصص. تنظيم الذكاء الاصطناعي يحتاج إلى معرفة قانونية وتقنية وحقوقية. ومن دون وحدة أو هيئة متخصصة، قد تتشتت المسؤولية بين جهات متعددة، ويضعف إصدار الأدلة، ومراجعة الأنظمة، وتلقي الشكاوى، وبناء الخبرة.
الفجوة السابعة هي غياب تعريف قانوني للرقابة البشرية الفعالة. قد تدعي جهة أنها توفر مراجعة بشرية، بينما يكون دور الإنسان شكليًا. يجب أن يحدد القانون عناصر الرقابة: المعرفة، والوقت، والسلطة، والتدريب، والقدرة على الإيقاف، وعدم التعرض لضغط مؤسسي يجعل الاعتراض غير واقعي.
الفجوة الثامنة هي مخاطر الشروط التعاقدية التي تعفي الشركات من المسؤولية. في كثير من الخدمات الرقمية، يوافق المستخدم على شروط طويلة ومعقدة. ويجب ألا يسمح القانون بإعفاء شامل من المسؤولية عن أضرار جسيمة أو عن إخلال بواجبات أساسية، خاصة في التعامل مع المستهلكين أو الفئات الأقل قدرة على التفاوض.
الفجوة التاسعة هي قصور قواعد حماية المستهلك والمسؤولية عن المنتجات أمام البرمجيات والتحديثات والبيانات. فالضرر قد لا ينشأ من جهاز مادي، بل من تحديث خاطئ، أو نموذج غير مختبر، أو بيانات منحازة، أو تكامل غير آمن. لذلك يجب تحديث مفهوم المنتج والعيب والتحذير والضمان ليتسع للواقع الرقمي.
الفجوة العاشرة هي نقص الشفافية في استخدام الأنظمة الآلية داخل الجهات العامة أو القطاعات المؤثرة في الحقوق. يجب أن يعرف الجمهور متى تستخدم الجهات العامة أنظمة آلية في قرارات تمس الأفراد، وما الغرض منها، وما ضمانات التظلم، وما نتائج تقييم الأثر الحقوقي. فالسرية غير المبررة في هذا المجال تضعف الثقة والمساءلة.
ثامنًا: المبادئ الحقوقية التي يجب أن تحكم تنظيم وكلاء الذكاء الاصطناعي
يجب أن يقوم أي إطار مصري على مبدأ الإنسان في مركز التنظيم. التكنولوجيا ليست غاية في ذاتها، بل وسيلة لخدمة الأفراد والمجتمع. لذلك يجب أن تقاس كفاءة النظام ليس فقط بسرعة المعالجة أو دقة التنبؤ، بل بقدرته على احترام الكرامة والخصوصية والمساواة والإنصاف.
المبدأ الثاني هو عدم تحويل الاستقلالية التقنية إلى إعفاء من المسؤولية. كلما زادت استقلالية النظام، زادت الحاجة إلى واجبات تصميم ورقابة وتوثيق، لا العكس. فلا يجوز أن يقول المطور أو المشغل إن النظام تصرف وحده، إذا كان هو من منحه الصلاحيات وأطلقه في بيئة خطرة وانتفع من نتائجه.
المبدأ الثالث هو الإفصاح والشفافية كضمانات للإنصاف. لا تعني الشفافية كشف كل سر تجاري أو كود برمجي، بل تعني أن يعرف الفرد أن نظامًا آليًا استخدم في قرار مؤثر، وأن يحصل على تفسير مفهوم للعوامل الرئيسية، وأن تستطيع الجهات المختصة فحص الوثائق الفنية عند النزاع.
ويجب أن تكون الشفافية موجهة إلى جمهورها. فالمتضرر يحتاج إلى تفسير بلغة بسيطة يوضح لماذا تأثر مركزه، والقاضي يحتاج إلى مستندات تساعد على الإثبات، والجهة التنظيمية تحتاج إلى تقارير تفصيلية عن المخاطر والاختبارات، والباحثون والمجتمع المدني يحتاجون إلى بيانات عامة تسمح بمراقبة الأنماط من دون كشف معلومات شخصية. لذلك لا توجد شفافية واحدة، بل مستويات مختلفة تخدم غايات مختلفة.
المبدأ الرابع هو الوقاية قبل الضرر. في المجالات عالية الخطورة، لا يكفي انتظار وقوع الضرر ثم البحث عن تعويض. يجب فرض تقييم أثر، واختبارات سلامة، وتدابير أمن، وخطط تدخل بشري، ومراجعة دورية. الوقاية هنا أقل كلفة وأكثر عدلًا من التعويض المتأخر.
المبدأ الخامس هو التناسب وعدم إعاقة الابتكار منخفض الخطر. يجب ألا تتحول القواعد إلى عبء عام على كل مطور صغير أو استخدام محدود. التنظيم الذكي يفرق بين أداة كتابة منخفضة الأثر ونظام يقرر أهلية شخص للحصول على خدمة أساسية أو علاج أو فرصة عمل.
المبدأ السادس هو حماية الفئات الهشة. الفقراء، والأطفال، والمرضى، وذوو الإعاقة، والعمال ذوو التفاوض الضعيف، والمستهلكون الأقل معرفة رقمية، هم الأكثر عرضة لتحمل آثار القرارات الغامضة. لذلك يجب أن تكون الضمانات أقوى كلما كان المتأثر أقل قدرة على الفهم أو الاعتراض.
المبدأ السابع هو حظر التمييز الخوارزمي. يجب منع التمييز المباشر وغير المباشر الناتج عن بيانات منحازة أو معايير بديلة تؤدي عمليًا إلى استبعاد فئات محمية. ولا يكفي قياس متوسط الدقة العامة؛ يجب اختبار أثر النظام على الفئات المختلفة.
المبدأ الثامن هو الحق في التظلم البشري. القرار الآلي المؤثر يجب أن يقابله طريق اعتراض أمام إنسان مؤهل يملك سلطة حقيقية. ولا يجوز أن يكون التظلم مجرد نموذج إلكتروني يعاد تمريره إلى النظام نفسه.
المبدأ التاسع هو الحق في التعويض الفعال. يجب أن يحصل المتضرر على جبر مناسب وسريع عندما يثبت الضرر، وأن لا يتحول تعقيد التقنية إلى مانع من الإنصاف. لذلك تعد قواعد الإفصاح والقرائن والتأمين جزءًا من الحق في التعويض.
المبدأ العاشر هو المساءلة المؤسسية وحفظ السجلات وقابلية المراجعة. لا يمكن مساءلة نظام لا يترك أثرًا قابلًا للفحص. ويجب أن تكون السجلات كافية لمعرفة من شغل النظام، ومتى، وبأي إعدادات، وبأي بيانات أو تحديثات، وما حدود الصلاحيات التي منحت له.
وأخيرًا، لا ينبغي الاكتفاء بالمواثيق الأخلاقية الطوعية في المجالات عالية الخطورة. المبادئ الأخلاقية مفيدة في التوجيه وبناء الثقافة المؤسسية، لكنها لا تكفي لحماية المتضررين أو إلزام الجهات بالإفصاح أو التعويض. حيث توجد مخاطر عالية على الحقوق، يجب أن توجد قواعد قانونية ملزمة.
تاسعًا: توصيات
1- توصيات للمشرع المصري
- إصدار قانون إطاري للذكاء الاصطناعي قائم على المخاطر، يميز بين الاستخدامات منخفضة الخطر والأنظمة عالية الخطورة والممارسات المحظورة أو المقيدة بشدة. وينبغي أن يكون القانون مرنًا بما يسمح بتحديث القوائم والمعايير دون تعديل تشريعي متكرر.
- تعريف وكلاء الذكاء الاصطناعي والأنظمة عالية الخطورة تعريفًا وظيفيًا واضحًا، مع التركيز على الاستقلالية، وقدرة النظام على التأثير في حقوق الأفراد أو سلامتهم أو فرصهم أو مراكزهم القانونية.
- النص صراحة على عدم منح الذكاء الاصطناعي شخصية قانونية مستقلة، وعلى أن المسؤولية تظل موجهة إلى الأشخاص الطبيعيين والاعتباريين الذين يطورون النظام أو يشغلونه أو يملكونه أو ينتفعون منه أو يمنحونه صلاحياته.
- إقرار مفهوم الحراسة الوظيفية في المسؤولية المدنية، بحيث تقوم الحراسة على السيطرة العملية على مصدر الخطر، لا على الملكية المادية وحدها. ويشمل ذلك السيطرة على التصميم، والبيانات، والتشغيل، والتحديثات، والصلاحيات، والسجلات.
- تحديد واجبات المطورين والمشغلين والمالكين والمستخدمين المهنيين، بما في ذلك واجبات تقييم المخاطر، والاختبار، والتوثيق، والتحذير، والتحديث الآمن، وحفظ السجلات، والتدخل البشري، والإبلاغ عن الحوادث الجسيمة.
- فرض التسجيل وتقييم الأثر للأنظمة عالية الخطورة قبل استخدامها في الصحة، والتمويل، والعمل، والتعليم، والخدمات العامة، وأي مجال آخر قد يمس الحقوق الأساسية أو السلامة.
- إقرار حق المتضرر في الوصول إلى المعلومات اللازمة للإثبات، وتنظيم أوامر الإفصاح القضائي بحيث تمكّن المحكمة من الاطلاع على السجلات والتقارير الفنية، مع وضع تدابير لحماية الأسرار التجارية والبيانات الشخصية.
- إقرار التأمين الإجباري للأنظمة عالية الخطورة، وإنشاء صندوق تعويض للأضرار الجسيمة أو الجماعية عندما يصعب تحديد المسؤول فورًا أو عندما يتجاوز الضرر قدرة المسؤول الفردي على التعويض.
- تقييد شروط الإعفاء الواسعة من المسؤولية، خاصة في عقود المستهلكين والخدمات الأساسية، واعتبار الشروط التي تعفي من الإخلال الجسيم بواجبات السلامة أو الشفافية أو الرقابة شروطًا غير عادلة.
- تحديث قواعد حماية المستهلك والمسؤولية عن المنتجات لتشمل البرمجيات، والتحديثات، والبيانات، والخوارزميات، والخدمات الرقمية المتغيرة، مع الاعتراف بأن العيب قد يكون في التصميم أو البيانات أو التحذير أو الأمن أو التحديث.
2. توصيات للسلطة التنفيذية والجهات التنظيمية
- إنشاء هيئة أو وحدة وطنية متخصصة لتنظيم الذكاء الاصطناعي تضم خبرات قانونية وتقنية وحقوقية، وتملك صلاحيات إصدار الأدلة، وتلقي البلاغات، ومراجعة تقييمات الأثر، والتنسيق مع الجهات القطاعية.
- إصدار أدلة قطاعية للصحة، والتمويل، والنقل، والتعليم، والعمل، والخدمات العامة، توضح معايير الاستخدام الآمن، والرقابة البشرية، وحفظ السجلات، وإخطار المتضررين، وإدارة الحوادث.
- اعتماد قاعدة تنظيمية واضحة: لا قرار آلي مؤثر دون حق في تظلم بشري. وينبغي أن تطبق هذه القاعدة خصوصًا في الخدمات العامة والقطاعات التي تمس الحقوق والفرص الأساسية.
- إلزام الجهات بحفظ سجلات تشغيل قابلة للمراجعة، تشمل وقت التشغيل، وإعدادات النظام، والصلاحيات، والمخرجات المؤثرة، والتدخلات البشرية، والتحديثات، والحوادث.
- نشر تقارير شفافية دورية عن استخدام الأنظمة الآلية في الجهات العامة والقطاعات المنظمة، تتضمن الأغراض العامة، وفئات القرارات، وعدد الشكاوى، ونتائج المعالجة، دون كشف بيانات شخصية.
- وضع نماذج موحدة لتقييم الأثر، والتظلم، وإخطار المتضررين، وسجلات التشغيل، بحيث لا تترك كل جهة لتصمم ضماناتها بمعزل عن الحد الأدنى الحقوقي.
- إلزام الجهات العامة بإجراء تقييم أثر حقوقي قبل استخدام الأنظمة الآلية في قرارات تمس الأفراد، على أن يشمل التقييم مخاطر التمييز، والخصوصية، والحرمان من الخدمة، وصعوبة التظلم.
3- توصيات للقضاء
- تطوير تفسير قواعد المسؤولية المدنية بما يستوعب الحراسة الوظيفية للأنظمة التقنية المعقدة، بحيث يسأل من يملك السيطرة الفعلية على مصدر الخطر ولو لم يكن مالكًا ماديًا للآلة أو الخادم.
- استخدام الخبرة الفنية وأوامر تقديم المستندات لتخفيف عبء الإثبات على المتضرر، خاصة عندما تكون السجلات أو تقارير الاختبار أو معلومات التحديث في حوزة المدعى عليه.
- تفسير شروط الإعفاء من المسؤولية تفسيرًا ضيقًا، خصوصًا عندما تصدر عن طرف أقوى اقتصاديًا أو معرفيًا، أو عندما تمس حقوقًا أساسية أو سلامة الأفراد.
- إخضاع القرارات الإدارية المعتمدة على الذكاء الاصطناعي لمبادئ المشروعية، والتسبيب، والمساواة، وإتاحة التظلم، وعدم قبول دفع الإدارة بأن القرار صادر عن نظام آلي على نحو يعفيها من الرقابة.
- عدم التوسع جنائيًا دون فعل أو امتناع بشري أو مؤسسي واضح، مع الحفاظ على مبدأ الشرعية وأصل البراءة وشخصية العقوبة.
- بناء خبرة قضائية وفنية في قراءة سجلات التشغيل وتقييمات الأثر وفهم حدود النماذج، من خلال برامج تدريب وسجلات خبراء متخصصين.
4- توصيات للشركات ومطوري التكنولوجيا
- إدماج المسؤولية في دورة حياة المنتج منذ التصميم، بحيث لا تؤجل أسئلة السلامة والشفافية والتظلم إلى ما بعد وقوع الضرر.
- تطبيق مبدأ الحد الأدنى من الصلاحيات، فلا يمنح الوكيل قدرة على الوصول أو التنفيذ إلا بقدر ما تقتضيه المهمة، ومع وجود حدود واضحة للإيقاف والمراجعة.
- توفير رقابة بشرية حقيقية في الأنظمة المؤثرة، مع تدريب المراجعين، ومنحهم وقتًا ومعلومات وسلطة فعلية لتعديل القرار أو وقف النظام.
- الاحتفاظ بسجلات تشغيل وتحديثات وحوادث، وتصميم النظام منذ البداية بحيث يكون قابلًا للمراجعة عند النزاع أو التحقيق.
- عدم المبالغة في تسويق قدرات الأنظمة أو تقديمها بوصفها بديلًا كاملًا عن الخبرة البشرية في مجالات تحتاج إلى تقدير مهني أو قانوني أو طبي.
- تقديم تحذيرات واضحة ومحددة عن حدود النظام، وأنواع الاستخدام غير الملائمة، والمخاطر المعروفة، ومتطلبات الرقابة البشرية.
- تصميم آليات شكوى وتظلم سهلة ومفهومة، لا تتطلب معرفة تقنية متقدمة، وتضمن ردًا بشريًا خلال مدة معقولة.
- اختبار أثر الأنظمة على الفئات المختلفة، وليس فقط متوسط الدقة العامة، لأن النظام قد يكون دقيقًا في المتوسط لكنه يضر فئة معينة بصورة غير عادلة.
عاشرًا: خاتمة
لا ينبغي أن يتحول الذكاء الاصطناعي إلى منطقة بلا مسؤولية. فالنظام الذي يخطط وينفذ ويتفاعل لا يعمل في فراغ؛ هناك من صممه، ومن دربه، ومن اختبره، ومن باعه، ومن شغله، ومن منحه صلاحياته، ومن انتفع من نتائجه. لذلك فإن السؤال الحقوقي ليس: كيف نعاقب الآلة؟ بل كيف نمنع ضياع حقوق الإنسان بين طبقات تقنية ومؤسسية متعددة؟
كما أن حماية الابتكار لا تتعارض مع حماية الحقوق. على العكس، فإن الثقة في التكنولوجيا لا تنشأ من الوعود التسويقية، بل من قواعد واضحة يعرف فيها المستخدم والمتضرر والمطور والمستثمر حدود المسؤولية. التنظيم الجيد لا يخنق الابتكار منخفض الخطر، بل يوجه الموارد الرقابية إلى الاستخدامات التي تمس السلامة والحقوق والحريات.
وبناء عليه، الطريق الأنسب لمصر هو تنظيم متدرج قائم على المخاطر، يجمع بين القانون المدني، والتنظيم القطاعي، وحماية البيانات، وحماية المستهلك، وآليات التعويض. ويجب أن يضع الإنسان في المركز، وأن يجعل الشفافية والإثبات والتظلم والرقابة البشرية حقوقًا عملية لا شعارات عامة.
قائمة المراجع
أولًا: تشريعات وقوانين مصرية
- الدستور المصري المعدل 2019، وخاصة المواد 95 و96.
https://manshurat.org/node/14675
-القانون المدني المصري الصادر بالقانون رقم 131 لسنة 1948، وخاصة المواد المتعلقة بالمسؤولية التقصيرية وحراسة الأشياء والآلات. https://ontheegyptianlaw.wordpress.com/2014/11/11/%D8%A7%D9%84%D9%82%D8%A7%D9%86%D9%88%D9%86-%D8%B1%D9%82%D9%85-131-%D9%84%D8%B3%D9%86%D8%A9-1948-%D8%A8%D8%A5%D8%B5%D8%AF%D8%A7%D8%B1-%D8%A7%D9%84%D9%82%D8%A7%D9%86%D9%88%D9%86-%D8%A7%D9%84%D9%85%D8%AF/
- قانون العقوبات المصري الصادر بالقانون رقم 58 لسنة 1937.
https://manshurat.org/node/14677
- القانون رقم 175 لسنة 2018 بشأن مكافحة جرائم تقنية المعلومات.
https://manshurat.org/node/31487
- القانون رقم 151 لسنة 2020 بشأن حماية البيانات الشخصية، واللائحة التنفيذية الصادرة بقرار وزير الاتصالات وتكنولوجيا المعلومات رقم 816 لسنة 2025.
https://manshurat.org/node/66932
- الميثاق المصري للذكاء الاصطناعي المسؤول، المجلس الوطني للذكاء الاصطناعي.
https://ai.gov.eg/SynchedFiles/ar/Resources/Egyptian%20Charter%20for%20Responsible%20AI_Ar.pdf
- الاستراتيجية الوطنية المصرية للذكاء الاصطناعي، الإصدار الثاني 2025-2030.
ثانيًا: أحكام ومبادئ قضائية مصرية
- المحكمة الدستورية العليا المصرية، الدعوى رقم 49 لسنة 17 قضائية، بشأن القصد الجنائي وضرورة استظهاره من عناصر الواقعة.
https://hrlibrary.umn.edu/arabic/Egypt-SCC-SC/Egypt-SCC-49-Y17.html
- مبادئ محكمة النقض المصرية بشأن مسؤولية حارس الأشياء والآلات الميكانيكية وفق المادة 178 من القانون المدني، والخطأ المفترض والسبب الأجنبي.
ثالثًا: وثائق ومعايير دولية
OECD AI Principles, adopted 2019 and updated 2024.-
https://oecd.ai/en/ai-principles
UNESCO Recommendation on the Ethics of Artificial Intelligence, 2021.-
https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence
Council of Europe Framework Convention on Artificial Intelligence and Human- Rights, Democracy and the Rule of Law, 2024.
UN General Assembly Resolution A/RES/78/265 on safe, secure and trustworthy- artificial intelligence systems.
https://docs.un.org/en/A/RES/78/265
رابعًا: تشريعات وتجارب مقارنة
Regulation (EU) 2024/1689, Artificial Intelligence Act.
https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Directive (EU) 2024/2853 on liability for defective products.
https://eur-lex.europa.eu/eli/dir/2024/2853/oj
Regulation (EU) 2016/679, General Data Protection Regulation, especially Article 22.
https://gdpr.eu/article-22-automated-individual-decision-making/
European Parliament Legislative Train, AI Liability Directive, withdrawal status 2025.
United States, Colorado SB24-205 Consumer Protections for Artificial Intelligence.
https://leg.colorado.gov/bills/sb24-205
United Kingdom, A pro-innovation approach to AI regulation, White Paper and government response.
https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach
Canada, Bill C-27 and Artificial Intelligence and Data Act materials.
https://www.parl.ca/legisinfo/en/bill/44-1/c-27
Japan, AI Guidelines for Business, METI/MIC, 2024.
https://www.meti.go.jp/english/press/2024/0419_002.html
China, Interim Measures for the Management of Generative Artificial Intelligence Services, 2023, and Algorithm Recommendation Provisions.
http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm
https://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm
UAE National Strategy for Artificial Intelligence 2031.
https://oecd.ai/en/dashboards/policy-initiatives/uae-national-strategy-for-ai-8711
SDAIA AI Ethics Principles, Saudi Arabia.
Qatar National AI Strategy and AI ethics guidance.
https://digital.nemko.com/regulations/ai-regulation-in-qatar
Bahrain National AI Policy and public AI governance materials.
https://www.iga.gov.bh/en/category/national-digital-policies
خامسًا: تقارير ومبادئ وسياسات ذات صلة
European Commission reports and policy papers on AI liability, product safety, and trustworthy AI.
https://ai-watch.ec.europa.eu/topics/trustworthy-ai_en
https://commission.europa.eu/system/files/2022-09/1_1_197605_prop_dir_ai_en.pdf
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Council of Europe and OECD policy reports on AI governance, accountability, and human rights.
https://www.coe.int/en/web/artificial-intelligence/home
https://oecd.ai/en/ai-principles
https://www.oecd.org/en/publications/governing-with-artificial-intelligence_795de142-en.html
المركز الاقليمى للحقوق و الحريات هى مؤسسة قانونية مصرية تأسست وفقا للاحكام القانون فى يناير 2016 على يد مجموعة من نشطاء حقوق الانسان الشباب حيث تضم مجموعة من المحامين و الباحثين و يعملون من اجل الدفاع عن حقوق الانسان فى مصر و الاقليم و الذين يتخذون من مبادئ حقوق الانسان مرجعا و من العمل السلمى منهجا لضمان حرية الفرد و كرامته . يسعى المركز للوصول إلى مجتمع منفتح وعادل يتيح حرية البحث عن المعلومات وخلق الأفكار وتلقيها والتعبير عنها وتبادلها مع الآخرين دون خوف أو تدخل ظالم من الدولة وذلك بتمكين أفراد المجتمع ومساعدتهم في الحصول على حقوقهم والتمتع بحرياتهم بتمثيل احتياجاتهم أمام الجهات المسؤولة والتأكيد على ضرورة الالتزام بحقوق الانسان وسيادة القانون.
روابط سريعة
ابق على اطلاع!
