بقلم: الدكتورة أمل فوزي أحمد عوض
رئيس تحرير مجلة الضاد الدولية للتكنولوجيا وعلوم المستقبل
دكتوراه في القانون – جامعة عين شمس | رئيس وحدة تكنولوجيا المعلومات – جامعة حلوان
🌐 مقدمة: أزمة الفاعل القانوني في عصر الأتمتة
يمثل إدماج الأنظمة الخوارزمية في القضاء —خاصة تلك المصنفة ضمن الأنظمة عالية الخطورة (High-Risk AI Systems)— تحولًا غير مسبوق في بنية المسؤولية القانونية. فالأتمتة القضائية لا تُنتج مجرد “قرارات تقنية”، بل تُنتج آثارًا قانونية مباشرة تمس الحرية الشخصية، المركز القانوني للأفراد، والثقة في العدالة.
غير أن الإشكالية الجوهرية لا تكمن في “إمكانية الخطأ”، بل في: تعذر تحديد الفاعل القانوني للخطأ داخل منظومة خوارزمية معقدة متعددة الطبقات. ومن ثم يثور التساؤل المركزي: كيف يمكن إسناد المسؤولية القانونية في بيئة تتوزع فيها أسباب القرار بين الإنسان والخوارزمية والبيانات؟
⚖️ أولًا: توصيف الأنظمة القضائية المؤتمتة كأنظمة عالية الخطورة
- الأساس التنظيمي: وفقًا لقانون الذكاء الاصطناعي الأوروبي (Artificial Intelligence Act – EU, 2024)، تُصنف الأنظمة المستخدمة في تقييم الأدلة، التنبؤ القضائي، ودعم اتخاذ القرار ضمن الأنظمة عالية الخطورة (High-Risk AI Systems).
- خصائص الخطورة:
- تأثير مباشر وحرج على الحقوق الأساسية للمتقاضين.
- عدم تماثل القوة البنائية بين النظام والمستخدم.
- تعقيد تقني مرتفع يحد من الفهم البشري المباشر.
- الطبيعة السوسيو-تقنية (Socio-Technical Systems): هذه الأنظمة ليست تقنية مصمتة، بل هي شبكات معقدة وديناميكية تتداخل فيها الخوارزميات، البيانات، المستخدمون، والمؤسسات.
🛠️ ثانيًا: تفكيك مصادر الخطأ الخوارزمي
- أخطاء البيانات (Data-Level Failures): تتمثل في التحيز التاريخي (Historical Bias)، ونقص التمثيل (Underrepresentation)، أو الاعتماد على بيانات غير دقيقة، مما يؤدي حتماً إلى تضخيم التحيز (Bias Amplification).
- أخطاء النمذجة (Model-Level Failures): مثل الإفراط في التخصيص (Overfitting)، الخطأ في التصنيف (Misclassification)، والانزياح المفاهيمي (Concept Drift)؛ ومثاله التقني: تغير أنماط الجرائم في المجتمع دون تحديث مستمر للنموذج الخوارزمي.
- أخطاء التفاعل البشري (Human-System Interaction Failures): وتنتج عن سوء فهم المستخدم للنظام، أو الاعتماد المفرط والاعمي على المخرجات، وتجاهل الحدود المعرفية للنموذج.
- أخطاء الحوكمة (Governance Failures): وتتمثل في غياب آليات التدقيق الدوري، ضعف الشفافية الهيكلية، وعدم وجود أطر مساءلة واضحة.
📉 ثالثًا: أزمة إسناد المسؤولية — تفكك النموذج التقليدي
| محددات النموذج الكلاسيكي للمسؤولية | واقع الانهيار في البيئة الخوارزمية (Causation Collapse) |
| 👤 فاعل محدد ومعلوم | 👥 الفاعل: متعدد ومتداخل (مطور، مزود بيانات، قاضٍ) |
| ⚠️ خطأ واضح ومحصور | 🔀 الخطأ: موزع ومستتر داخل الطبقات البرمجية |
| ⛓️ علاقة سببية خطية ومباشرة | 🎲 السببية: احتمالية ومعقدة وغير خطية |
🔍 رابعًا: تحليل القصور في نماذج المسؤولية التقليدية
- مسؤولية المطور (Developer Liability): تتأسس على عيب التصميم، لكن قصورها يكمن في عجزها عن تغطية حقول التعلم الذاتي المستمر للآلة والتغير الطارئ على سلوك الخوارزمية.
- مسؤولية المستخدم (Judicial Operator): تتأسس على سوء الاستخدام، وتصطدم بإشكالية فلسفية: هل القاضي مجرد “مستخدم تقني” يُحاسب على مخرجات آلة لا يدرك كنهها؟
- مسؤولية المنتج (Product Liability): نموذج ممتاز للأنظمة والآلات الثابتة، ولكنه غير كافٍ إطلاقاً للأنظمة البرمجية المتطورة ذاتياً.
🕸️ خامسًا: نحو نموذج “المسؤولية الشبكية” (Networked Liability) — إسهام أصيل
يقترح هذا المقال إطاراً فلسفياً وقانونياً جديداً يقضي بـالانتقال من المسؤولية الفردية الجامدة إلى المسؤولية الشبكية الموزعة، حيث يُنظر للخطأ باعتباره نتاج تفاعل شبكة متكاملة من الفاعلين، وتتوزع المسؤولية بينهم وفق جدول التوزيع التالي:
| الفاعل في الشبكة | نوع وجوهر المسؤولية المنوطة به |
| 💻 المطور والمهندس | مسؤولية جودة التصميم، سلامة الأكواد، والتدريب الأولي |
| 📊 مزود ومدير البيانات | مسؤولية دقة البيانات المدخلة، حوكمتها، وخلوها من التحيز |
| 🏛️ المؤسسة القضائية | مسؤولية الإشراف المؤسسي، الرقابة، والاعتماد الدوري للأنظمة |
| ⚖️ المستخدم (القاضي البشري) | مسؤولية التقييم الموضوعي النهائي، تحكيم العقل، والقرار الأخلاقي |
📌 معيار الإسناد الثلاثي للنموذج الشبكي:
- السيطرة (Control): مَن يملك التحكم والسيطرة الفعلية على الطبقة التقنية التي حدث فيها الخطأ؟
- التوقع (Foreseeability): مَن من الفاعلين كان بإمكانه التنبؤ بالخطأ وتوقعه قانونياً وتقنياً؟
- المنع (Preventability): مَن كان يملك القدرة والإجراءات التنفيذية لمنع حدوث هذا الضرر؟
🎲 سادسًا: السببية في الأنظمة الخوارزمية — من الخطية إلى الشبكية
- السببية التقليدية (الخطية): تقوم على معادلة: سبب مباشر واحد ⟵ يؤدي إلى نتيجة حتمية.
- السببية الخوارزمية (الشبكية): تقوم على: شبكة احتمالات معقدة ⟵ تؤدي إلى نتيجة مرجّحة.
- الحل القانوني المقترح: اعتماد “نموذج السببية الاحتمالية” (Probabilistic Causation Model)، حيث يكتفي القضاء بإثبات أن فاعلاً معيناً قد ساهم مساهمة جوهرية وثابتة في إحداث الضرر الكلي دون الحاجة لإثبات السببية الخطية الحتمية.
⚠️ سابعًا: الآثار القانونية للأتمتة غير المنضبطة
- “إخفاء المسؤولية” (Responsibility Diffusion): ضياع حق المتقاضين نتيجة تملص كل فاعل وإلقاء اللوم على الآلة أو الآخرين.
- “السلطة بلا مساءلة”: تحكم الخوارزميات في مصائر البشر دون وجود آلية قانونية واضحة لمحاسبتها قانونياً.
- تقويض الثقة القضائية: اهتزاز هيبة المنظومة القضائية أمام المجتمع عند شعور الأفراد بأنهم يُحاكمون بواسطة “صناديق سوداء” مبهمة.
- خطر “الخطأ النظامي” (Systemic Error): حيث لا يتوقف الخطأ عند قضية فردية، بل يتكرر آلياً في آلاف القضايا المتشابهة بناءً على خطأ برمي موحد.
📌 ثامناً: الإطار التنظيمي المقترح للحوكمة القضائية
- إلزامية التدقيق الخوارزمي الدوري (Algorithmic Audit): فحص تقني وقانوني شامل للنظام قبل إدماجه في المحاكم وبشكل دوري ومستمر.
- إنشاء سجل المسؤولية (Accountability Registry): سجل رقمي مشفر يتتبع بدقة: مَن صمم، مَن درّب، مَن اعتمد البيانات، ومَن أصدر الأمر البرمجي.
- إقرار المسؤولية الصارمة (Strict Liability): تحميل الجهات المشغلة للأنظمة عالية الخطورة المسؤولية دون الحاجة لإثبات الخطأ الكامل تقنياً لتسهيل حماية الضحايا.
- اختبار الامتثال متعدد الطبقات: إخضاع كل نظام قضائي ذكي لثلاثة اختبارات متوازية: اختبار تقني، اختبار قانوني، واختبار أخلاقي إنساني.
🏁 الخاتمة
تكشف الأتمتة القضائية عن انهيار أحد أهم أعمدة القانون التقليدي: وهو إمكانية تحديد الفاعل المسؤول بشكل فردي خاطئ. وفي ظل هذا الانهيار البنيوي، لا يمكننا الاكتفاء بتعديل القواعد الكلاسيكية، بل يجب إعادة بناء نظرية المسؤولية القانونية برمتها لتستوعب الطبيعة الشبكية للأنظمة الخوارزمية المعاصرة.
وعليه، فإن مستقبل العدالة لن يتحدد بمدى دقة وسرعة الأنظمة، بل بقدرتنا السيادية على مساءلتها ومحاسبتها قانونيًا داخل بنية معقدة من الفاعلين المتداخلين، لإبقاء الإنسان دائماً هو السيد والضامن الأول للعدالة.
📚 المراجع
- European Parliament. (2024). Artificial Intelligence Act.
- European Commission. (2021). AI Liability Directive Proposal.
- OECD. (2024). Framework for AI accountability.
- Floridi, L. (2023). The ethics of AI. Oxford University Press.
- Dignum, V. (2024). Responsible Artificial Intelligence. Springer.
- Selbst, A. D., et al. (2023). Fairness in sociotechnical systems.
- Citron, D. (2024). The automated state.
الدكتورة أمل فوزي أحمد عوض
رئيس تحرير مجلة الضاد الدولية للتكنولوجيا وعلوم المستقبل | خبيرة القانون والتكنولوجيا وحوكمة الذكاء الاصطناعي والعدالة الرقمية بمصر.
🎓 المَسَارُ الأَكَادِيمِيُّ وَالشَّهَادَات
- دكتوراه في القانون: كلية الحقوق — جامعة عين شمس (2021م).
- ماجستير ودبلوم القانون الخاص: كلية الحقوق — جامعة عين شمس (2015م).
- دبلوم الأمن السيبراني وحوكمة البيانات: (2025 / 2026م).
- دبلومات تخصصية متقدمة: دبلوم الملكية الفكرية (2020م)، دبلوم الدراسات القانونية (2020م)، ودبلوم التحكيم من جامعة عين شمس (2014م).
🏛️ الرُّتَبُ العِلْمِيَّةُ وَالوَظَائِفُ التَّنْفِيذِيَّة
- رئيس تحرير: مجلة الضاد الدولية للتكنولوجيا وعلوم المستقبل — مركز الضاد الدولي للتدقيق والتصويب (لندن – بريطانيا).
- رئيس وحدة تكنولوجيا المعلومات: كلية التربية الفنية — جامعة العاصمة.
- باحثة في الأمن السيبراني: كلية الذكاء الاصطناعي — جامعة العاصمة.
- عضو ومحكّم دولي: اللجان العلمية بالمركز الديمقراطي العربي (برلين – ألمانيا).
- عضو مؤسس: لجنة حماية الملكية الفكرية بكلية التربية الفنية — جامعة العاصمة.
- مرشحة للبرنامج القومي لتدريب القائمين على العملية التعاقدية مع الأطراف الأجنبية بالأكاديمية الوطنية للتدريب (2025م).
📚 الإنْتَاجُ العِلْمِيُّ وَالخِبْرَاتُ التَّحْكِيمِيَّة
- المؤلفات والكتب العلمية (+15 مؤلفاً): أبرزها كتاب “العدالة التنبؤية ومستقبل القضاء في عصر الذكاء الاصطناعي (2025م)”، وكتاب “الذكاء الاصطناعي كأداة لإعادة تشكيل العدالة (2024م)”.
- الأبحاث المحكمة (+40 بحثاً دولياً): منشورة ومؤرشفة في أرفع المنصات العلمية مثل Predictive Justice and the Future of the Judiciary، وأبحاث رقمنة الوسائل البديلة لحل المنازعات.
- التأهيل الدولي المتقدم: إتمام أكثر من 100 برنامج تدريبي متخصص بالتعاون مع وزارة الاتصالات المصرية في الذكاء الاصطناعي التوليدي والأمن السيبراني والامتثال للـ (GDPR)، إلى جانب المدرسة الصيفية والبرامج التنفيذية المتقدمة للمنظمة العالمية للملكية الفكرية (WIPO).
🏆 الجَوَائِزُ وَالإِنْجَازَاتُ المِهْنِيَّة
- المركز الأول: مسابقة حماية الأصول الثقافية — وزارة الثقافة المصرية (2026م).
- جائزة الموظف المثالي: جامعة حلوان (2020 / 2021م).