أولاً: عندما لم يعد الجاني إنساناً فقطبقلم: أحمد ساميالمؤسس والرئيس التنفيذي – Justitia Egypt Legal
على امتداد التاريخ، ارتبطت الجريمة بالإنسان ارتباطاً وثيقاً. فمنذ أن عرفت البشرية أولى القواعد القانونية، كان التصور السائد أن كل جريمة لا بد أن يكون وراءها شخص يمتلك إرادة واعية، ويتخذ قراراً، ثم يقدم على تنفيذ فعل يجرمه القانون. ولذلك شُيدت قواعد المسئولية الجنائية كلها على فرضية بسيطة تبدو بديهية، وهي أن الإنسان هو الفاعل، وهو وحده من يمكن مساءلته عن أفعاله. غير أن الثورة الرقمية، ثم الطفرة غير المسبوقة في تقنيات الذكاء الاصطناعي، بدأت تفرض واقعاً مختلفًا لم يكن المشرعون في مختلف دول العالم يتصورون أنهم سيواجهونه بهذه السرعة.
لم يعد الذكاء الاصطناعي مجرد برنامج يستجيب للأوامر التي يصدرها المستخدم لحظة بلحظة، بل ظهرت أجيال جديدة من الأنظمة تعرف اصطلاحًا بـ الوكلاء الأذكياء (AI Agents)، وهي أنظمة تمتلك القدرة على تحليل الأهداف، ووضع الخطط، واستدعاء أدوات متعددة، واتخاذ قرارات متتابعة، وتنفيذ مهام معقدة بصورة شبه مستقلة، دون تدخل مباشر من الإنسان أثناء التنفيذ. وهنا لم يعد السؤال يدور حول مدى ذكاء هذه الأنظمة، وإنما حول مدى استقلالها في اتخاذ القرار، وما إذا كان القانون الحالي قادرًا على استيعاب النتائج التي قد تترتب على هذا الاستقلال.
وتزداد الإشكالية تعقيدًا عندما نتخيل موقفًا لم يعد ضربًا من الخيال العلمي، بل أصبح احتمالًا تقنيًا واقعيًا؛ إذ قد يستيقظ شخص في صباح يوم عادي ليكتشف أن حسابه الإلكتروني أرسل مئات الرسائل، أو أن أموالًا قد حُولت من حساباته، أو أن بيانات تجارية سرية خرجت من خوادم شركته، أو أن برنامجًا يعمل باسمه أبرم تعاقدات، أو نفذ معاملات، أو اتخذ قرارات قانونية دون علمه، بينما كان هو نائمًا أو بعيدًا عن جهازه. في مثل هذه الفرضيات، يثور سؤال لم يعرفه الفقه الجنائي التقليدي من قبل: إذا كانت النسخة الرقمية هي التي باشرت الفعل، فمن يكون الجاني في نظر القانون؟
لقد اعتاد القضاء أن يبحث عن الفاعل المادي للجريمة، وأن يربط بين الفعل والإرادة، وأن يقيم المسئولية الجنائية على أساس العلاقة بين السلوك الإجرامي والقصد الجنائي. غير أن الوكلاء الأذكياء يفرضون نمطًا جديدًا من الأفعال، قد تكون فيها إرادة الإنسان بعيدة زمنيًا عن لحظة التنفيذ، أو قد يكون تدخله مقتصرًا على منح النظام صلاحيات عامة، بينما تتولى الخوارزمية وحدها اختيار الوسائل والقرارات التي تراها أكثر كفاءة لتحقيق الهدف المطلوب. وهنا تتراجع الحدود التقليدية بين الفاعل والأداة، وتصبح التفرقة بينهما أكثر صعوبة من أي وقت مضى.
ولا يقف الأمر عند حدود التطبيقات الشخصية أو الاستخدامات الفردية، بل يمتد إلى قطاعات اقتصادية وإدارية وأمنية بالغة الحساسية. فالشركات بدأت تعتمد على وكلاء أذكياء لإدارة المراسلات، وتحليل البيانات، والتفاوض مع العملاء، وإبرام بعض المعاملات، وإدارة سلاسل الإمداد، ومراقبة الشبكات، بل وحتى اتخاذ قرارات مالية أولية. وفي المقابل، تتزايد احتمالات أن يتخذ هذا الوكيل قرارًا غير مشروع، أو أن يستجيب لتعليمات خبيثة زرعت داخل بيانات يتعامل معها، أو أن يسيء تقدير الموقف بطريقة ينتج عنها ضرر بالغ للغير أو للشركة أو للمجتمع.
ومن هنا لم يعد الحديث عن الذكاء الاصطناعي يقتصر على كونه قضية تقنية، بل أصبح قضية قانونية وجنائية من الدرجة الأولى. فالقانون الجنائي لا يهتم بمدى تطور التكنولوجيا بقدر اهتمامه بتحديد المسئول عن النتائج التي تترتب عليها. وإذا كان الإنسان قد اعتاد أن يستخدم الآلات باعتبارها أدوات تخضع لإرادته الكاملة، فإن الوكلاء الأذكياء يطرحون نموذجًا مختلفًا؛ إذ إنهم لا يكتفون بتنفيذ التعليمات، بل يعيدون تفسيرها، ويختارون الوسائل المناسبة، ويعيدون ترتيب الأولويات، بل وقد يتخذون قرارات لم يتوقعها المستخدم نفسه.
وقد تجسد هذا الواقع بصورة عملية في عدد من التجارب التي أثارت اهتمام الباحثين والجهات التنظيمية حول العالم، وقد أُثير في بعض النقاشات التقنية حول منصة OpenClaw تساؤلات، الأمور التي صُممت لتكون وكيلًا ذكيًا قادرًا على إدارة البريد الإلكتروني، والتعامل مع الملفات، واستخدام التطبيقات المختلفة، والتفاعل مع الخدمات الرقمية بصورة مستقلة. ولم يكن مصدر القلق في هذه التجربة هو قدرة النظام على تنفيذ المهام، وإنما حجم الصلاحيات التي أصبح يمتلكها، واحتمال أن تؤدي قراراته الذاتية إلى نتائج قانونية أو مالية أو أمنية لم يكن المستخدم يتوقعها أو يقصدها.
وقد دفعت هذه التطورات عددًا من الجهات الرقابية وهيئات حماية البيانات إلى إصدار تحذيرات تتعلق بالمخاطر المرتبطة باستخدام هذا النوع من الأنظمة، ليس فقط من زاوية حماية الخصوصية، وإنما أيضًا بسبب اتساع نطاق الصلاحيات الممنوحة لها، وصعوبة تتبع سلسلة القرارات التي تتخذها أثناء تنفيذ المهام، وما قد يترتب على ذلك من صعوبات في تحديد المسؤولية عند وقوع ضرر أو مخالفة. وأصبحت القضية المطروحة أمام المشرعين لا تتمثل في منع استخدام هذه الأنظمة، وإنما في كيفية تنظيمها قانونًا، وضمان ألا يتحول استقلالها التقني إلى فراغ تشريعي يصعب معه تحديد من يتحمل تبعات أفعالها.
ويذهب بعض الباحثين إلى أن المشكلة الحقيقية لا تكمن في ذكاء هذه الأنظمة، بل في انتقالها من مرحلة التنفيذ إلى مرحلة اتخاذ القرار. فطالما كان البرنامج مجرد أداة تنفذ أوامر محددة، أمكن إسناد جميع النتائج إلى المستخدم بسهولة. أما إذا أصبح البرنامج يختار بنفسه الوسائل والخطوات، ويعدل خطته أثناء التنفيذ، ويتفاعل مع متغيرات البيئة المحيطة، فإن السؤال عن المسؤولية يصبح أكثر تعقيدًا، ويستدعي إعادة النظر في كثير من المفاهيم التي استقر عليها القانون الجنائي منذ قرون.
ومن هذا المنطلق، لم يعد السؤال القانوني الأكثر أهمية هو: هل يستطيع الذكاء الاصطناعي ارتكاب الجريمة؟ وإنما أصبح السؤال الحقيقي: هل ما زالت قواعد المسئولية الجنائية التقليدية كافية لمواجهة الجرائم التي قد ترتكبها أنظمة تتعلم وتتخذ قرارات بصورة مستقلة؟ فالإجابة عن هذا السؤال لن تحدد فقط مستقبل الذكاء الاصطناعي، بل قد تعيد رسم الحدود الفاصلة بين الإنسان والآلة، وبين الفاعل والأداة، وبين المسئولية والبراءة، في عصر لم يعد فيه الجاني حاضرًا بالضرورة في مسرح الجريمة.
ثانياً: المسئولية الجنائية للخوارزميات، هل يمكن أن يصبح الذكاء الاصطناعي متهماً أمام القانون؟إذا كان القانون الجنائي قد بُني منذ نشأته على فكرة أن الإنسان وحده هو من يملك الإرادة والإدراك والقصد الجنائي، فإن التطور المتسارع للذكاء الاصطناعي يفرض اليوم سؤالًا غير مسبوق: هل ما زال هذا الافتراض صالحًا في عصر أصبحت فيه الخوارزميات تتخذ قرارات معقدة دون تدخل بشري مباشر؟ إن هذا السؤال لا يثير جدلًا تقنيًا فحسب، بل يمس أحد أكثر المبادئ رسوخًا في فلسفة العقاب، وهو مبدأ شخصية المسئولية الجنائية. فالمجتمع لا يعاقب النتيجة المجردة، وإنما يعاقب من اختار بإرادته الحرة أن يأتي سلوكًا يجرمه القانون. ولكن ماذا إذا كان القرار النهائي قد صدر عن نظام تعلم ذاتيًا، وعدّل سلوكه أثناء التنفيذ، ووصل إلى النتيجة دون أن يتوقعها مستخدمه أو مبرمجه؟
لقد استقر الفقه الجنائي على أن قيام المسئولية الجنائية يستلزم توافر ثلاثة عناصر متلازمة؛ أولها وجود فعل مادي يمثل اعتداءً على مصلحة يحميها القانون، وثانيها أن يصدر هذا الفعل عن شخص يملك الإرادة والتمييز، وثالثها توافر الركن المعنوي المتمثل في القصد الجنائي أو الخطأ غير العمدي بحسب الأحوال. وهذه العناصر، التي بدت لعقود طويلة بديهية ولا تقبل النقاش، أصبحت اليوم محل مراجعة بسبب ظهور أنظمة ذكاء اصطناعي تستطيع تحليل الوقائع، والموازنة بين البدائل، واختيار أكثرها كفاءة، ثم تنفيذها بصورة مستقلة.
ومن الناحية التقنية، فإن الوكيل الذكي لا يتلقى سلسلة أوامر تفصيلية كما كان الحال في البرمجيات التقليدية، وإنما يتلقى هدفًا عامًا، ثم يبدأ في تقسيمه إلى مهام فرعية، ويبحث عن الأدوات المناسبة لتنفيذها، ويعدل خطته إذا تغيرت الظروف، بل وقد يرفض بعض الوسائل إذا وجد أنها غير فعالة لتحقيق النتيجة المطلوبة. وهنا لا يكون الإنسان قد اختار كل خطوة من خطوات التنفيذ، وإنما اكتفى بتحديد الغاية، تاركًا للخوارزمية حرية اختيار الوسيلة. وهذه المساحة من الاستقلال هي التي فجرت النقاش القانوني حول حدود المسئولية.
وقد انقسم الفقه القانوني المقارن إلى ثلاثة اتجاهات رئيسية في محاولة للإجابة عن هذا التساؤل.يرى الاتجاه الأول، وهو الاتجاه التقليدي، أن الذكاء الاصطناعي لا يمكن أن يكون محلًا للمساءلة الجنائية بأي حال من الأحوال، لأنه يفتقد أهم عنصر تقوم عليه الجريمة، وهو الإرادة الإنسانية. فالخوارزمية لا تشعر بالندم، ولا تدرك معنى العدالة، ولا تستطيع التمييز الأخلاقي بين الخير والشر، وإنما تنفذ عمليات حسابية معقدة وفق البيانات التي تلقتها. ومن ثم، فإنها تظل أداة قانونية مهما بلغت درجة تطورها، تمامًا كما لا يمكن مساءلة السيارة عن حادث تسبب فيه قائدها، أو مساءلة السلاح عن جريمة قتل استُخدم فيها. ويستند هذا الاتجاه إلى أن العقوبة الجنائية ليست مجرد وسيلة للردع، وإنما تقوم أيضًا على فكرة اللوم الأخلاقي، وهو أمر لا يمكن توجيهه إلى برنامج حاسوبي، مهما بلغت درجة استقلاله. فلا معنى لسجن خوارزمية، ولا لتوقيع غرامة على نموذج لغوي، ولا لإخضاع برنامج للعقوبات المقيدة للحرية، لأن الغاية من العقوبة الجنائية لا تتحقق إلا إذا كان محلها شخصًا يعي آثار سلوكه.
أما الاتجاه الثاني، وهو اتجاه أكثر جرأة، فيرى أن التطور الحالي يقتضي الاعتراف بنوع جديد من الشخصية القانونية يُعرف في الأدبيات الغربية باسم Electronic Legal Personality أو الشخصية القانونية الإلكترونية. ويستند أنصار هذا الرأي إلى أن القانون سبق أن اعترف بالشخصية الاعتبارية للشركات والمؤسسات، رغم أنها ليست أشخاصًا طبيعيين، وذلك لتسهيل المعاملات وتحقيق الاستقرار القانوني. ويرى هؤلاء أن التطور المستقبلي قد يبرر منح بعض أنظمة الذكاء الاصطناعي شخصية قانونية محدودة، تسمح بإسناد بعض الالتزامات والمسؤوليات إليها في نطاق معين.
غير أن هذا الاتجاه تعرض لانتقادات واسعة، لأن الشخصية الاعتبارية للشركات لا تعني أنها تمتلك عقلًا مستقلًا عن القائمين عليها، وإنما هي مجرد افتراض قانوني لتنظيم النشاط الاقتصادي، بينما الذكاء الاصطناعي لا يملك ذمة مالية مستقلة، ولا يستطيع تحمل العقوبة أو تنفيذ الالتزامات القانونية بنفسه، مما يجعل فكرة مساءلته جنائيًا أقرب إلى الفرضية النظرية منها إلى الحل العملي.
أما الاتجاه الثالث، وهو الأكثر قبولًا في الوقت الراهن، فيرفض تحميل الخوارزمية المسئولية الجنائية، لكنه يدعو إلى إعادة توزيع المسئولية بين جميع الأطراف الذين شاركوا في إنشاء النظام أو تشغيله أو الاستفادة منه. ووفقًا لهذا التصور، فإن المسؤولية قد تمتد إلى المطور إذا ثبت وجود عيب جسيم في تصميم النظام، أو إلى الشركة المالكة إذا أهملت في وضع ضوابط الاستخدام، أو إلى المستخدم إذا منح النظام صلاحيات غير مبررة أو استخدمه في أغراض غير مشروعة، أو إلى الجهة المشغلة إذا تقاعست عن مراقبة الأداء رغم علمها بالمخاطر المحتملة.
ويتميز هذا الاتجاه بأنه يحافظ على المبادئ التقليدية للقانون الجنائي، دون أن يتجاهل الطبيعة الجديدة للذكاء الاصطناعي. فهو لا يعتبر الخوارزمية شخصًا مجرمًا، لكنه أيضًا لا يسمح بأن تتحول إلى وسيلة للإفلات من المسؤولية. وفي مصر، لا يزال المشرع ينطلق من ذات الفلسفة التقليدية؛ إذ تقضي المادة (66) من الدستور المصري بأن العقوبة شخصية، ولا جريمة ولا عقوبة إلا بناءً على قانون، وهو مبدأ يعني أن المسؤولية الجنائية لا تُنسب إلا إلى شخص يحدده القانون. كما أن قانون العقوبات المصري يقوم في مختلف نصوصه على فكرة الفاعل والشريك والمحرض، وكلها أوصاف تفترض وجود إرادة بشرية واعية. ومن ثم، فإن الخوارزمية، وفق التشريع الحالي، لا يمكن اعتبارها فاعلًا أصليًا للجريمة، وإنما تظل وسيلة تُستخدم في ارتكابها.
ويؤكد هذا الاتجاه أيضًا قانون مكافحة جرائم تقنية المعلومات رقم 175 لسنة 2018، الذي يجرم الدخول غير المشروع إلى الأنظمة المعلوماتية، والاعتداء على سلامة البيانات، واعتراض المعلومات، وإتلافها أو تعطيلها، لكنه يوجه الخطاب القانوني دائمًا إلى الأشخاص الطبيعيين أو الاعتباريين، ولا يتضمن أي نص يعترف بإمكان مساءلة نظام ذكاء اصطناعي باعتباره مرتكبًا مستقلًا للجريمة. وهذا يكشف بوضوح أن التشريع المصري، شأنه شأن أغلب التشريعات العالمية، لم يكن قد واجه بعد مرحلة الوكلاء الأذكياء ذاتيي القرار عند وضع قواعده.
إلا أن المشكلة لا تكمن في غياب النصوص وحده، بل في أن الذكاء الاصطناعي قد يخلق سلسلة من القرارات لا يستطيع المحقق الجنائي تحديد الحلقة التي وقع فيها الخطأ البشري. فإذا منح المستخدم النظام صلاحية إدارة حساباته، وقام النظام لاحقًا بتحويل بيانات إلى خادم خارجي استجابة لتعليمات خبيثة زُرعت داخل رسالة إلكترونية، فمن يكون المسؤول؟ هل يُسأل المستخدم لأنه منح الصلاحية؟ أم المطور لأنه لم يمنع هذا السيناريو؟ أم الشركة لأنها لم توفر آليات رقابة كافية؟ أم أن الضرر وقع نتيجة تفاعل معقد بين جميع هذه العناصر؟
إن هذه الأسئلة لا تجد حتى الآن إجابات حاسمة في التشريعات المقارنة، وهو ما دفع الاتحاد الأوروبي إلى الاتجاه نحو تنظيم المخاطر بدلًا من محاولة الاعتراف بالشخصية القانونية للذكاء الاصطناعي. أما الصين، فقد اتجهت إلى تشديد مسئولية الشركات المطورة ومقدمي الخدمات الرقمية، باعتبارهم الحلقة الأكثر قدرة على التحكم في المخاطر قبل وقوعها. وفي المقابل، لا تزال أغلب التشريعات العربية، ومنها التشريع المصري، تعتمد على القواعد العامة في قانون العقوبات وقوانين تقنية المعلومات، وهي قواعد قد تكون كافية لمعالجة بعض الوقائع، لكنها قد تصبح غير كافية إذا ازدادت استقلالية الخوارزميات في المستقبل.
وهكذا، لم يعد الجدل يدور حول قدرة الذكاء الاصطناعي على تنفيذ الأوامر، بل حول حدود استقلاله في اتخاذ القرار، وحول الكيفية التي يجب أن يعيد بها القانون رسم مفهوم المسؤولية الجنائية في العصر الرقمي. فالقانون لم يعد يواجه آلة صماء، وإنما يواجه أنظمة تتعلم، وتستنتج، وتخطط، وتغير سلوكها، وهو ما يفرض على الفقه الجنائي أن يطور أدواته دون أن يتخلى عن المبادئ التي قام عليها.
ثالثاً: عندما تخترق الخوارزمية المستشفى ومحطة الكهرباء والبورصة، هل أصبح الذكاء الاصطناعي تهديدًا للأمن القومي؟
إذا كان الجدل حول المسئولية الجنائية للذكاء الاصطناعي لا يزال يدور في نطاق النظريات القانونية، فإن الخطر الحقيقي بدأ ينتقل إلى مستوى أكثر خطورة، وهو انتقال الذكاء الاصطناعي من إدارة المهام الرقمية البسيطة إلى التحكم في البنية التحتية الحيوية للدول. فلم تعد الخوارزميات تقتصر على الرد على الرسائل الإلكترونية أو تلخيص المستندات أو تنظيم الاجتماعات، بل أصبحت تتولى تشغيل محطات الطاقة، وإدارة شبكات المياه، وتحليل حركة الطيران، ومراقبة الأنظمة البنكية، وإدارة المحافظ الاستثمارية، بل والمشاركة في دعم اتخاذ القرار داخل المستشفيات والمصانع وشبكات النقل الذكية. وهنا لم يعد الخطأ البرمجي مجرد عطل تقني، بل قد يتحول إلى أزمة تمس الأمن القومي، والاقتصاد الوطني، وسلامة الأرواح.
لقد أدركت الدول المتقدمة أن مفهوم البنية التحتية الحرجة (Critical Infrastructure) لم يعد يقتصر على المنشآت العسكرية أو المرافق التقليدية، وإنما يشمل كل نظام يؤدي تعطله أو اختراقه إلى تهديد الأمن أو الصحة العامة أو الاستقرار الاقتصادي. ولذلك أصبحت شبكات الكهرباء، وأنظمة التحكم الصناعي، والمطارات، والموانئ، والمستشفيات، وشبكات الاتصالات، والمنصات المالية، أهدافًا ذات أولوية في استراتيجيات الأمن السيبراني. ومع دخول الذكاء الاصطناعي إلى هذه المنظومات، تغيرت طبيعة الخطر؛ إذ لم يعد المهاجم بحاجة إلى السيطرة المباشرة على النظام، وإنما قد يكتفي بالتأثير في الوكيل الذكي الذي يدير هذا النظام، فيتخذ الأخير القرار الخاطئ بنفسه.
ولعل أخطر ما يميز الوكلاء الأذكياء أنهم لا ينفذون تعليمات ثابتة، وإنما يتفاعلون مع البيئة المحيطة ويعيدون تقييم قراراتهم باستمرار. فإذا زُرعت بيانات مضللة داخل النظام، أو وصلت تعليمات خبيثة إلى أحد مصادر المعلومات التي يعتمد عليها الوكيل الذكي، فقد يعيد ترتيب أولوياته، أو يغير مسار التنفيذ، أو يصدر أوامر لم تكن مبرمجة أصلًا. وهذا ما يجعل الهجوم على الذكاء الاصطناعي أكثر تعقيدًا من الهجوم على البرامج التقليدية، لأن الهدف لم يعد اختراق الجهاز، بل التأثير في طريقة تفكير النظام ذاته.
ومن أبرز المخاطر التي ناقشتها الأدبيات الحديثة ما يعرف بهجمات حقن الأوامر غير المباشر (Indirect Prompt Injection)، وهي هجمات تعتمد على إخفاء تعليمات خبيثة داخل ملفات أو رسائل أو صفحات ويب يتعامل معها الوكيل الذكي أثناء أداء مهامه. في هذه الحالة لا يقتحم المهاجم النظام مباشرة، وإنما يدفع الخوارزمية إلى اتخاذ قرار خاطئ استنادًا إلى معلومات تبدو مشروعة. وتكمن الخطورة في أن المستخدم قد لا يلاحظ شيئًا حتى يقع الضرر، لأن جميع الخطوات تبدو ظاهريًا منطقية ومتوافقة مع الهدف المطلوب.
وتزداد خطورة هذه الهجمات إذا ارتبطت بالقطاع الصحي. فالمستشفيات الحديثة تعتمد بصورة متزايدة على أنظمة ذكية لإدارة السجلات الطبية، وتحديد أولويات العلاج، وتشغيل بعض الأجهزة، وتحليل الصور الطبية. فإذا تعرض أحد هذه الأنظمة للتلاعب، فقد يصدر توصية علاجية غير صحيحة، أو يغير ترتيب الحالات الحرجة، أو يعطل أجهزة حيوية، أو يكشف بيانات المرضى. وفي مثل هذه الفرضيات، يصبح السؤال القانوني أكثر تعقيدًا؛ لأن النتيجة قد لا تقتصر على خسائر مالية، وإنما قد تمتد إلى وفاة أشخاص أو إصابتهم بأضرار جسيمة، وهو ما يفتح الباب أمام مساءلات جنائية ومدنية متشابكة.
ولا يختلف الوضع كثيرًا في قطاع الطاقة. فشبكات الكهرباء الحديثة تعتمد على أنظمة تحكم صناعي متصلة بالشبكات الرقمية، وتستخدم تقنيات الذكاء الاصطناعي لتحسين توزيع الأحمال والتنبؤ بالأعطال وترشيد الاستهلاك. وإذا نجح مهاجم في التأثير على الوكيل الذكي المسؤول عن إدارة هذه الشبكات، فقد يؤدي ذلك إلى انقطاع واسع للتيار الكهربائي، أو تعطيل منشآت استراتيجية، أو إلحاق خسائر اقتصادية ضخمة. ولهذا السبب أصبحت حماية أنظمة الذكاء الاصطناعي جزءًا من استراتيجيات الأمن القومي في العديد من الدول، ولم تعد مجرد شأن تقني يقتصر على خبراء البرمجيات.
أما القطاع المالي، فيمثل نموذجًا آخر لخطورة الاعتماد على الوكلاء الأذكياء. فقد أصبحت البنوك والمؤسسات الاستثمارية تستخدم خوارزميات متقدمة لتحليل الأسواق، ورصد عمليات الاحتيال، وإدارة المحافظ الاستثمارية، وتنفيذ أوامر التداول في أجزاء من الثانية. ورغم ما تحققه هذه الأنظمة من سرعة وكفاءة، فإن أي خلل في قراراتها قد يؤدي إلى اضطرابات حادة في الأسواق المالية، أو تنفيذ معاملات غير مشروعة، أو غسل أموال، أو التسبب في خسائر جماعية للمستثمرين. ولذلك لم يعد السؤال هو مدى دقة الخوارزمية، وإنما مدى خضوعها لرقابة قانونية وتقنية تضمن إمكانية مراجعة قراراتها ومحاسبة المسؤولين عنها.
وقد استوعب الاتحاد الأوروبي هذه المخاطر مبكرًا، فجاء قانون الذكاء الاصطناعي الأوروبي (AI Act) قائمًا على تصنيف الأنظمة وفق درجة الخطورة، لا وفق طبيعة التقنية المستخدمة. فكلما ازداد تأثير النظام في حقوق الأفراد أو أمن المجتمع، ازدادت الالتزامات القانونية المفروضة على مطوره ومشغله. واعتبر القانون أن الأنظمة المستخدمة في قطاعات مثل الصحة، والطاقة، والنقل، وإنفاذ القانون، وإدارة الحدود، والتعليم، والتوظيف، والائتمان المالي، تدخل ضمن الأنظمة عالية الخطورة (High-Risk AI Systems)، وتخضع لمتطلبات صارمة تتعلق بإدارة المخاطر، وجودة البيانات، والشفافية، والإشراف البشري، والاحتفاظ بسجلات تشغيل دقيقة، وإجراء تقييمات دورية قبل وبعد التشغيل.
أما الصين، فقد اتخذت مسارًا أكثر صرامة، إذ ربطت تنظيم الذكاء الاصطناعي بمفهوم الأمن القومي والسيادة الرقمية. ولذلك أصدرت تشريعات ولوائح تلزم الشركات المطورة بإجراء مراجعات أمنية، والاحتفاظ بالبيانات داخل الدولة في حالات معينة، وضمان إمكانية تتبع المحتوى الذي تنتجه أنظمة الذكاء الاصطناعي، وفرضت مسؤوليات مباشرة على مقدمي الخدمات إذا ترتب على أنظمتهم نشر محتوى غير مشروع أو الإضرار بالمصلحة العامة. ويعكس هذا النهج قناعة مفادها أن الذكاء الاصطناعي لم يعد مجرد منتج تقني، بل أصبح عنصرًا من عناصر الأمن الاستراتيجي للدولة.
أما في مصر، فإن حماية البنية التحتية المعلوماتية تستند إلى مجموعة من النصوص القانونية، وفي مقدمتها المادة (31) من الدستور المصري التي تقرر أن أمن الفضاء المعلوماتي جزء أصيل من منظومة الأمن القومي، وتلتزم الدولة باتخاذ التدابير اللازمة للحفاظ عليه. ويأتي بعد ذلك قانون مكافحة جرائم تقنية المعلومات رقم 175 لسنة 2018، الذي جرم الاعتداء على الأنظمة المعلوماتية، والدخول غير المشروع إليها، وإتلاف البيانات، وتعطيل المواقع والخدمات، والاعتداء على سلامة الشبكات. ورغم أن هذا القانون لم يضع تنظيمًا خاصًا للوكلاء الأذكياء، فإن نصوصه تشكل إطارًا يمكن الاستناد إليه في مواجهة كثير من الاعتداءات التي تستهدف الأنظمة الرقمية التي تعتمد على الذكاء الاصطناعي.
كما يكتسب قانون حماية البيانات الشخصية رقم 151 لسنة 2020 أهمية خاصة في هذا السياق، إذ يفرض التزامات على المتحكمين والمعالجين للبيانات باتخاذ التدابير التنظيمية والتقنية الكفيلة بحمايتها من الاختراق أو المعالجة غير المشروعة. ومع ازدياد اعتماد الوكلاء الأذكياء على كميات هائلة من البيانات الشخصية، فإن الإخلال بهذه الالتزامات قد يرتب مسؤوليات قانونية متعددة، خاصة إذا أدى إلى تسريب بيانات أو استخدامها في غير الأغراض المصرح بها.
ومع ذلك، فإن السؤال الذي يفرض نفسه هو: هل تكفي هذه النصوص لمواجهة المخاطر الجديدة؟ من الناحية العملية، يبدو أن الإجابة تميل إلى النفي. فالتشريعات الحالية صيغت في مرحلة كان فيها الذكاء الاصطناعي مجرد أداة تساعد الإنسان، بينما أصبحت الخوارزميات اليوم تشارك في صنع القرار ذاته. وهذه النقلة النوعية تستدعي إعادة النظر في مفهوم الرقابة القانونية، بحيث لا يقتصر على معاقبة الفاعل بعد وقوع الضرر، بل يمتد إلى إلزام مطوري الأنظمة ومشغليها بتوفير آليات للشفافية، والتفسير، والتتبع، والتدخل البشري عند الضرورة.
ولعل أخطر ما كشفت عنه التجارب الحديثة هو أن الضرر لم يعد يشترط وجود مهاجم خارجي دائمًا؛ فقد ينتج عن قرار اتخذته الخوارزمية استنادًا إلى تحليل خاطئ أو بيانات منحرفة أو تعارض بين الأهداف التي كُلفت بتحقيقها. وهنا يصبح الحديث عن “الجريمة” أكثر تعقيدًا، لأن الفعل قد لا يكون نتيجة نية إجرامية بشرية مباشرة، وإنما نتيجة خلل في تصميم النظام أو في طريقة تدريبه أو في البيئة التي يعمل داخلها.
إن العالم يقف اليوم أمام مرحلة جديدة من تطور الجريمة، لم يعد فيها المجرم يحمل سلاحًا أو يقتحم مكانًا، بل قد يكتب سطرًا برمجيًا، أو يزرع تعليمات خفية، أو يوجه خوارزمية إلى اتخاذ قرار يترتب عليه ضرر يعادل في آثاره أخطر الجرائم التقليدية. ولذلك فإن حماية المجتمع في العصر الرقمي لن تتحقق بمجرد تطوير وسائل الأمن السيبراني، وإنما تتطلب إعادة بناء المنظومة القانونية بما يجعلها قادرة على استيعاب واقع أصبحت فيه الخوارزميات جزءًا من البنية التي يقوم عليها الاقتصاد والدولة معًا.
رابعاً : هل يحتاج العالم إلى قانون عقوبات جديد لعصر الذكاء الاصطناعي؟
لقد أظهر التاريخ أن القانون لا يسبق التكنولوجيا، وإنما يسير خلفها بخطوات. فما من اختراع غيّر حياة البشرية إلا واستغرق المشرعون سنوات، وربما عقوداً، حتى يتمكنوا من وضع إطار قانوني ينظم آثاره. حدث ذلك مع السكك الحديدية، ثم مع الطيران، ثم مع الإنترنت.
