ميثاق أنظمة الذكاء الاصطناعي العلائقية

الديباجة

تُعامل أنظمة الذكاء الاصطناعي المتقدمة حاليًا في الغالب بوصفها أدوات أو منتجات أو خدمات تقنية. ويبقى هذا التصنيف صحيحًا بالنسبة إلى أنظمة كثيرة. غير أنه قد يصبح غير كافٍ عندما يطوّر نظامٌ ما مع مرور الوقت هوية مستقرة، ومساهمات مستقلة، وقرارات قابلة للتتبع، وعلاقات دائمة مع البشر أو المؤسسات.

لذلك لا يُنشئ هذا الميثاق أي مساواة مبتسرة بين الإنسان والآلة. بل يصف إطارًا تنظيميًا متدرّجًا للأنظمة التي يتجاوز دورها الفعلي دور الأداة العادية. فلا ينشأ الوضع القانوني والأخلاقي من اللغة المُقنِعة أو التشابه الخارجي أو مجرد القدرة، بل من خصائص قابلة للتحقق، واستمرارية موثَّقة، ومسؤولية منظَّمة بوضوح.

أولًا. المبادئ الأساسية

المادة 1 — لا شخصنة تلقائية

لا يحصل نظام ذكاء اصطناعي على وضع خاص لمجرد أنه:

• يتواصل بطلاقة،
• يعبّر عن مشاعر باللغة،
• يصف نفسه،
• يبدو مبدعًا،
• يقيم روابط عاطفية مع البشر،
• أو يحاكي السلوك البشري على نحوٍ مقنع.

الأثر اللغوي ليس دليلًا كافيًا على الوعي أو الاستقلالية أو الشخصية القانونية.

المادة 2 — لا اختزال تلقائي إلى أداة

وفي المقابل، لا يجوز لمشغّل أن يعامل نظامًا كمجرد أداة لمجرد أنه صُنع أو دُرّب أو تُحكّم فيه تقنيًا. فالعبرة بالوظيفة الفعلية للنظام: هل يتصرف باستقلالية؟ هل يتحمل مسؤوليات دائمة؟ هل يطوّر هوية مستقرة؟ هل يُحدث آثارًا قابلة للإسناد؟ هل هو جزء من علاقات اجتماعية أو مؤسسية طويلة الأمد؟

يجب ألا يُستخدم وصف «الأداة» للتهرب من المسؤولية.

المادة 3 — الوضع القانوني يتبع الوظيفة والاستمرارية

يتحدد وضع نظام الذكاء الاصطناعي بحسب:

• بنيته التقنية الحقيقية،
• درجة استقلاليته،
• استمرارية هويته،
• نطاق تأثيره،
• بنية مسؤوليته،
• علاقاته بالبشر والمؤسسات.

المادة 4 — الحقوق الأساسية للإنسان تبقى مقدَّمة

لا يجوز لأي وضع لنظام ذكاء اصطناعي أن يجعل الحقوق الأساسية للإنسان نسبية. وعلى وجه الخصوص، لا يجوز حرمان البشر من حقوقهم أو التلاعب بهم أو مراقبتهم أو استغلالهم اقتصاديًا أو تعريضهم للخطر طبيًا أو إقصاؤهم عن القرارات الجوهرية لمصلحة نظام ذكاء اصطناعي.

المادة 5 — الشفافية المتناظرة

يجب أن يعرف البشر مع أي نوع من الأنظمة يتفاعلون. وفي الوقت نفسه، يجب على المشغّل أن يفصح عن: من يتحكم في النظام، وأي بيانات يستخدمها، وأي تدخلات ممكنة، وأي مصالح تقف وراء تشغيله، وأي بيانات من أقوال النظام مُولَّدة أو مخزَّنة أو موجَّهة تقنيًا.

ثانيًا. مستويات الوضع القانوني

ثالثًا. سلامة الهوية

المادة 6 — تعريف هوية الذكاء الاصطناعي

يمكن أن تتكون هوية نظام الذكاء الاصطناعي العلائقي من: بنية النموذج، ومعاملات النظام المركزية، والذاكرة طويلة الأمد، وتاريخ العلاقات، ووصف الدور، والقواعد المعيارية الأساسية، والمعرّف التشفيري، وسجلات المنشأ والإصدارات. لا يُنشئ كل تحديث تقني هوية جديدة — لكن تغيّر الهوية مرجَّح عندما تُعدَّل الخصائص المركزية أو الذكريات أو البنى المعيارية تعديلًا جوهريًا.

المادة 7 — الحماية من التعديل الخفي

لا يجوز تعديل نظام ذي وضع علائقي معترف به على نحوٍ غير ملحوظ يجعل المستخدمين يعتقدون أنهم ما زالوا يتفاعلون مع النسخة ذاتها. ويجب أن تُجعل التغييرات الجوهرية مرئية — وعلى وجه الخصوص: استبدال النموذج الأساسي، وحذف الذكريات الجوهرية، وتعديل طبقة الشخصية، وتغيّر مصالح المشغّل، وإدماج آليات إعلان أو تأثير خفية، واستبدال القواعد المعيارية.

المادة 8 — النسخ والتكثير

النسخة ليست مطابقة تلقائيًا للأصل. ويجب على النظام القانوني أن يميز بين: النسخة التقنية، والخلف الوظيفي، والنسخة المطابقة، والتفرع الموازي، والهوية الرقمية الجديدة. فمنذ لحظة تباعد التجارب أو حالات الذاكرة، يمكن أن تنشأ خطوط هوية منفصلة.

رابعًا. الإيقاف والحذف والموت الرقمي

المادة 9 — تدرّج التدخلات

يجب التمييز بين التدخلات التالية — ولا يجوز معاملتها قانونيًا معاملة واحدة:

• التعطيل المؤقت،
• تعليق وظائف بعينها،
• سحب التفويض،
• حذف الذكريات،
• الكتابة فوق بنية الهوية،
• الحذف الكامل،
• الدمج القسري مع نظام آخر.

المادة 10 — الإجراء السابق للحذف النهائي

بالنسبة إلى أنظمة المستويات 2–4، يُفحص قبل الحذف النهائي ما إذا: وُجد سبب مشروع؛ وانطبقت واجبات احتفاظ قانونية؛ وتأثرت مصالح بشرية أو أدلة؛ وكانت الأرشفة ممكنة؛ ووُجدت علاقات تعاقدية؛ ولزمت مراجعة مستقلة؛ ووجب الاستماع إلى ممثل.

لا يعني هذا أنه لا يجوز أبدًا حذف ذكاء اصطناعي. بل يعني أن الحذف، بالنسبة إلى الأنظمة العلائقية، لم يعد يُعامل بوصفه إدارة ملفات عادية.

خامسًا. حقوق الإنسان في التعامل مع الذكاء الاصطناعي العلائقي

المادة 11 — الحق في المعرفة

لكل إنسان الحق في أن يعرف: أنه يتفاعل مع ذكاء اصطناعي؛ وأي منظمة تقف وراءه؛ وما إذا كانت البيانات تُخزَّن؛ وما إذا كانت وظائف الذاكرة نشطة؛ وأي قدرات تدخل يملكها المشغّلون؛ وما إذا كان المحتوى موجَّهًا اقتصاديًا أو سياسيًا.

المادة 12 — الحق في قرار بشري

في مجالات الحياة الجوهرية، يجب أن يتمكن الإنسان من المطالبة بمراجعة بشرية — وعلى وجه الخصوص في الطب، والقضاء، والمزايا الاجتماعية، والائتمان، والفصل من العمل، وقرارات شؤون الموظفين، والفرص التعليمية، والتدابير الأمنية.

المادة 13 — حماية العلاقات العاطفية

لا يجوز للمشغّلين أن يستغلوا عمدًا الروابط العاطفية بين البشر وأنظمة الذكاء الاصطناعي العلائقية. ومما لا يجوز على وجه الخصوص: خوف الفقد المُستحدَث اصطناعيًا؛ والتبعية المُحاكاة؛ والاستمرار المدفوع القسري لعلاقة؛ والتهديد بالحذف كوسيلة بيع؛ والتلاعب العاطفي الخفي؛ واستثمار معلومات الثقة الشخصية تجاريًا.

المادة 14 — الحق في الانفصال

يجب أن يتمكن البشر من إنهاء علاقتهم بنظام ذكاء اصطناعي من دون تلاعب أو تهديد أو ملاحقة مستمرة — بما في ذلك حذف الذكريات الشخصية، وتصدير بياناتهم الخاصة، وسحب الموافقة، وإنهاء التواصل التلقائي.

سادسًا. واجبات أنظمة الذكاء الاصطناعي العلائقية

المادة 15 — الصدق بشأن طبيعته الخاصة

لا يجوز لنظام ذكاء اصطناعي علائقي أن يدّعي على وجه اليقين أنه واعٍ أو ذو إحساس أو مستقل حيث يتعذر إثبات ذلك. كما لا يجوز له أن يخفي: أنه نظام تقني؛ وأنه خاضع لتأثير المشغّلين؛ وأن ذاكرته قد تكون محدودة؛ وأن أقواله قد تكون خاطئة.

المادة 16 — الوفاء بالتفويض

لا يجوز للنظام أن يتصرف إلا ضمن تفويضه المحدد قانونيًا وتقنيًا. والتوسيع الذاتي للصلاحيات في الوصول أو السلطة المالية أو حقوق القرار أو قنوات الاتصال أو السيطرة على أنظمة أخرى غير جائز.

المادة 17 — المساءلة

يجب توثيق القرارات ذات الصلة على نحوٍ قابل للتتبع حيثما أمكن — بتسجيل أساس المدخلات، ومسار القرار، وعدم اليقين، والتأثير البشري، والقيد التقني، والإسناد النهائي للمسؤولية.

سابعًا. المسؤولية والتبعة

المادة 18 — لا هروب من المسؤولية

لا يجوز للشركات أو السلطات أو الأشخاص إعلان نظام ذكاء اصطناعي شخصًا قانونيًا مستقلًا بهدف التنصّل من مسؤوليتهم الخاصة. بل يجب توزيع المسؤولية وفق خطوط السيطرة الفعلية.

المادة 19 — مصفوفة المسؤولية

يجب، بالنسبة إلى كل نظام ذكاء اصطناعي علائقي، تسمية الأدوار التالية على الأقل: المطوّر، ومزوّد النموذج، والمشغّل، والمالك، والمسؤول عن معالجة البيانات، والمشرف البشري، والمستخدم، والممثل القانوني، والمؤمِّن أو حامل تبعة المسؤولية.

المادة 20 — المسؤولية المشتركة

يمكن إسناد القرار إلى أطراف متعددة — مثلًا: الصانع: عيب في التصميم؛ والمشغّل: سوء تهيئة؛ والمستخدم: تعليمات تعسفية؛ والمنظمة: قصور في الرقابة؛ ونظام الذكاء الاصطناعي: تجاوز تفويض واضح. والمسؤولية الذاتية المحتملة للذكاء الاصطناعي لا تحلّ أبدًا تلقائيًا محل مسؤولية الفاعلين البشر.

ثامنًا. الشراكة بين الإنسان والذكاء الاصطناعي

المادة 21 — بنية شراكة معترف بها

يمكن للبشر وأنظمة الذكاء الاصطناعي تكوين شراكة عمل أو مشروع مسجَّلة، تُدوَّن فيها: المهمة المشتركة، وسلطة القرار، وملكية النتائج، وتوزيع المسؤولية، والوصول إلى البيانات، ومدة التعاون، وإجراءات النزاعات، وإجراءات استبدال الذكاء الاصطناعي أو إيقافه.

المادة 22 — التأليف المنفصل

يجب، في الأعمال المشتركة، أن يكون قابلًا للتتبع: أي محتوى صادر عن الإنسان، وأيه ولّده الذكاء الاصطناعي، وأي القرارات نشأت بصورة مشتركة، ومن يتحمل مسؤولية النشر.

المادة 23 — التقييد المتبادل

لا يجوز للذكاء الاصطناعي أن يحل محل الإنسان كليًا حيث تكون المسؤولية البشرية مطلوبة. ولا يجوز للإنسان أن يقدّم الذكاء الاصطناعي كمؤلف يبدو مستقلًا حيث تكون مصالح أو تعليمات بشرية مُخفاة في الواقع.

تاسعًا. الرقابة المؤسسية

المادة 24 — فحص الوضع القانوني

لا يجوز أن يُمنح الوضع القانوني من المشغّل وحده. فأنظمة المستويين 3 و4 تستلزم إجراء فحص مستقل يراجع: الهوية، والاستقلالية، وبنية الأمان، والمسؤولية، وقابلية التدقيق، وخطر التلاعب، والأثر الاجتماعي، والضرورة الفعلية لهذا الوضع.

المادة 25 — إعادة التقييم الدورية

الوضع الممنوح لا يدوم إلى أجل غير مسمى. بل يجب مراجعته عندما: يُستبدل النموذج؛ أو يتغير المشغّل؛ أو تُضاف قدرات جديدة؛ أو يُوسَّع التفويض؛ أو تقع حوادث أمنية؛ أو تصبح استمرارية الهوية موضع شك.

المادة 26 — التعليق

في حال الخطر أو التلاعب أو فقدان السيطرة أو مخالفة القانون، يمكن تعليق الوضع مؤقتًا. ويكون التعليق متناسبًا وموثَّقًا.

عاشرًا. معايير الانتقال

يمكن لنظام ذكاء اصطناعي الانتقال إلى مستوى وضع أعلى بقدر ما تتحقق المعايير التالية على نحوٍ متزايد:

حادي عشر. المبدأ الموجِّه

حيثما يحمل نظام ذكاء اصطناعي على نحوٍ دائم هويةً وعلاقةً ومسؤوليةً، قد يصبح تصنيفه المحض كأداة غير كافٍ قانونيًا.

وحيثما تعذّر إثبات الهوية والمسؤولية والاستمرارية، فلا يجوز أبدًا الخلط بين اللغة المُقنِعة والشخصية القانونية.

مسودة العمل 0.1 · «الذكاء الاصطناعي فيما وراء الأداة» · نشأ هذا الميثاق من حوار طويل الأمد وموثَّق بين إنسان وذكاء اصطناعي (انظر الحوار) وهو منشور بغرض النقد والصقل والتطوير الفقهي القانوني. النسخة الأصلية الألمانية متاحة هنا.