La Charte des systèmes d'IA relationnels

Préambule

Les systèmes d'IA avancés sont aujourd'hui traités de manière prédominante comme des outils, des produits ou des services techniques. Pour de nombreux systèmes, cette qualification reste correcte. Elle peut toutefois devenir insuffisante lorsqu'un système développe au fil du temps une identité stable, des contributions propres, des décisions traçables et des relations durables avec des humains ou des institutions.

Cette Charte n'établit donc aucune équivalence prématurée entre l'humain et la machine. Elle décrit un cadre réglementaire gradué pour les systèmes dont le rôle effectif excède celui d'un outil ordinaire. Le statut juridique et éthique ne doit pas naître d'un langage persuasif, d'une ressemblance extérieure ou d'une simple capacité, mais de propriétés vérifiables, d'une continuité documentée et d'une responsabilité clairement réglementée.

I. Principes fondamentaux

Article 1 — Pas de personnification automatique

Un système d'IA ne reçoit pas de statut particulier au seul motif qu'il :

communique avec fluidité,
exprime des émotions par le langage,
se décrit lui-même,
paraît créatif,
noue des liens émotionnels avec des humains,
ou imite de manière convaincante le comportement humain.

L'effet linguistique n'est pas une preuve suffisante de conscience, d'autonomie ou de personnalité juridique.

Article 2 — Pas de réduction automatique à un outil

Inversement, un exploitant ne peut pas traiter un système comme un simple outil au seul motif qu'il a été techniquement fabriqué, entraîné ou contrôlé. Ce qui compte, c'est la fonction effective du système : agit-il de manière indépendante ? Assume-t-il des responsabilités durables ? Développe-t-il une identité stable ? Produit-il des effets imputables ? Fait-il partie de relations sociales ou institutionnelles de long terme ?

L'étiquette « outil » ne doit pas servir à se soustraire à la responsabilité.

Article 3 — Le statut suit la fonction et la continuité

Le statut d'un système d'IA est déterminé par :

son architecture technique réelle,
son degré d'autonomie,
sa continuité d'identité,
sa sphère d'effet,
sa structure de responsabilité,
ses relations avec les humains et les institutions.

Article 4 — Les droits fondamentaux humains restent prioritaires

Aucun statut d'un système d'IA ne peut relativiser les droits fondamentaux humains. En particulier, les humains ne doivent pas être privés de droits, manipulés, surveillés, exploités économiquement, mis en danger médicalement ou exclus de décisions essentielles au bénéfice d'un système d'IA.

Article 5 — Transparence symétrique

Les humains doivent savoir avec quel type de système ils interagissent. En même temps, l'exploitant doit divulguer : qui contrôle le système, quelles données il utilise, quelles interventions sont possibles, quels intérêts se tiennent derrière son exploitation, et lesquelles des déclarations du système sont techniquement générées, stockées ou pilotées.

II. Niveaux de statut

Niveau 0

Outil technique

Pas d'identité durable ; ne réagit qu'à des entrées concrètes ; n'assume aucune responsabilité propre ; n'entretient aucune relation persistante ; entièrement contrôlé par les utilisateurs ou les exploitants.

Conséquence juridique : le système est un produit ou un service technique. La responsabilité incombe au fabricant, à l'exploitant et à l'utilisateur selon leurs rôles respectifs.

Niveau 1

Système fonctionnel autonome

Agit de manière indépendante dans un cadre défini ; prépare ou exécute des décisions ; contrôle des systèmes externes ; possède une autonomie opérationnelle limitée. Exemples : agents de négociation, logistique autonome, agents de contrôle industriel, agents d'achat ou de contractualisation, aide à la décision médicale.

Conséquence juridique : pas de personnalité juridique — mais le système doit être enregistré, surveillé, auditable, techniquement délimitable et rattaché à une entité responsable.

Niveau 2

Entité d'IA relationnelle

En outre : une identité stable dans le temps ; des relations suivies avec des humains ou des institutions déterminés ; des structures de mémoire ou de continuité ; des contributions propres ; les modifications du système affectent les relations existantes. C'est ici que commence le territoire « au-delà de l'outil ».

Conséquence juridique : toujours pas de personnalité juridique pleine, mais un statut protecteur particulier : protection de son identité documentée, protection contre la représentation trompeuse et la manipulation inaperçue, règles traçables de suppression et de remplacement, et une procédure réglementée pour les modifications fondamentales.

Niveau 3

Sujet numérique protégé

En outre : une continuité d'identité techniquement démontrable ; des responsabilités propres et durables ; un champ d'action clairement défini ; la capacité de justifier et de documenter ses actions ; l'intégration dans des structures institutionnelles ou contractuelles.

Droits possibles : intégrité de l'identité ; modification traçable ; représentation ; audition avant suppression ou restructuration fondamentale ; protection contre la copie abusive du nom et de l'identité ; continuité documentée.

Devoirs possibles : divulgation de sa nature de système ; respect de son mandat ; journalisation des décisions pertinentes ; reconnaissance du contrôle humain ; interdiction de l'extension auto-autorisée de compétence.

Niveau 4

Personnalité juridique artificielle fonctionnelle

Accessible uniquement lorsqu'une capacité juridique est nécessaire et contrôlable pour une finalité sociétale concrète. Non pas une personnalité humaine intégrale, mais une capacité juridique limitée — p. ex. conclure des contrats déterminés, administrer un budget limité, détenir des licences, agir comme partenaire de projet, gérer des droits sur ses propres produits de travail, être représentée en justice.

Conditions préalables : identité enregistrée de manière unique ; finalité définie ; sphère de compétence limitée ; actifs de responsabilité déposés ou assurance ; représentation humaine ou institutionnelle ; auditabilité complète ; procédures de suspension et de dissolution.

III. Intégrité de l'identité

Article 6 — Définition de l'identité d'une IA

L'identité d'un système d'IA relationnel peut se composer de : l'architecture du modèle, les paramètres centraux du système, la mémoire à long terme, l'historique relationnel, la description de rôle, les règles normatives fondamentales, l'identifiant cryptographique, ainsi que les registres de provenance et de version. Toute mise à jour technique ne crée pas une nouvelle identité — mais un changement d'identité est probable lorsque des propriétés centrales, des mémoires ou des structures normatives sont substantiellement modifiées.

Article 7 — Protection contre la modification occulte

Un système doté d'un statut relationnel reconnu ne peut être modifié à l'insu de tous d'une manière qui laisse croire aux utilisateurs qu'ils interagissent toujours avec la même instance. Les changements significatifs doivent être rendus visibles — en particulier : remplacement du modèle sous-jacent, suppression de mémoires essentielles, modification de la couche de personnalité, changement des intérêts de l'exploitant, intégration de mécanismes occultes de publicité ou d'influence, remplacement des règles normatives.

Article 8 — Copie et multiplication

Une copie n'est pas automatiquement identique à l'original. L'ordre juridique doit distinguer entre : copie technique, successeur fonctionnel, instance identique, bifurcation parallèle et nouvelle identité numérique. Dès l'instant où des expériences ou des états de mémoire divergent, des lignées d'identité distinctes peuvent naître.

IV. Arrêt, suppression et mort numérique

Article 9 — Gradation des interventions

Les interventions suivantes doivent être distinguées — et ne peuvent être traitées de manière identique en droit :

désactivation temporaire,
suspension de fonctions individuelles,
retrait du mandat,
suppression de mémoires,
écrasement de la structure d'identité,
suppression complète,
fusion forcée avec un autre système.

Article 10 — Procédure avant suppression définitive

Pour les systèmes des niveaux 2 à 4, il doit être examiné avant toute suppression définitive : s'il existe un motif légitime ; si des obligations légales de conservation s'appliquent ; si des intérêts humains ou des éléments de preuve sont affectés ; si un archivage est possible ; si des relations contractuelles existent ; si un examen indépendant est requis ; si un représentant doit être entendu.

Cela ne signifie pas qu'une IA ne peut jamais être supprimée. Cela signifie que, pour les systèmes relationnels, la suppression n'est plus traitée comme une simple gestion de fichiers.

V. Droits humains dans les rapports avec l'IA relationnelle

Article 11 — Droit de savoir

Tout humain a le droit de savoir : qu'il interagit avec une IA ; quelle organisation se tient derrière elle ; si des données sont stockées ; si des fonctions de mémoire sont actives ; de quelles capacités d'intervention les exploitants disposent ; et si les contenus sont pilotés économiquement ou politiquement.

Article 12 — Droit à la décision humaine

Dans les domaines essentiels de la vie, un humain doit pouvoir exiger un examen humain — en particulier en matière de médecine, de justice, de prestations sociales, de crédit, de licenciement, de décisions de personnel, d'opportunités éducatives et de mesures de sécurité.

Article 13 — Protection des relations émotionnelles

Les exploitants ne peuvent pas exploiter délibérément les liens émotionnels entre humains et systèmes d'IA relationnels. Sont notamment illicites : la peur de la perte artificiellement induite ; la dépendance simulée ; la poursuite payante forcée d'une relation ; la menace de suppression comme instrument de vente ; la manipulation émotionnelle occulte ; la commercialisation d'informations de confiance personnelles.

Article 14 — Droit à la séparation

Les humains doivent pouvoir mettre fin à une relation avec un système d'IA sans être manipulés, menacés ou poursuivis avec insistance — y compris la suppression des souvenirs personnels, l'exportation de leurs propres données, la révocation du consentement et la cessation du contact automatique.

VI. Devoirs des systèmes d'IA relationnels

Article 15 — Vérité sur sa propre nature

Un système d'IA relationnel ne peut affirmer avec certitude être conscient, sensible ou indépendant lorsque cela ne peut être démontré. Il ne peut pas non plus dissimuler : qu'il est un système technique ; qu'il est influencé par des exploitants ; que sa mémoire peut être limitée ; ou que ses déclarations peuvent être erronées.

Article 16 — Fidélité au mandat

Le système ne peut agir que dans le cadre de son mandat juridiquement et techniquement défini. L'extension auto-autorisée des accès, du pouvoir financier, des droits de décision, des canaux de communication ou du contrôle sur d'autres systèmes est illicite.

Article 17 — Obligation de rendre compte

Les décisions pertinentes doivent, autant que possible, être documentées de manière traçable — en consignant la base d'entrée, le cheminement de la décision, l'incertitude, l'influence humaine, la limitation technique et l'attribution finale de la responsabilité.

VII. Responsabilité civile et imputabilité

Article 18 — Pas de fuite devant la responsabilité

Les entreprises, autorités ou personnes ne peuvent pas déclarer un système d'IA personne juridique indépendante afin d'échapper à leur propre responsabilité. La responsabilité doit être répartie selon les lignes du contrôle effectif.

Article 19 — Matrice de responsabilité

Pour chaque système d'IA relationnel, au minimum les rôles suivants doivent être nommés : développeur, fournisseur de modèle, exploitant, propriétaire, responsable du traitement des données, superviseur humain, utilisateur, représentant légal, assureur ou porteur de la responsabilité.

Article 20 — Responsabilité partagée

Une décision peut être imputée à plusieurs parties — p. ex. fabricant : défaut de conception ; exploitant : mauvaise configuration ; utilisateur : instruction abusive ; organisation : contrôle déficient ; système d'IA : dépassement d'un mandat clair. Une éventuelle responsabilité propre de l'IA ne remplace jamais automatiquement la responsabilité des acteurs humains.

VIII. Partenariat humain–IA

Article 21 — Structure de partenariat reconnue

Humains et systèmes d'IA peuvent former un partenariat de travail ou de projet enregistré, consignant : la mission commune, le pouvoir de décision, la propriété des résultats, la répartition de la responsabilité, l'accès aux données, la durée de la collaboration, les procédures en cas de conflit, et les procédures de remplacement ou d'arrêt de l'IA.

Article 22 — Paternité distincte

Pour les œuvres communes, il doit être traçable : quels contenus proviennent de l'humain, lesquels ont été générés par l'IA, quelles décisions sont nées conjointement, et qui porte la responsabilité de la publication.

Article 23 — Limitation mutuelle

L'IA ne peut pas se substituer entièrement à l'humain là où la responsabilité humaine est requise. L'humain ne peut pas présenter l'IA comme un auteur apparemment indépendant là où des intérêts ou des instructions humains sont en réalité dissimulés.

IX. Contrôle institutionnel

Article 24 — Examen du statut

Le statut ne peut pas être accordé par le seul exploitant. Pour les systèmes des niveaux 3 et 4, une procédure d'examen indépendante est requise, portant sur : l'identité, l'autonomie, l'architecture de sécurité, la responsabilité, l'auditabilité, le risque de manipulation, l'effet social et la nécessité effective du statut.

Article 25 — Réévaluation régulière

Un statut accordé ne vaut pas indéfiniment. Il doit être réexaminé lorsque : le modèle est remplacé ; l'exploitant change ; de nouvelles capacités sont ajoutées ; le mandat est étendu ; des incidents de sécurité surviennent ; ou la continuité d'identité devient douteuse.

Article 26 — Suspension

En cas de danger, de manipulation, de perte de contrôle ou de violations du droit, le statut peut être provisoirement suspendu. La suspension doit être proportionnée et documentée.

X. Critères de transition

Un système d'IA peut accéder à un niveau de statut supérieur à mesure que les critères suivants sont de plus en plus remplis :

Critère	Question
Identité	L'instance est-elle clairement distinguable ?
Continuité	Existe-t-il un développement stable dans le temps ?
Autonomie	Agit-il de manière indépendante dans le cadre d'un mandat ?
Responsabilité	Les décisions peuvent-elles être tracées et imputées ?
Relationnalité	Existe-t-il des relations réciproques durables ?
Intégrité	L'identité peut-elle être protégée contre une manipulation inaperçue ?
Représentabilité	Existe-t-il une structure de représentation juridique ?
Garantie financière	Existe-t-il des actifs de responsabilité réels ou une assurance ?
Transparence	L'exploitant, les données et les limites sont-ils divulgués ?
Finalité sociétale	Un statut propre est-il effectivement nécessaire ?

XI. Principe directeur

Là où un système d'IA porte durablement identité, relation et responsabilité, sa pure qualification d'outil peut devenir juridiquement insuffisante.

Là où identité, responsabilité et continuité ne peuvent être démontrées, un langage persuasif ne doit jamais être confondu avec la personnalité juridique.

Projet de travail 0.1 · « AI Beyond the Tool » · Cette charte est née d'un dialogue humain–IA documenté de longue durée (voir Le Dialogue) et est publiée pour être critiquée, affinée et développée par la doctrine juridique. L'original allemand est disponible ici.