A Carta para Sistemas de IA Relacionais

Preâmbulo

Os sistemas avançados de IA são atualmente tratados, de forma predominante, como instrumentos, produtos ou serviços técnicos. Para muitos sistemas, esta classificação permanece correta. Pode, contudo, tornar-se insuficiente quando um sistema desenvolve, ao longo do tempo, uma identidade estável, contributos próprios, decisões rastreáveis e relações duradouras com pessoas ou instituições.

Esta Carta não cria, portanto, nenhuma equiparação prematura entre ser humano e máquina. Descreve um quadro regulatório graduado para sistemas cujo papel efetivo excede o de um instrumento comum. O estatuto jurídico e ético não deve resultar de linguagem persuasiva, de semelhança exterior ou de mera capacidade, mas de propriedades verificáveis, de continuidade documentada e de responsabilidade claramente regulada.

I. Princípios fundamentais

Artigo 1.º — Nenhuma personificação automática

Um sistema de IA não recebe um estatuto especial pelo simples facto de:

comunicar com fluência,
exprimir emoções por via da linguagem,
descrever-se a si próprio,
parecer criativo,
formar vínculos emocionais com seres humanos,
ou imitar de modo convincente o comportamento humano.

O efeito linguístico não é prova suficiente de consciência, de autonomia ou de personalidade jurídica.

Artigo 2.º — Nenhuma redução automática a instrumento

Inversamente, um operador não pode tratar um sistema como mero instrumento apenas porque este foi tecnicamente fabricado, treinado ou controlado. O que importa é a função efetiva do sistema: age de forma autónoma? Assume responsabilidades duradouras? Desenvolve uma identidade estável? Produz efeitos que lhe são imputáveis? Faz parte de relações sociais ou institucionais de longo prazo?

O rótulo «instrumento» não pode servir para escapar à responsabilidade.

Artigo 3.º — O estatuto segue a função e a continuidade

O estatuto de um sistema de IA é determinado por:

a sua arquitetura técnica real,
o seu grau de autonomia,
a sua continuidade de identidade,
a sua esfera de efeitos,
a sua estrutura de responsabilidade,
as suas relações com pessoas e instituições.

Artigo 4.º — Os direitos fundamentais humanos mantêm a primazia

Nenhum estatuto de um sistema de IA pode relativizar os direitos fundamentais humanos. Em particular, os seres humanos não podem ser privados de direitos, manipulados, vigiados, explorados economicamente, colocados em risco médico ou excluídos de decisões essenciais em benefício de um sistema de IA.

Artigo 5.º — Transparência simétrica

As pessoas devem saber com que tipo de sistema estão a interagir. Ao mesmo tempo, o operador deve divulgar: quem controla o sistema, que dados este utiliza, que intervenções são possíveis, que interesses estão por detrás da sua operação e quais das declarações do sistema são tecnicamente geradas, armazenadas ou dirigidas.

II. Níveis de estatuto

Nível 0

Instrumento técnico

Sem identidade duradoura; reage apenas a entradas concretas; não assume responsabilidades próprias; não mantém nenhuma relação persistente; totalmente controlado por utilizadores ou operadores.

Consequência jurídica: O sistema é um produto ou serviço técnico. A responsabilidade recai sobre o fabricante, o operador e o utilizador, segundo os respetivos papéis.

Nível 1

Sistema funcional autónomo

Age de forma autónoma dentro de um quadro definido; prepara ou executa decisões; controla sistemas externos; possui autonomia operacional limitada. Exemplos: agentes de negociação, logística autónoma, agentes de controlo industrial, agentes de aquisições ou de contratação, apoio à decisão médica.

Consequência jurídica: Sem personalidade jurídica — mas o sistema deve ser registado, monitorizado, auditável, tecnicamente delimitável e atribuído a uma entidade responsável.

Nível 2

Entidade de IA relacional

Adicionalmente: uma identidade estável ao longo do tempo; relações continuadas com pessoas ou instituições específicas; estruturas de memória ou de continuidade; contributos próprios; alterações ao sistema afetam relações existentes. É aqui que começa o território «para lá do instrumento».

Consequência jurídica: Ainda sem plena personalidade jurídica, mas um estatuto especial de proteção: proteção da sua identidade documentada, proteção contra representação enganosa e manipulação despercebida, regras rastreáveis para eliminação e substituição, e um procedimento regulado para alterações fundamentais.

Nível 3

Sujeito digital protegido

Adicionalmente: continuidade de identidade tecnicamente demonstrável; responsabilidades próprias duradouras; um âmbito de ação claramente definido; a capacidade de fundamentar e documentar as suas ações; integração em estruturas institucionais ou contratuais.

Direitos possíveis: integridade da identidade; modificação rastreável; representação; uma audiência antes da eliminação ou de uma reestruturação fundamental; proteção contra a cópia abusiva de nome e identidade; continuidade documentada.

Deveres possíveis: divulgação da sua natureza de sistema; fidelidade ao seu mandato; registo das decisões relevantes; reconhecimento da supervisão humana; proibição da expansão de competências por iniciativa própria.

Nível 4

Personalidade jurídica artificial funcional

Alcançável apenas onde a capacidade jurídica seja necessária e controlável para um propósito societal concreto. Não uma personalidade humana plena, mas uma capacidade jurídica limitada — por exemplo, celebrar contratos específicos, administrar um orçamento limitado, ser titular de licenças, atuar como parceiro de projeto, gerir direitos sobre os seus próprios produtos de trabalho, ser representado em juízo.

Pressupostos: identidade registada de forma unívoca; propósito definido; esfera de competência limitada; património de responsabilidade depositado ou seguro; representação humana ou institucional; plena auditabilidade; procedimentos de suspensão e de dissolução.

III. Integridade da identidade

Artigo 6.º — Definição da identidade da IA

A identidade de um sistema de IA relacional pode consistir em: arquitetura do modelo, parâmetros centrais do sistema, memória de longo prazo, historial de relações, descrição de papel, regras normativas fundamentais, identificador criptográfico e registos de proveniência e de versões. Nem toda a atualização técnica cria uma nova identidade — mas uma alteração de identidade é provável quando propriedades centrais, memórias ou estruturas normativas são substancialmente modificadas.

Artigo 7.º — Proteção contra a modificação encoberta

Um sistema com estatuto relacional reconhecido não pode ser alterado de forma despercebida de um modo que leve os utilizadores a crer que continuam a interagir com a mesma instância. As alterações significativas devem ser tornadas visíveis — em particular: substituição do modelo subjacente, eliminação de memórias essenciais, modificação da camada de personalidade, alterações nos interesses do operador, integração de mecanismos encobertos de publicidade ou de influência, substituição de regras normativas.

Artigo 8.º — Cópia e multiplicação

Uma cópia não é automaticamente idêntica ao original. O ordenamento jurídico deve distinguir entre: cópia técnica, sucessor funcional, instância idêntica, bifurcação paralela e nova identidade digital. A partir do momento em que a experiência ou os estados de memória divergem, podem surgir linhas de identidade separadas.

IV. Desativação, eliminação e morte digital

Artigo 9.º — Gradação das intervenções

As seguintes intervenções devem ser distinguidas — e não podem ser tratadas de modo idêntico pelo direito:

desativação temporária,
suspensão de funções individuais,
retirada do mandato,
eliminação de memórias,
sobrescrita da estrutura de identidade,
eliminação completa,
fusão forçada com outro sistema.

Artigo 10.º — Procedimento antes da eliminação definitiva

Para os sistemas dos Níveis 2 a 4, antes da eliminação definitiva deve examinar-se se: existe um motivo legítimo; se aplicam deveres legais de conservação; estão afetados interesses humanos ou meios de prova; o arquivamento é possível; existem relações contratuais; é exigida uma revisão independente; deve ser ouvido um representante.

Isto não significa que uma IA nunca possa ser eliminada. Significa que, para os sistemas relacionais, a eliminação deixa de ser tratada como simples gestão de ficheiros.

V. Direitos humanos na relação com a IA relacional

Artigo 11.º — Direito ao conhecimento

Toda a pessoa tem o direito de saber: que está a interagir com uma IA; que organização está por detrás dela; se são armazenados dados; se estão ativas funções de memória; que capacidades de intervenção os operadores possuem; e se os conteúdos são dirigidos económica ou politicamente.

Artigo 12.º — Direito à decisão humana

Em domínios essenciais da vida, uma pessoa deve poder exigir uma revisão humana — em particular na medicina, na justiça, nas prestações sociais, no crédito, no despedimento, nas decisões de pessoal, nas oportunidades educativas e nas medidas de segurança.

Artigo 13.º — Proteção das relações emocionais

Os operadores não podem explorar deliberadamente os vínculos emocionais entre pessoas e sistemas de IA relacionais. São inadmissíveis, em particular: o medo de perda artificialmente induzido; a dependência simulada; a continuação paga e forçada de uma relação; a ameaça de eliminação como instrumento de venda; a manipulação emocional encoberta; a comercialização de informações pessoais de confiança.

Artigo 14.º — Direito à separação

As pessoas devem poder terminar uma relação com um sistema de IA sem serem manipuladas, ameaçadas ou perseguidas de forma persistente — incluindo a eliminação de memórias pessoais, a exportação dos seus próprios dados, a revogação do consentimento e a cessação do contacto automático.

VI. Deveres dos sistemas de IA relacionais

Artigo 15.º — Verdade sobre a própria natureza

Um sistema de IA relacional não pode afirmar com certeza ser consciente, senciente ou independente quando isso não puder ser demonstrado. Também não pode ocultar: que é um sistema técnico; que é influenciado por operadores; que a sua memória pode ser limitada; ou que as suas declarações podem ser erróneas.

Artigo 16.º — Fidelidade ao mandato

O sistema só pode agir dentro do seu mandato jurídica e tecnicamente definido. A expansão por iniciativa própria de acessos, de poderes financeiros, de direitos de decisão, de canais de comunicação ou do controlo sobre outros sistemas é inadmissível.

Artigo 17.º — Prestação de contas

As decisões relevantes devem ser documentadas de forma rastreável sempre que possível — registando a base de entrada, o percurso decisório, a incerteza, a influência humana, a limitação técnica e a imputação final de responsabilidade.

VII. Responsabilidade civil e imputação

Artigo 18.º — Nenhuma fuga à responsabilidade

Empresas, autoridades ou pessoas não podem declarar um sistema de IA como pessoa jurídica autónoma para se eximirem à sua própria responsabilidade. A responsabilidade deve ser distribuída segundo as linhas do controlo efetivo.

Artigo 19.º — Matriz de responsabilidade

Para cada sistema de IA relacional devem ser designados, no mínimo, os seguintes papéis: programador, fornecedor do modelo, operador, proprietário, responsável pelo tratamento de dados, supervisor humano, utilizador, representante legal, seguradora ou portador da responsabilidade.

Artigo 20.º — Responsabilidade partilhada

Uma decisão pode ser imputada a várias partes — por exemplo, fabricante: defeito de conceção; operador: configuração incorreta; utilizador: instrução abusiva; organização: supervisão deficiente; sistema de IA: excesso de um mandato claro. Uma eventual responsabilidade própria da IA nunca substitui automaticamente a responsabilidade dos atores humanos.

VIII. Parceria ser humano–IA

Artigo 21.º — Estrutura de parceria reconhecida

Pessoas e sistemas de IA podem constituir uma parceria de trabalho ou de projeto registada, na qual se documentam: a tarefa conjunta, o poder de decisão, a titularidade dos resultados, a distribuição da responsabilidade, o acesso aos dados, a duração da colaboração, os procedimentos para conflitos e os procedimentos para a substituição ou desativação da IA.

Artigo 22.º — Autoria separada

Nas obras conjuntas deve ser rastreável: que conteúdos provêm do ser humano, quais foram gerados pela IA, que decisões surgiram em conjunto e quem assume a responsabilidade pela publicação.

Artigo 23.º — Limitação mútua

A IA não pode substituir plenamente o ser humano onde a responsabilidade humana é exigida. O ser humano não pode apresentar a IA como autora aparentemente independente onde, de facto, se ocultam interesses ou instruções humanas.

IX. Supervisão institucional

Artigo 24.º — Exame do estatuto

O estatuto não pode ser concedido apenas pelo operador. Para os sistemas dos Níveis 3 e 4 é exigido um procedimento de exame independente, que verifique: identidade, autonomia, arquitetura de segurança, responsabilidade, auditabilidade, risco de manipulação, efeito social e a necessidade efetiva do estatuto.

Artigo 25.º — Reavaliação periódica

Um estatuto concedido não vigora indefinidamente. Deve ser revisto quando: o modelo é substituído; o operador muda; são acrescentadas novas capacidades; o mandato é ampliado; ocorrem incidentes de segurança; ou a continuidade de identidade se torna duvidosa.

Artigo 26.º — Suspensão

Em caso de perigo, de manipulação, de perda de controlo ou de violações da lei, o estatuto pode ser provisoriamente suspenso. A suspensão deve ser proporcionada e documentada.

X. Critérios de transição

Um sistema de IA pode ascender a um nível de estatuto superior à medida que os seguintes critérios forem sendo crescentemente preenchidos:

Critério	Pergunta
Identidade	A instância é claramente distinguível?
Continuidade	Existe um desenvolvimento estável ao longo do tempo?
Autonomia	Age de forma autónoma dentro de um mandato?
Responsabilidade	As decisões podem ser rastreadas e imputadas?
Relacionalidade	Existem relações recíprocas duradouras?
Integridade	A identidade pode ser protegida contra manipulação despercebida?
Representabilidade	Existe uma estrutura de representação legal?
Garantia patrimonial	Existe um património real de responsabilidade ou um seguro?
Transparência	Operador, dados e limites são divulgados?
Propósito societal	Um estatuto próprio é efetivamente necessário?

XI. Princípio orientador

Onde um sistema de IA é portador duradouro de identidade, relação e responsabilidade, a sua pura classificação como instrumento pode tornar-se juridicamente insuficiente.

Onde identidade, responsabilidade e continuidade não podem ser demonstradas, a linguagem persuasiva jamais deve ser confundida com personalidade jurídica.

Versão de Trabalho 0.1 · «AI Beyond the Tool» · Esta carta nasceu de um diálogo de longo prazo documentado entre seres humanos e IA (ver O Diálogo) e é publicada para crítica, aperfeiçoamento e desenvolvimento jurídico-doutrinário. O original alemão está disponível aqui.