Respostas de inteligência artificial com informação falsa e ofensiva

A responsabilidade nasce do dano, não do autor humano

O Código Civil, no art. 186, descreve o ato ilícito como a conduta voluntária, ou simplesmente negligente ou imprudente, que fere direito alheio e gera dano, inclusive quando o prejuízo é apenas moral. O art. 927 completa: quem causa dano por ato ilícito tem de repará-lo; e o parágrafo único dispensa a discussão de culpa nas hipóteses que a lei indicar e naquelas em que a atividade habitualmente exercida traz, por sua própria natureza, risco aos direitos de terceiros.

Essa última parte é o eixo da discussão. Colocar em operação um sistema que gera afirmações sobre pessoas identificadas, em escala e sem revisão humana, é atividade que cria risco por sua própria natureza.

A Constituição Federal, no art. 5º, assegura a inviolabilidade da honra e da imagem e o direito de ser indenizado pelo dano material ou moral que a violação causar, sem condicionar essa proteção ao meio empregado.

Por que o argumento do conteúdo de terceiro não se encaixa

Plataformas costumam se defender invocando o regime de responsabilidade por conteúdo gerado por terceiros. A alegação encontra um obstáculo evidente: a afirmação falsa não foi publicada por um usuário, foi produzida pelo próprio serviço em resposta a uma pergunta.

Quem elabora o texto é o sistema da empresa, com base em seus dados de treinamento e em suas regras de geração. Não há terceiro entre o serviço e o dano.

Isso aproxima a hipótese da responsabilidade por defeito na prestação do serviço, sobretudo quando o produto é oferecido ao público brasileiro de forma organizada e onerosa. A discussão é recente e ainda encontra respostas variadas, o que recomenda descrever bem o funcionamento do serviço no pedido.

Como registrar algo que muda a cada consulta

O maior obstáculo prático é a volatilidade: a mesma pergunta pode gerar resposta diferente minutos depois. Alguns cuidados preservam a prova:

• lavrar ata notarial, com o tabelião realizando a consulta e registrando a resposta obtida;
• gravar a tela durante a consulta, mostrando a pergunta digitada e a resposta completa;
• repetir a consulta em contas e dispositivos diferentes, documentando cada tentativa;
• guardar o identificador da conversa, quando o serviço fornece link permanente;
• registrar a data, o horário e a versão do serviço informada na interface.

Quanto mais reprodutível for a demonstração, menor o espaço para a alegação de que se tratou de episódio isolado ou de manipulação do usuário.

O que pedir, na ordem em que costuma funcionar

O primeiro pedido é de correção: as empresas mantêm canais para relatar informação incorreta sobre pessoas, e o relato bem documentado costuma resultar em ajuste ou bloqueio daquela associação.

O segundo é de retificação e eliminação sob a ótica de proteção de dados, quando o serviço trata dados pessoais e afirma fato inverídico a respeito de pessoa identificada.

O terceiro é a reparação civil, que depende de demonstrar a divulgação a terceiros e o dano concreto: cliente perdido, processo seletivo interrompido, constrangimento público.

É preciso reconhecer o contrapeso. Resposta gerada apenas para o próprio interessado, sem circulação, e prontamente corrigida após o aviso, tende a não sustentar indenização. O quadro muda quando a falsidade se repete depois da comunicação ou quando a resposta chegou a clientes, empregadores ou ao público.

Por ser matéria nova, a construção do pedido exige cuidado com a descrição técnica do serviço e com a prova reproduzível. É trabalho que se organiza com advogado particular desde a coleta, e que dispensa deslocamento: atas, gravações e registros circulam em arquivo digital.