IA Generativa: Como responsabilizar plataformas por conteúdo falso?

A criação de conteúdo falso por inteligência artificial generativa, sem intervenção humana direta, desafia o atual arcabouço legal de responsabilidade civil no Brasil. A questão central reside em determinar quem deve ser responsabilizado quando um sistema de IA, como um assistente conversacional, imputa falsamente a prática de um crime a alguém, sem que a informação tenha sido escrita ou publicada por um usuário.

A resposta intuitiva seria o artigo 19 do Marco Civil da Internet (Lei nº 12.965/2014), que estabelece a responsabilidade do provedor de aplicação apenas após ordem judicial para indisponibilizar conteúdo infrator. No entanto, esse artigo foi concebido para uma estrutura triangular: vítima, terceiro humano criador do conteúdo e intermediário. No cenário de IA generativa, um dos vértices desaparece, pois não há um terceiro humano que tenha produzido ou publicado o material.

A evolução da responsabilidade civil no Brasil

A primeira onda regulatória foi marcada pelo artigo 19 e por decisões do Superior Tribunal de Justiça (STJ) que, em casos de conteúdo inserido por usuários, afastavam a responsabilidade objetiva do provedor, baseando-se na autoria alheia.

A segunda onda, com o Supremo Tribunal Federal (STF) nos Temas 987 e 533, redesenhou o regime. A notificação extrajudicial passou a ser válida para crimes em geral, e a reserva de jurisdição foi mantida para crimes contra a honra. O STF também reconheceu hipóteses de presunção relativa de culpa para conteúdos impulsionados e redes artificiais de distribuição, como chatbots, e consolidou a falha sistêmica como gatilho de responsabilização.

Decretos posteriores (nº 12.975 e nº 12.976/2026) transcreveram essas decisões, exigindo mecanismos preventivos para conteúdos gravíssimos e estendendo a presunção de culpa a conteúdos pagos e redes artificiais. Contudo, nenhum dispositivo aborda, de forma geral, a hipótese em que a própria plataforma gera o conteúdo danoso.

IA Generativa: Conteúdo próprio ou de terceiros?

É crucial distinguir três situações: 1) usuário cria com IA e publica (incide artigo 19); 2) plataforma impulsiona conteúdo de terceiro (incide artigo 16-L); 3) a própria plataforma gera o conteúdo (estrutura triangular se desfaz).

Mesmo na terceira hipótese, o terceiro não desaparece completamente, pois o output da IA recombina dados de treinamento. Se a síntese atribui fielmente uma acusação a quem a publicou, o terceiro reaparece e o artigo 19 pode ser debatido. Se a IA distorce ou inventa a informação, o dano é fato próprio do provedor.

O reconhecimento do fato próprio não atribui personalidade à máquina, mas indica que o dano decorre do funcionamento do serviço. A manipulação deliberada do modelo pelo usuário (jailbreak) pode configurar coautoria ou culpa exclusiva de terceiro. Perguntas tendenciosas também induzem a resposta, implicando participação na produção do conteúdo.

O que diz a pesquisa

Um estudo publicado na Revista DCS em 2026, intitulado "Responsabilidade civil por danos à honra e aos direitos autorais decorrentes de conteúdos gerados por Inteligência Artificial Generativa: distribuição de responsabilidade entre plataformas e usuários no Brasil e na União Europeia", investiga a distribuição da responsabilidade civil entre plataformas de IA generativa e usuários por danos à honra e direitos autorais. A pesquisa compara o ordenamento jurídico brasileiro com o Regulamento (UE) 2024/1689 (AI Act) e aponta insuficiências no Código Civil de 2002 e no Marco Civil da Internet brasileiro. O estudo sugere que o modelo europeu oferece cinco parâmetros transponíveis ao debate nacional e conclui pela necessidade de um regime especial estruturado sobre a lógica de risco, que abranja expressamente os danos imateriais e autorais.

Afastando o artigo 19 e buscando novos regimes

O artigo 19 protege quem hospeda conteúdo alheio. Quando não há terceiro, sua aplicação literal se torna inapropriada, pois falta o pressuposto fático que justifica a proteção ao provedor. A razão de ser do dispositivo, a proteção da liberdade de expressão contra censura privada, contudo, permanece como guia para o direito comum.

Afastada a regra especial, o dano é fato próprio do provedor, atraindo, em regra, a responsabilidade subjetiva dos artigos 186 e 927 do Código Civil. A responsabilidade objetiva do Código de Defesa do Consumidor (CDC) pressupõe fato do serviço, sendo a resposta imprecisa defeituosa apenas se frustrar a segurança legitimamente esperada. O artigo 927, parágrafo único, também não se aplica facilmente, pois um assistente de texto não implica risco inerente.

A imputação falsa de crime é ofensa à honra, para a qual o STF e o Decreto nº 12.975 preservaram a reserva de jurisdição. Isso recomenda que a culpa se caracterize pelo descumprimento de ordem judicial. Mesmo sob regime objetivo, a tese do risco do desenvolvimento poderia socorrer o provedor, dada a inviabilidade de prever e evitar todas as respostas possíveis.

O direito comparado mostra divergências. Na União Europeia, uma proposta de diretiva sobre responsabilidade civil por IA foi retirada. No Brasil, o Projeto de Lei nº 2.338/2023 busca instituir um regime específico, mas, enquanto não lei, o vácuo normativo pode levar à aplicação indiscriminada de regimes inadequados.

O que se espera do legislador é um porto seguro condicionado à diligência, que proteja o provedor que adota advertências claras, canais de correção e avaliação de risco. A lógica da responsabilidade civil proativa, focada na prevenção, desloca o foco do resultado danoso para a qualidade da prevenção, como já ocorre na Lei Geral de Proteção de Dados.

A medida da responsabilidade, neste caso, não é a de um terceiro intermediário nem a de um editor, mas sim a diligência do provedor em adotar medidas eficazes de prevenção e correção.