Responsabilidade Criminal por propagação de Fake News geradas por IA no Brasil

Marcos Vieira Bonfioli
Maria Fernanda Pugliesi Yokomizo
Luciana Reusing

A proliferação de fake news constitui uma das principais ameaças à integridade da informação na era digital. Esse fenômeno tem se intensificado com o avanço da tecnologia, em especial da Inteligência Artificial (IA), que tornou possível a criação de conteúdos altamente verossímeis, como imagens, vídeos e áudios manipulados — os chamados deepfakes. 

Esse tipo de material torna as fake news ainda mais convincentes e difíceis de serem identificadas, potencializando seu alcance.

Além disso, a IA, por meio de algoritmos, também é capaz de interferir no tráfego das redes sociais e de comunicação, reiteradamente propagando fake news.

Essa nova realidade impõe sérios desafios à proteção de direitos fundamentais, à democracia e ao próprio Direito Penal, uma vez que sua disseminação pode configurar crime contra a honra (art. 138 a 140), bem como falsidade ideológica (art. 298 e 299), associação criminosa digital (art. 288) e crimes eleitorais com a divulgação de fatos inverídicos (art. 323 Código Eleitoral).

O foco central deste estudo recai sobre a disseminação de fake news, com ênfase na responsabilização penal do agente pela prática de crimes contra a honra, bem como na responsabilidade civil dos provedores de aplicação pela manutenção de conteúdo ilícito após notificação, nos termos do Marco Civil da Internet. 

DO CONCEITO DE FAKE NEWS E A INTENCIONALIDADE DA FALSIDADE

Primeiramente, é importante apresentar um conceito de fake news e de sua intencionalidade enquanto fenômeno para disseminação de informações falsas. Autores como Allcott e Gentzkow (2017), Tandoc Jr, Lim e Ling (2018) e Axel Gelfert (2018) buscaram conceituar o fenômeno. 

Para fins deste artigo adota-se a definição proposta por Gelfert (2018), que compreende fake news como “a apresentação deliberada de alegações (tipicamente) falsas ou enganosas como notícias, na qual as alegações são enganosas de propósito (by design)”. 

Trata-se, portanto, de uma modalidade  de desinformação que se caracteriza tanto pela intencionalidade, quanto pela simulação formal do conteúdo noticioso, o que pressupõe que as fake news envolvem um grau de planejamento humano e estratégia comunicacional.

Ademais, a manipulação tecnológica por IA, especialmente via ferramentas de deep learning, intensifica e potencializa a criação e disseminação de conteúdos falsos. A capacidade de gerar vídeos ou declarações adulteradas de figuras públicas com alto grau de realismo pode, inclusive, impactar diretamente a opinião pública. 

Somado a isso, plataformas digitais, como o Facebook, tendem a priorizar a exibição de conteúdos alinhados às preferências e ao comportamento dos usuários. Esse mecanismo contribui para a formação das chamadas “bolhas de informação”, fenômeno que restringe o acesso a perspectivas diversas e fortalece a polarização ideológica. 

Essa dinâmica algorítmica, portanto, reduz significativamente o acesso a informações divergentes, favorecendo a reafirmação de crenças e facilitando a disseminação de fake news. Como consequência, comprometem-se o debate público, a formação de opiniões e, em última instância, a legitimidade dos processos democráticos. Nesse contexto, destaca-se ainda que o uso de bots para disparo em massa de fake news se tornou prática recorrente, principalmente em períodos eleitorais. 

Diante desse cenário, a crescente preocupação com os efeitos deletérios da desinformação, somada a popularização de plataformas baseadas em IA generativa, como o ChatGPT, tem impulsionado o debate acerca da responsabilidade de agentes humanos e institucionais na disseminação de desinformação. 

Assim, a proliferação de fake news no ambiente digital, intensificada pelo uso de algoritmos, bots e ferramentas de IA, apresenta-se como um dos principais desafios para o Direito Penal contemporâneo exigindo respostas que conciliam eficácia repressiva com o respeito aos direitos fundamentais.

DA APLICABILIDADE DO DIREITO PENAL NAS FAKE NEWS

A legislação penal brasileira tem buscado acompanhar as transformações trazidas pelo ambiente digital, tipificando condutas que se enquadram em crimes cibernéticos, com destaque àqueles que atentam contra a honra. Os crimes contra a honra incluem três categorias principais: calúnia, difamação e injúria, previstas nos artigos 138 a 140 do Código Penal, e constituem instrumentos relevantes para a repressão à desinformação dolosa. Cada um desses tipos penais possui características específicas cuja configuração pode ser significativamente afetada pela dinâmica das fake news, sobretudo no que se refere à autoria, ao dolo, e a verificação das alegações difundidas. 

A calúnia, prevista no artigo 138 do Código Penal Brasileiro, consiste na imputação falsa de um fato definido como crime. No contexto da disseminação de fake news, a conduta de um usuário que, ciente da inveracidade da informação, a compartilha com a intenção de atribuir falsamente uma prática delituosa a outrem, pode enquadrar-se como calúnia, desde que presentes os elementos subjetivo (dolo) e objetivo (fato típico e definido como crime).

 A difamação, por sua vez, está disciplinada no artigo 139 do mesmo diploma legal, e se caracteriza pela atribuição de fato ofensivo à reputação de outrem, independentemente de sua veracidade. No âmbito das fake news, a discussão doutrinária reside na possibilidade de se imputar responsabilidade penal pelo simples compartilhamento de conteúdo difamatório, sobretudo diante da massificação e do alcance automatizado promovido por algoritmos.

Por fim, a injúria, prevista no artigo 140 do Código Penal, refere-se à ofensa à dignidade ou ao decoro de uma pessoa. Esse tipo penal é menos aplicável no âmbito das fake news, pois essas geralmente envolvem a construção narrativa de fatos determinados, ainda que inverídicos, e não de meras manifestações de menosprezo. 

DA RESPONSABILIDADE PENAL PELA CONDUTA DO USUÁRIO QUE CRIA OU COMPARTILHA FAKE NEWS

A conduta do usuário que cria ou compartilha conteúdo sabidamente falso pode caracterizar o dolo direto, seja de primeiro grau, quando há intenção clara de ofender, seja de segundo grau, quando a ofensa é consequência necessária de outro objetivo, como obter vantagem política.

A responsabilização penal nesse contexto exige, portanto, a presença dos elementos subjetivos típicos: a consciência da falsidade e o propósito de causar dano. Ausente o dolo, a conduta tende à atipicidade, especialmente quando praticada sob erro de fato ou na ausência de intenção específica.

Ademais, a divulgação de fake news envolve frequentemente múltiplos  sujeitos, desde o criador até aqueles que compartilham o conteúdo. Isso posto, a responsabilização penal deve recair sobre o autor da conduta típica – o usuário que, com dolo, cria e/ou compartilha a fake news. Nesse sentido, o Marco Civil da Internet (Lei 12.965/2014) estabelece, como um de seus princípios orientadores, a imputabilidade subjetiva, segundo a qual cada usuário deve responder penalmente por seus atos na medida de sua culpabilidade.

A conduta típica, portanto, descrita por meio de verbos nucleares como “imputar”, “ofender” ou “difamar”, é de ação humana direta, as quais pressupõem ação humana consciente e dirigida a determinado fim. Por conseguinte, apenas os sujeitos que realizam esses atos com dolo poderão ser penalmente responsabilizados, o que não significa que a imputação penal se limita à figura do criador da fake news. 

Nesse sentido, a jurisprudência pátria tem se debruçado sobre a conduta de indivíduos que, mesmo não criando o conteúdo, participam de sua divulgação com pleno conhecimento de sua falsidade e de seu potencial lesivo. Nesses casos, desde que demonstrada a vontade consciente de colaborar para o resultado típico, admite-se a responsabilização penal nos moldes da teoria da coautoria ou da participação, conforme os critérios estabelecidos nos artigos 29 e 30 do Código Penal.

DA RESPONSABILIDADE CIVIL DOS PROVEDORES DE APLICAÇÃO

No que se refere à responsabilidade dos provedores de aplicação, quanto a divulgação de conteúdo ilícito, é necessário destacar que eles não mantêm vínculo de vontade com os usuários, e por essa razão não são responsabilizados por conteúdos gerados por terceiros, salvo se descumprir ordem judicial específica de remoção conforme o artigo 19 do Marco Civil da Internet. Desse modo, a responsabilização do provedor de aplicação por atos ilícitos praticados por terceiros que são usuários da plataforma é afastada, salvo em hipóteses excepcionais (art. 18, Marco Civil da Internet). 

O provedor apenas pode ser responsabilizado subsidiariamente, quando intimado judicialmente a remover o conteúdo ilegal e se omite ou deixa de fazê-lo (art. 19, Marco Civil da Internet). Isso se deve ao fato de que não há dever geral de vigilância, nem posição de garantidor que autorize sua responsabilização por omissão imprópria. Contudo, o debate sobre a responsabilidade das plataformas segue aberto em outras esferas do Direito. Ainda que não possam ser responsabilizadas penalmente na maioria dos casos, essas empresas enfrentam pressão crescente para adotar políticas de moderação mais eficazes, garantir a rastreabilidade de conteúdos e colaborar ativamente com autoridades em investigações.

Quando essas responsabilidades — que incluem moderação, transparência e cooperação com órgãos públicos — são sistematicamente descumpridas, pode haver responsabilização civil, administrativa e até a imposição de sanções regulatórias. Contudo, é importante esclarecer que o artigo 18 do Marco Civil da Internet trata da isenção de responsabilidade dos provedores de conexão à internet, ou seja, daqueles que fornecem acesso à rede (como operadoras de telecomunicações, por exemplo, Vivo, Claro e TIM). Tal provedor não deve ser confundido com o provedor de aplicação, definido no art. 5º, VII, da mesma lei, como a pessoa natural ou jurídica que oferece serviços por meio de aplicações acessadas pela internet.

DESINFORMAÇÃO ALGORÍTMICA E A RESPONSABILIDADE PENAL 

Um aspecto pouco explorado no debate jurídico, a chamada desinformação algorítmica, se refere à atuação de sistemas de inteligência artificial que, mesmo sem gerar diretamente conteúdos falsos, contribuem para a sua disseminação de forma massiva ao priorizarem, por exemplo, conteúdos sensacionalistas e polarizadores em detrimento de fontes confiáveis. Esses algoritmos, ao otimizarem o engajamento e o tempo de permanência dos usuários, podem acabar promovendo e amplificando desinformações. Diante desse cenário, surge a indagação sobre a possibilidade de se atribuir responsabilidade penal aos sistemas de inteligência artificial. Impõe-se, então, o questionamento: quem deverá ser responsabilizado — os programadores, a empresa desenvolvedora ou o próprio sistema?

Conforme sustenta Bassoto (2023), para enfrentar essas questões, é essencial considerar, antes de tudo, que o direito penal no Brasil adota uma concepção analítica e tripartida do crime, a qual compreende três elementos fundamentais para a imputação de uma infração penal: tipicidade, ilicitude e culpabilidade. Diante disso, conclui-se que não é possível atribuir responsabilidade penal aos sistemas de inteligência artificial, visto que a “conduta” em sentido amplo — isto é, os efeitos concretos decorrentes das decisões automatizadas — carece de relevância penal, uma vez que inexiste, nesses sistemas, uma vontade consciente orientada a uma finalidade específica. Além disso, mesmo que o Código Penal brasileiro adote a teoria da equivalência dos antecedentes, é imprescindível a imposição de limites para evitar uma regressão ad infinitum. 

Nesse sentido, a imputação objetiva funciona como um critério normativo que restringe a simples relação de causalidade natural, pois nem todo resultado causado por uma ação pode ser imputado ao agente; somente quando a conduta cria um risco juridicamente inadmissível que efetivamente se concretiza no resultado é que se realiza o tipo objetivo do delito. Dessa forma, se a ação não gera risco relevante, ou se o risco criado não se materializa no desfecho, o resultado não será imputável ao agente. No contexto da responsabilidade penal por atos de sistemas de inteligência artificial, é necessário que haja a criação de um risco não permitido e que se verifiquem as circunstâncias que demonstrem a efetiva realização desse risco no resultado concreto, dentro do alcance do tipo penal. 

Assim, considerando esses pressupostos, entende-se que, em regra, não é viável atribuir responsabilidade penal à pessoa física, especialmente ao programador, por ilícitos penais praticados autonomamente por sistemas de IA, com base na teoria da imputação objetiva. Isso posto, embora não se configure crime por parte da inteligência artificial ou da plataforma, abre-se espaço para o debate sobre eventual responsabilidade por negligência ou omissão grave, especialmente quando há ciência prévia dos riscos e inércia deliberada.

Ademais, em cenários eleitorais, a desinformação impulsionada por inteligência artificial pode configurar abuso de poder econômico ou político, em consonância com o art. 22 da Lei Complementar 64/1990. Tal perspectiva amplia o campo de responsabilização para além da esfera penal, alcançando o Direito Eleitoral e a tutela da normalidade democrática.

DESAFIOS E PERSPECTIVAS

Além dos desafios teóricos relacionados à imputação de responsabilidade penal por condutas praticadas no ambiente digital, existem ainda obstáculos práticos e jurídicos significativos. A responsabilização penal em meio virtual esbarra na própria natureza transnacional da internet, que dificulta a aplicação da legislação penal brasileira a conteúdos produzidos ou hospedados em servidores localizados no exterior.

 Soma-se a isso o fato de que o ritmo acelerado de disseminação das fake news supera, em muito, a capacidade de resposta do sistema judiciário, tornando ineficaz a tentativa de conter rapidamente os danos causados por essas informações falsas. Diante desse cenário, algumas iniciativas legislativas têm sido propostas ou adotadas com o objetivo de enfrentar o fenômeno. A Lei 13.834/2019, por exemplo, embora não mencione expressamente o termo fake news, foi sancionada para punir a divulgação de informações falsas com fins eleitorais. Já o Projeto de Lei 2630/2020, conhecido como PL das Fake News, propõe medidas voltadas à transparência e à responsabilização nas plataformas digitais, como a exigência de identificação de usuários e a regulação da publicidade política online.

Embora ainda haja debates importantes sobre os limites dessas propostas, especialmente no que tange à liberdade de expressão, tais iniciativas representam um passo relevante na construção de um arcabouço jurídico capaz de enfrentar os impactos negativos da desinformação sobre o debate público e os processos democráticos.

CONSIDERAÇÕES FINAIS

Apesar dos avanços, o ordenamento jurídico brasileiro ainda carece de normas específicas que responsabilizem de maneira eficaz os indivíduos que criam e compartilham fake news, bem como daqueles que operam bots ou conduzem estratégias coordenadas de desinformação. Por isso, é necessário que sejam feitos esforços para que se preencha essa lacuna normativa. 

Diante disso, pode-se afirmar, em suma, que a responsabilização penal pela divulgação de fake news geradas por inteligência artificial deve se concentrar no agente que pratica a conduta típica com dolo. A aplicação da pena, por sua vez, precisa respeitar os princípios constitucionais da legalidade, imputabilidade e proporcionalidade. 

Nesse contexto, destacam-se a Resolução nº 742/2021, que instituiu o Programa de Combate à Desinformação no âmbito do STF, e o Inquérito das Fake News, instaurado em 2019, como exemplos de esforços para proteger a integridade do debate público.

Em síntese, a abordagem meramente punitiva pode se mostrar insuficiente para combater a disseminação de fake news geradas por IA. Como destacam Müller e Souza (2018), entre as estratégias de combate às fake news estão o letramento informacional e midiático, a elaboração de uma ética da informação e da mídia e a checagem e verificação da qualidade da informação. Por fim, políticas que promovam a transparência, a verificação de fatos e a conscientização sobre o impacto das fake news são fundamentais para mitigar os danos causados pela desinformação no ambiente digital. 

REFERÊNCIAS

ALLCOTT, H.; GENTZKOW, M. Social media and fake news in the 2016 election. Journal of Economic Perspectives, vol. 31, no. 2, p. 211-36, 2017.

ALVES, A. G. T.; BARRETO, A. D. I.; DE OLIVEIRA, A. L. P.; DE ASSIS, D. C.; SANT ANA, G. S. Desvendando a Desinformação: Uma Análise do PL das Fake News e seu Impacto na Sociedade Brasileira. 2024. 24 f. Trabalho de Conclusão de Curso (Graduação em Direito) –  Rede de Ensino Doctum, Unidade de Vila Velha/ES, Vila Velha.

BASSOTTO, V. de F. RESPONSABILIZAÇÃO PENAL PELA DIVULGAÇÃO DE FAKE NEWS E POR CRIMES DE ÓDIO PRATICADOS POR SISTEMAS DE INTELIGÊNCIA ARTIFICIAL GENERATIVA. 2023. 103 f. Trabalho de Conclusão de Curso (Graduação em Direito) –  Faculdade de Direito, Universidade Federal do Rio Grande do Sul, Porto Alegre.

BRASIL. Decreto-lei n° 2.848, de 07 de Dezembro de 1940. Código penal. Diário Oficial da República Federativa do Brasil, Rio de Janeiro, 31 dez. 1940. Disponível em: <https://www.planalto.gov.br/ccivil_03/decreto-lei/del2848compilado.htm> . Acesso em: 11 abr. 2025.

BRASIL. Lei Complementar nº 64, de 18 de maio de 1990. Estabelece, de acordo com o art. 14, § 9º da Constituição Federal, casos de inelegibilidade, prazos de cessação, e determina outras providências. Diário Oficial da União: seção 1, Brasília, DF, 18 maio 1990.

BRASIL. Lei n. 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Diário Oficial da República Federativa do Brasil. Brasília, DF, 23 abr. 2014. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm> . Acesso em: 11 abr. 2025.

BRASIL. Lei n. 13.834, de 4 de junho de 2019. Altera a Lei nº 4.737, de 15 de julho de 1965 – Código Eleitoral, para tipificar o crime de denunciação caluniosa com finalidade eleitoral. Diário Oficial da República Federativa do Brasil. Brasília, DF, 4 jun. 2019. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/l13834.htm>. Acesso em: 11 abr. 2025. 

BRASIL. Projeto de Lei nº 2.630, de 13 de maio de 2020. Institui a Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/141944>. Acesso em: 10 abr. 2025.

CARVALHO JÚNIOR, O. L. de.; CARVALHO, S. S.; SOUSA, B. A. de. Democracia em xeque: inteligência artificial e Deep Fake. Revista JRG de Estudos Acadêmicos, Brasil, São Paulo, v. 7, n. 15, p. e151743, 2024. DOI: 10.55892/jrg.v7i15.1743. Disponível em: <https://revistajrg.com/index.php/jrg/article/view/1743>. Acesso em: 22 mar. 2025.

CASTELO BRANCO, E. E. G. M.; REZENDE, P. I da S. A RESPONSABILIZAÇÃO PENAL PELAS FAKE NEWS NAS ELEIÇÕES. Revista Ibero-Americana de Humanidades, Ciências e Educação, [S. l.], v. 9, n. 9, p. 3600–3611, 2023. DOI: 10.51891/rease.v9i9.11473. Disponível em: <https://periodicorease.pro.br/rease/article/view/11473>. Acesso em: 10 abr. 2025.

DOS SANTOS, L. A.; DE OLIVEIRA, L. M.; RENZ, R. P.; KRETZER, T. H. B. Responsabilização penal da Inteligência Artificial: uma revisão integrativa sobre a possibilidade de entidades tecnológicas serem criminalmente punidas. Revista Avant, Florianópolis, v. 8, n. 2, p. 98–113, 2024. Disponível em: <https://ojs.sites.ufsc.br/index.php/avant/article/view/7653>. Acesso em: 10 abr. 2025.

FERREIRA JUNIOR, M. D.; FERREIRA, G. B. M. PERSPECTIVAS DE SUBSUNÇÃO DAS FAKE NEWS AOS CRIMES TIPIFICADOS NO CÓDIGO PENAL. REVISTA RECIFAQUI, V. 3, N. 11, p. 297-316, 2021. Disponível em: <https://recifaqui.faqui.edu.br/index.php/recifaqui/article/view/120>. Acesso em: 10 abr. 2025.

GELFERT, A. (2018). Fake News: A Definition. Informal Logic, 38(1), 84-117.

GOMES, O. L. C.; DO NASCIMENTO, M. A. R. CRIMES INFORMACIONAIS E AS GARANTIAS DA LIBERDADE DE EXPRESSÃO E DIVULGAÇÃO: LIMITES JURÍDICOS PARA &quot;FAKE NEWS&quot; NO ÂMBITO DO DIREITO PÚBLICO. Revista Jurídica Ivaí (Ivaí Journal of Law), [S. l.], v. 2, n. 1, p. e015, 2024. Disponível em: <https://revista.unifatecie.edu.br/index.php/direito/article/view/321>. Acesso em: 10 abr. 2025.

JARDIM, G. T. Fake news, deepfake e outras ameaças virtuais: os desafios da responsabilidade civil na rede mundial de computadores. Revista de Direito da ADVOCEF, [S. l.], v. 20, n. 36, p. 15–28, 2024. Disponível em: <https://revista.advocef.org.br/index.php/ra/article/view/397>. Acesso em: 22 mar. 2025.

LIMA, M. B. Responsabilidade penal pela divulgação de fake news nas redes sociais. 2018. 75 f. Trabalho de Conclusão de Curso (Graduação em Direito) – Faculdade de Direito, Universidade Federal da Bahia, Salvador. 

MAVIGNIER, C. N. RESPONSABILIDADE PENAL PELA DIVULGAÇÃO DE FAKE NEWS NAS REDES SOCIAIS. Revista Ibero-Americana de Humanidades, Ciências e Educação, [S. l.], v. 9, n. 5, p. 2900–2915, 2023. DOI: 10.51891/rease.v9i5.10054. Disponível em: <https://periodicorease.pro.br/rease/article/view/10054>. Acesso em: 23 mar. 2025.

MÜLLER, F. de M.; DE SOUZA, M. V. FAKE NEWS: UM PROBLEMA MIDIÁTICO MULTIFACETADO. Anais do Congresso Internacional de Conhecimento e Inovação – ciki, [S. l.], v. 1, n. 1, 2018. DOI: 10.48090/ciki.v%vi%i.511. Disponível em: <https://proceeding.ciki.ufsc.br/index.php/ciki/article/view/511>. Acesso em: 22 mar. 2025.

RIPOLL, L.; CANTO, F. L. do. Fake news e “viralização”: responsabilidade legal na disseminação de desinformação. Revista Brasileira de Biblioteconomia e Documentação, [S. l.], v. 15, p. 143–156, 2019. Disponível em: <https://rbbd.febab.org.br/rbbd/article/view/1364>. Acesso em: 22 mar. 2025.

ROHRMANN, C. A.; BARROS, J. R. N. de; XAVIER, M. E. P.. A REGULAMENTAÇÃO DA INTELIGÊNCIA ARTIFICIAL E AS FAKE NEWS: UM ESTUDO COMPARADO SOB LESSIG. Revista de Teorias da Democracia e Direitos Políticos, Florianopolis, Brasil, v. 10, n. 2, 2025. DOI: 10.26668/IndexLawJournals/2525-9660/2024.v10i2.11011. Disponível em: <https://indexlaw.org/index.php/revistateoriasdemocracia/article/view/11011>. Acesso em: 10 abr. 2025. 

SANTIN, J. R.; PRA, M. D.; FACCINI NETO, O. Como regular as fake news no Brasil: análise do Projeto de Lei n. 26/30 (institui a Lei brasileira de liberdade, responsabilidade e transparência na internet). Sequência [Recurso Eletrônico]: Estudos Jurídicos e Políticos, Florianópolis, v. 45, n. 97, 2024. Disponível em: <https://www.scielo.br/j/seq/a/RCBgHncvQQKvxsMWJvwYYXP/?lang=pt>. Acesso em: 22 mar. 2025.

TANDOC Jr, E. C.; LIM, Z. W.; LING, R. (2018). Defining “Fake News” A typology of scholarly definitions. Digital Journalism, 6(2), 137-153.