A problemática em torno da criação e disseminação de imagens falsas, conhecidas como “deepfakes”, que utilizam a inteligência artificial para gerar conteúdo visual falso, tem se intensificado com os avanços tecnológicos.
Muitas dessas imagens possuem caráter sexual e juntam a imagem de uma pessoa real com um corpo nú, gerado por inteligência artificial.
Normalmente os alvos são menores e mulheres, mas pode ser qualquer um que tenha a sua integridade e dignidade violadas.
No Brasil, o Marco Civil da Internet (Lei nº 12.965/2014) oferece uma base para a proteção de dados e a privacidade online, embora não trate especificamente de deepfakes. No entanto, a Lei Geral de Proteção de Dados Pessoais (LGPD, Lei nº 13.709/2018) reforça a necessidade de consentimento para uso de dados pessoais, o que inclui imagens, e poderia ser aplicada para combater a criação e distribuição não consentida de deepfakes.
Da mesma forma, o Estatuto da Criança e do Adolescente também possui previsão para o caso:
Art. 241C do ECA:
“Simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual.”
É fundamental que as legislações continuem a evoluir e se adaptar, integrando novas tecnologias e métodos de prevenção e punição. Algumas medidas práticas que poderiam ser adotadas incluem a criação de normas mais específicas para o uso de IA na geração de imagens, bem como a obrigatoriedade de sistemas de IA identificarem quando uma imagem foi alterada ou criada artificialmente.
É importante não confundir crimes como os descritos acima com crimes de opinião. São campos distintos e merecem abordagens diversas, não cabendo a pretexto de combater deep fakes, restringir a liberdade de expressão tida por inverídica.
Portanto, a proteção contra abusos mediados por IA, como os deepfakes, requer uma abordagem multifacetada que inclui legislação adequada à realidade digital contemporânea, sem que isso possa transbordar em um cerceamento de discursos tidos por mentirosos, mas que são simplesmente, um espectro político diverso do experienciado pela autoridade que busca a restrição do conteúdo tipo como impróprio.
