Japonês é preso por usar deepfake para eliminar a pixelização que censura o pornô

A polícia japonesa prendeu nesta semana um homem de 43 anos por um delito um tanto particular. O indivíduo estava-se dedicando a usar os mesmos algoritmos usados nos softwares de aprendizado profundo deepfakes para eliminar a censura de genitais nos filmes pornô. Masayuki Nakamoto empregou a tecnologia para restaurar os genitais de milhares de fotos e vídeos de atrizes pornô japonesas que depois vendia através de sua página.

As primeiras investigações apontam que Masayuki embolsou ao redor de onze milhões de ienes (quase 550.000 reais) graças a esta atividade. Depois de sua detenção, Masayuki se declarou culpado das acusações.

As leis japonesas são especialmente estritas com as imagens que mostram genitais de forma explícita. Publicar este tipo de conteúdos pode cair dentro do delito de obscenidade, razão pela qual muitas produtoras pornô censuram estas partes da anatomia usando máscaras pixeladas.

De qualquer forma, o homem não foi preso só por um delito de obscenidade, senão porque ademais estava vendendo conteúdos protegidos por direitos autorais. De fato, sua detenção baseou-se na venda de 10 fotos retocadas desta forma ao preço de 2.300 ienes (115 reais) cada uma.

Ainda que não seja a primeira vez que ocorre uma prisão por delito de obscenidade, sim que é a primeira na que o acusado usa métodos de aprendizagem de máquina para eliminar a censura.

O pornô deepfake ganha popularidade em países como Japão, Coreia ou Taiwan, onde faz pouco foi preso um homem responsável por um grupo de Telegram com uma comunidade de mais de 6.000 pessoas.

As autoridades japonesas, por enquanto, não se propuseram nenhuma proibição ou criminalização do uso da IA para estes fins. Nesse sentido Masayuki não foi acusado de violar a privacidade das atrizes em seus vídeos ou fotos restaurada.

Certamente Masayuki Nakamoto não é o único a lucrar com a tecnologia deepfake. Dentro da comunidade JAV (acrônimo para "vídeo adulto japonês") imagens fotorrealistas criadas usando IA são cada vez mais comuns e levantam muitas questões legais e éticas relacionadas à privacidade, exploração sexual, direitos autorais e expressão artística.

De fato, segundo me disse o primo da mulher de um amigo meu , os sites especializados em JAV já tem até uma categoria chamada "uncensored leaked ("vazado sem censura") exatamente para esta classe de vídeos.

Até agora, como no caso de Masayuki, a tecnologia deepfake vem sendo usada de forma esmagadora para simular vídeos pornográficos e para cometer crimes. Na Índia, por exemplo, uma gangue chantageou pessoas ameaçando enviar vídeos falsos deles para suas famílias.

No momento, não há nenhuma lei que criminalize o uso de IA para fazer essas imagens. Há que racionalizar, no entanto, criminalizar o uso de software deepfake ou tecnologia semelhante não é a resposta certa para o problema, já que as próprias ferramentas podem ser usadas para fins legítimos.

Usar IA para levantar mosaicos não é o que está errado, senão como Masayuki usou a IA. Mas, dados os casos de violação de direitos autorais ou exploração da privacidade de uma pessoa, será necessário introduzir leis que restrinjam como, e não se, a tecnologia deepfake é usada.