Prática adotada pelo adolescente chama-se deepfake e, segundo o especialista em Inteligência Artificial, é um tipo de informação falsa gerada por IA capaz de criar imagens, vídeos o gravações de áudio realistas. Caso é investigado pela Delegacia da Infância e Juventude. Deepfake: entenda ferramenta usada por estudante para criar nudes de adolescentes em Sorocaba
Freepik
O caso do jovem de 15 anos que usou Inteligência Artificial (IA) para criar nudes de adolescentes da escola onde estudava repercutiu nos últimos dias em Sorocaba (SP) e provocou o debate sobre os perigos da ferramenta quando usada com más intenções. Mas o que é essa ferramenta que permitiu que fotos fossem alteradas? É possível se proteger das deepfakes?
📲 Participe do canal do g1 Sorocaba e Jundiaí no WhatsApp
O g1 conversou com o professor da Universidade Federal de São Carlos (UFSCar) de Sorocaba Tiago Almeida, especialista em IA e autor do livro “Inteligência Artificial: Uma abordagem de Aprendizado de Máquina”, para entender como funciona o deepfake, ferramenta usada pelo adolescente para criar as imagens, e como se proteger.
Segundo o especialista, o deepfake é um tipo de informação falsa gerada por IA capaz de criar imagens, vídeos o gravações de áudio realistas.
A tecnologia por trás da criação de um deepfake é, normalmente, baseada em um conceito chamado “aprendizado profundo”, que envolve o aprendizado de padrões extraídos de grandes quantidades de dados e que são, posteriormente, usados para manipular ou gerar mídias de uma maneira que pareça genuína.
Saiba como se proteger das deepfakes
Marcos Serra Lima/g1
“Por exemplo, um vídeo de deepfake pode mostrar uma pessoa dizendo ou fazendo algo que ela nunca fez de verdade, criado através da alteração digital do vídeo de tal maneira que pareça real. Embora essa tecnologia pode ser usada para entretenimento ou fins criativos, também levanta preocupações sobre desinformação e privacidade, pois pode ser usada para enganar pessoas e espalhar informações falsas”, explica.
Além de ser usada para enganar pessoas, o software também apresenta diversos riscos potenciais, incluindo a disseminação de desinformação e pode causar prejuízos para as vítimas destas criações. “Eles podem prejudicar reputações ao fazer parecer que alguém disse ou fez algo inadequado e podem ser usados em fraudes e golpes, enganando as pessoas para que entreguem informações sensíveis ou dinheiro”, reforça Tiago Almeida.
Família de aluno de escola particular suspeito de criar nudes de adolescentes com IA diz que caso foi uma ‘brincadeira’
É possível reconhecer um deepfake?
Conforme o especialista, embora seja desafiador, existem algumas pistas que podem ajudar a identificar um deepfake. Confira:
Procure por inconsistências no vídeo ou na imagem, como movimentos não naturais, piscadas estranhas ou expressões faciais desalinhadas. “Métodos de criação de deepfake frequentemente têm dificuldades em criar detalhes como movimentos dos olhos, sincronização labial ou como a luz e as sombras são projetados no rosto”, explica;
Caso a suspeita caia sobre um vídeo, o usuário pode prestar atenção no áudio, pois as vozes podem, muitas vezes, soarem robóticas ou com entonações que não são naturais;
Use softwares projetados para detectar deepfakes, pois eles analisam as “impressões digitais” deixadas pelo conteúdo manipulado;
Verifique as informações com fontes confiáveis caso algo pareça muito chocante ou incomum.
Como me proteger?
Segundo Tiago, é imprescindível ter cuidado com as informações compartilhadas pela internet, especialmente fotos, áudios e vídeos, pois o conteúdo pode ser usado para criação de deepfake.
“Considere usar configurações de privacidade nas redes sociais para limitar quem pode acessar o seu conteúdo, reduzindo as chances de ele ser usado em um deepfake. Por fim, sempre verifique a fonte de qualquer mídia que pareça suspeita ou sensacional demais, e procure confirmar sua autenticidade com veículos confiáveis.”
Aluno é suspeito de usar IA para manipular fotos
Aluno de escola particular que criou falsos nudes de adolescentes com IA presta depoimento
O aluno de uma escola particular é suspeito de criar nudes com Inteligência Artificial (IA) de adolescentes. Dez boletins de ocorrência foram registrados na Delegacia de Defesa da Mulher, mas o caso é investigado pela Delegacia da Infância e Juventude de Sorocaba (SP).
Na sexta-feira (23), ele foi até a delegacia acompanhado dos pais e de um advogado para prestar depoimento.
Ao menos 10 mães registraram boletins de ocorrência denunciando o caso. Conforme o relato de uma delas, o grupo de alunos fez uma viagem a um acampamento em Sapucaí-Mirim (MG), onde ficaram por quatro dias.
Neste acampamento, o menino de 15 anos teria tirado fotos com zoom nos seios e nádegas das adolescentes. Ainda conforme relatos, ele mostrava os registros para os colegas e, supostamente, dizia que iria estuprá-las.
Adolescente prestou depoimento na Delegacia da Infância e da Juventude de Sorocaba (SP)
Fernando Bellon/TV TEM
No dia 13 de agosto, três dias após retornar do acampamento, ele teria divulgado para colegas cerca de 1,5 mil fotos, sendo que algumas teriam sido alteradas por IA, onde as meninas estariam nuas. A mãe não soube especificar a quantidade de fotos manipuladas.
A denúncia foi feita por outros alunos à direção da escola e a família do adolescente teria o transferido do colégio para evitar retaliações. Na terça-feira (20), as mães das alunas registraram boletins de ocorrência na Delegacia de Defesa da Mulher de Sorocaba, e o caso foi transferido para a Delegacia da Infância e da Juventude.
Em nota, a Secretaria de Segurança Pública de São Paulo (SSP) confirmou o registro do caso na DDM como ato infracional, “análogo a utilizar-se de criança ou adolescente em cena de sexo explícito”.
Ainda conforme a SSP, as mães das adolescentes foram até a delegacia para relatar o caso, e que, por envolver menor de idade, o caso será encaminhado à Vara da Infância e Juventude para que o Ministério Público aplique a medida sócio educativa mais adequada.
Mães procuraram a DDM de Sorocaba para denunciar o caso
Reprodução/TV TEM
Em nota, o Colégio Uirapuru informou que teve conhecimento do caso e acompanha a investigação.
“Em respeito a todas as famílias envolvidas nas denúncias, e principalmente por tratar-se de menores, estamos conduzindo o tema com a maior sensibilidade possível. Sempre trabalhamos no intuito de formar alunos conscientes do uso responsável das novas tecnologias, através de palestras e projetos internos, pois entendemos que essa é parte da nossa missão na educação de cidadãos empáticos e responsáveis”, reforçam.
LEIA TAMBÉM:
Entenda as consequências legais que podem ser aplicadas ao estudante
Família diz que caso foi ‘uma brincadeira’
Em nota enviada à TV TEM na sexta-feira (23), a família do estudante disse que o caso foi uma “brincadeira” e que não havia “intenção de prejudicar qualquer pessoa”.
A família também lamentou o caso e negou qualquer ameaça que teria sido feita pelo adolescente de 15 anos (leia a nota na íntegra abaixo).
“A família do menor lamenta que uma brincadeira, sem qualquer intenção de prejudicar qualquer pessoa, tenha tomado tamanha repercussão, e pede desculpas às famílias envolvidas”, informou.
A defesa do adolescente disse que a maioria dos fatos alegados contra o jovem “não correspondem à realidade” e negou que tenha ocorrido contatos físicos ou ameaças verbais às alunas do colégio.
Na manhã desta sexta-feira, o adolescente, acompanhado dos pais e do advogado, prestou depoimento na Delegacia da Infância e Juventude.
Confira a nota da família na íntegra:
“A família do menor lamenta que uma brincadeira, sem qualquer intenção de prejudicar qualquer pessoa, tenha tomado tamanha repercussão, e pede desculpas às famílias envolvidas. É importante esclarecer que a maioria dos fatos alegados contra o menor não correspondem à realidade, jamais existiram contatos físicos ou ameaças verbais a qualquer adolescente, e que no que diz respeito a imagens não existiu qualquer divulgação pública. O menor já prestou as informações à Delegacia da Infância e Juventude, e a família espera e deseja que a verdade reste devidamente apurada pela Justiça e rechaça com veemência as fake news, discursos de ódios, as ameaças e a exploração indevida de informações divorciadas da realidade que vêm sendo realizadas, condutas que não beneficiam a ninguém, e que a seu tempo tomará as medidas cabíveis contra tais atitudes.”
Veja mais notícias da região no g1 Sorocaba e Jundiaí
VÍDEOS: assista às reportagens da TV TEM