O logotipo do site mostra o que parece ser uma versão de desenho animado do presidente Trump segurando uma máscara de teatro.
Sr. DeepFakes/Screenshot por NPR
ocultar a legenda
Alternar a legenda
Sr. DeepFakes/Screenshot por NPR
O notório site de pornografia gerado pela IA, Mrdeepfakes, fechou, depois de perder um provedor de serviços importantes, de acordo com uma mensagem publicada em sua página da web.
“Um provedor de serviços crítico encerrou o serviço permanentemente. A perda de dados tornou impossível continuar a operação”, lia um aviso na página inicial do site na segunda -feira.
“Não estaremos relançando. Qualquer site alegando que isso é falso. Esse domínio acabará por expirar e não somos responsáveis pelo uso futuro”, disse a página, acrescentando que a mensagem seria removida em cerca de uma semana.
O site era popular para permitir que os usuários enviem conteúdo sexual não consensual, alterado digitalmente, particularmente das celebridades, embora houvesse vários casos de semelhanças das figuras não públicas sendo abusadas também.
As motivações por trás desses vídeos de Deepfake incluíram gratificação sexual, bem como a degradação e humilhação de seus alvos, de acordo com um estudo de 2024 de pesquisadores da Universidade de Stanford e da Universidade da Califórnia, San Diego.
“Em novembro de 2023, Mrdeepfakes hospedou 43K Vídeos de DeepFake Sexual, representando 3,8 mil indivíduos; esses vídeos foram assistidos mais de 1,5b vezes”. O documento de pesquisa diz.
Desses vídeos, 95,3% das metas são mulheres de celebridades. A pesquisa também mostrou que, apesar de supostamente proibir esse conteúdo, havia centenas de instâncias documentadas de indivíduos particulares serem alvos e mais de 1.000 vídeos com cenas violentas que representam estupro e abuso.
Os reguladores federais e outras instituições enfrentaram como abaixar essa nova fronteira de desinformação.
Na semana passada, a Câmara dos Deputados dos EUA votou esmagadoramente Para apoiar a Lei de Take It Down, que significa: Ferramentas para abordar a exploração conhecida imobilizando os deeffakes tecnológicos em sites e redes.
A lei estabeleceria penalidades e multas estritas para aqueles que publicam “representações visuais íntimas” de pessoas, reais e geradas por computador, de adultos ou menores, sem seu consentimento ou com intenção prejudicial. Também exigiria sites que hospedem esses vídeos para estabelecer um processo para as vítimas terem essa maneira oportuna de conteúdo.
O projeto aprovou o Senado no início deste ano e foi enviado ao presidente Trump por sua assinatura.