As gigantes da tecnologia Apple e Google continuam hospedando, promovendo e lucrando com aplicativos de inteligência artificial projetados para desnudar pessoas ou inseri-las em vídeos pornográficos. A revelação ocorreu após um novo relatório apontar que as lojas virtuais dessas empresas não apenas disponibilizam essas ferramentas criminosas, mas também direcionam ativamente os usuários para elas através de seus algoritmos.
De acordo com informações do Engadget, muitas dessas aplicações de deepfake receberam classificação indicativa livre em suas respectivas plataformas. Isso significa que os programas puderam ser baixados livremente por crianças durante meses, violando de maneira direta as próprias políticas oficiais de ambas as corporações contra a distribuição de conteúdo de natureza sexual.
Como os aplicativos de nudez falsa burlam as regras do Google e da Apple?
O relatório do Tech Transparency Project (TTP) detalha que uma simples busca por termos como nudez ou despir nas lojas de aplicativos concede aos usuários acesso imediato a softwares capazes de fabricar imagens íntimas de pessoas reais. A organização afirma que as plataformas se tornaram participantes essenciais na disseminação sistemática de ferramentas de inteligência artificial que transformam indivíduos em imagens sexualizadas sem qualquer tipo de consentimento prévio.
Além da disponibilidade orgânica nas pesquisas, as lojas de aplicativos chegaram a exibir anúncios pagos de ferramentas semelhantes nos próprios resultados de busca. O grupo de transparência conseguiu identificar dezoito aplicativos dessa natureza na App Store da Apple e vinte na Google Play Store. Enquanto alguns desses softwares utilizavam imagens de forte apelo sexual em seu marketing direto, outros ocultavam seu propósito principal de assédio, embora continuassem totalmente operacionais para a criação de deepfakes explícitos e criminosos.
Qual é o impacto financeiro e o alcance desses aplicativos no mercado?
O alcance global dessas ferramentas apresenta números alarmantes para as autoridades civis e especialistas em segurança digital. De forma coletiva, os aplicativos identificados pelo estudo do TTP já geraram aproximadamente 122 milhões de dólares em receitas para seus desenvolvedores e para as lojas que cobram taxas de comissão. Somado a isso, os programas registraram cerca de 483 milhões de downloads em todo o mundo.
A diretora do TTP, Katie Paul, concedeu uma entrevista à agência Bloomberg para criticar duramente a postura das empresas de tecnologia envolvidas no escândalo de moderação de conteúdo.
“Não é apenas que as empresas estão falhando em revisar adequadamente esses aplicativos e continuam a aprová-los e lucrar com eles. Elas estão ativamente direcionando os usuários para os próprios aplicativos”
, declarou a executiva sobre o papel ativo e cúmplice das lojas virtuais na recomendação desse tipo específico de software de assédio.
Quais medidas as gigantes da tecnologia e os governos estão adotando?
Tanto a Apple quanto o Google afirmam possuir diretrizes rigorosas que proíbem material pornográfico ou sexual em seus ecossistemas, sendo que o Google mantém uma política ainda mais específica e explícita contra aplicativos de nudez gerada por inteligência artificial. Após a repercussão negativa do relatório, a Apple comunicou à Bloomberg a remoção imediata de quinze aplicativos citados pelo grupo investigativo. Por sua vez, o Google declarou ter suspendido uma parcela significativa dos softwares denunciados, enfatizando que investiga e toma medidas apropriadas contínuas sempre que violações são relatadas pelos usuários.
Um dos exemplos mais flagrantes e perturbadores citados no documento é o programa chamado Video Face Swap AI: DeepFace. O software veiculava publicidade aberta mostrando o rosto de uma atriz sobreposto de forma hiper-realista ao corpo de outra profissional. O sistema permitia que os usuários inserissem rostos de pessoas reais do seu convívio em corpos de mulheres parcialmente despidas, tudo isso mantendo incrivelmente uma classificação indicativa livre e adequada para todas as idades na vitrine digital.
A rápida proliferação dessas plataformas de deepfake motivou respostas duras de autoridades legais e legisladores em diferentes partes do mundo para conter a crise:
- A Comissão da Criança do Reino Unido exigiu recentemente a proibição total e absoluta de aplicativos de inteligência artificial que criam imagens sexuais ou de nudez infantil.
- Os Estados Unidos e outras nações propuseram ou já implementaram legislações federais e estaduais específicas para criminalizar a posse e criação de deepfakes explícitos.
- O Procurador-Geral da Califórnia enviou uma ordem de cessação formal à rede social X, de Elon Musk, devido aos deepfakes explícitos gerados sem moderação pela ferramenta Grok.
