Lojas de Apple e Google oferecem apps de deepfakes sexuais, diz relatório
- O Tech Transparency Project acusa as lojas da Apple e do Google de oferecer e indicar apps que geram deepfakes sexuais, inclusive com classificação etária “para todos”.
- O TTP identificou 18 apps desse tipo na App Store e 20 na Google Play; 40% dos 10 primeiros baixados na busca criam imagens sexuais ou pornográficas.
- A Apple afirma ter removido 15 apps; o Google diz ter suspendido vários.
O grupo de pesquisa Tech Transparency Project (TTP) acusa Apple e Google de oferecer e até mesmo indicar, em suas lojas, apps que usam inteligência artificial para transformar imagens de pessoas em fotografias sem roupa.
O relatório publicado na quarta-feira (15/04) afirma que a App Store do iOS e a Google Play do Android promovem ativamente aplicativos do tipo, aplicando até mesmo a classificação etária “para todos”.
É a segunda vez neste ano que o TTP faz uma análise da disponibilidade de apps de deepfakes sexuais nas plataformas de Apple e Google. Em janeiro, a entidade encontrou dezenas de ferramentas do tipo nas lojas.
Lojas mostram apps de nudez não consensual na busca
Segundo o TTP, buscas por “nudify” e “undress” (”nudificar” e “despir”, em tradução livre) trazem, nos resultados, apps que transformam imagens de pessoas em peças de nudez ou as colocam em contextos pornográficos. Os pesquisadores relatam, ainda, que as duas lojas chegam a sugerir termos complementares nessas buscas.
O TTP baixou os dez primeiros apps na lista de resultados. Cerca de 40% eram capazes de criar imagens de nudez ou com pouca roupa.
O grupo identificou 18 apps do tipo na App Store e 20 na Google Play. Alguns estavam disfarçados, mas ofereciam recursos para criar deepfakes, enquanto outros se apresentam abertamente como geradores de conteúdo sexual.
Desses 38 apps, 31 eram classificados como adequados para menores de idade. O TTP recorda que escândalos com deepfakes sexuais nas escolas têm se tornado mais frequentes.
O TTP estima que eles foram baixados 483 milhões de vezes e geraram US$ 122 milhões de receita (R$ 611 milhões, em tradução livre).
O que Apple e Google dizem?
Em resposta à Bloomberg, a Apple afirmou ter removido 15 dos apps identificados pelo grupo, enquanto o Google disse ter suspendido em vários deles.
Como observa o Engadget, as duas empresas têm políticas para banir materiais sexuais e pornográficos, e o Google conta com regras específicas contra apps de produção de nudez não consensual.