Geradores de vídeo de IA chineses liberam uma enxurrada de novos pornôs não consensuais

 

Uma imagem estática de um vídeo gerado por IA criado com o Pixverse.

404 Media é um site independente cujo trabalho é escrito, relatado e de propriedade de jornalistas humanos e cujo público-alvo são pessoas reais, não scrapers de IA, bots ou um algoritmo de busca. Torne-se um assinante pago aqui para ter acesso a todos os nossos artigos sem anúncios e conteúdo bônus.

Vários geradores de vídeo de IA, a maioria lançados por empresas chinesas, não possuem as proteções mais básicas que impedem as pessoas de gerar nudez e pornografia não consensuais, e já são amplamente utilizados para esse exato propósito em comunidades online dedicadas a criar e compartilhar esse tipo de conteúdo.

Uma investigação da 404 Media sobre esses geradores de vídeo de IA mostra que o mesmo tipo de ecossistema desenvolvido em torno de geradores de imagem de IA e conteúdo não consensual já foi replicado em torno de geradores de vídeo de IA, o que significa que apenas uma única imagem de alguém agora é necessária para criar um pequeno vídeo adulto não consensual deles. A maioria desses vídeos é criada abusando de ferramentas tradicionais de empresas com milhões de dólares em financiamento de capital de risco e são extremamente fáceis de produzir, exigindo apenas uma imagem de referência e um prompt de texto descrevendo um ato sexual. Outras ferramentas usam fluxos de trabalho mais complicados que exigem mais conhecimento técnico, mas são baseadas em tecnologia produzida por algumas das maiores empresas de tecnologia do mundo. Estas últimas são gratuitas e atraíram uma grande comunidade de amadores que produziram guias para esses fluxos de trabalho, bem como ferramentas e modelos que tornam esses vídeos mais fáceis de produzir.