Pesquisas de Taylor Swift bloqueadas no X após imagens explícitas de IA

A plataforma de mídia social X, anteriormente conhecida como Twitter, tomou medidas para limitar a disseminação de imagens aparentemente falsas de Taylor Swift depois que elas se tornaram virais na semana passada.

Em meio a protestos dos fãs de Swift nas redes sociais, dos legisladores e do sindicato interino SAG-AFTRA, Axe tornou o nome do vencedor do Grammy impronunciável em sua plataforma no fim de semana. Na tarde de segunda-feira, procurar o nome de Swift sem aspas trouxe uma página de erro que dizia: “Algo deu errado. Tente recarregar.”

Em uma declaração compartilhada com a Associated Press, Joe Benaroch, chefe de operações comerciais da X, disse: “Esta é uma ação temporária e é tomada com muita cautela, pois priorizamos a segurança sobre este problema”.

Na semana passada, várias imagens explícitas do cantor de “Bejeweled” e “Cruel Summer” geradas por IA circularam no Instagram. As fotos adulteradas eram sugestivas e faziam referência ao romance de destaque do cantor de 34 anos com Travis Kelce, do Kansas City Chiefs.

Horas depois que as fotos surgiram na quinta-feira, a equipe de segurança de X usuários lembrados Sua “política de tolerância zero” no compartilhamento de “imagens de nudez não consensual (NCN)”. O comunicado, que não mencionou explicitamente Swift, também disse que os usuários que postaram as imagens seriam responsabilizados.

Adicionada a conta de segurança de X: “Estamos monitorando a situação de perto para garantir que quaisquer outras violações sejam imediatamente resolvidas e o conteúdo removido”. “Estamos comprometidos em manter um ambiente seguro e respeitoso para todos os usuários.”

A nova operação de pesquisa restrita do X não está isenta de erros. Na tarde de segunda-feira, pesquisar o nome completo de Swift entre aspas ou adicionar palavras adicionais ao final da frase de pesquisa “Taylor Swift” traz o número normal de postagens, respostas e imagens – incluindo deepfakes gráficos de Swift.

O presidente-executivo da Tesla, Elon Musk, que assume oficialmente o comando do Twitter em outubro de 2022, cortou a equipe de moderação da plataforma, que tinha a tarefa de fazer cumprir regras contra conteúdo prejudicial.

Um representante de Axe não respondeu imediatamente ao pedido de comentários do The Times na segunda-feira.

Swift ainda não abordou publicamente as imagens explícitas, mas a controvérsia reacendeu a conversa sobre inteligência artificial e a necessidade de mais supervisão, especialmente quando são produzidas imagens de IA que retratam esmagadoramente mulheres e crianças.

“A disseminação de imagens explícitas de Taylor Swift geradas por IA é terrível – e, infelizmente, está acontecendo com mulheres em todos os lugares, todos os dias”, disse o deputado de Nova York Joe Morrell em um tweet na quinta-feira.

“Isso é exploração sexual”, disse ele antes de promover sua proposta de Lei de Prevenção de Deepfakes de Imagens Íntimas, um projeto de lei que tornaria ilegal o compartilhamento de pornografia deepfake sem o consentimento dos indivíduos retratados.

As notícias das imagens do Swift AI causaram polêmica, quando o CEO da Microsoft, Satya Nadella, e a secretária de imprensa da Casa Branca, Carine Jean-Pierre, abordaram separadamente a controvérsia na sexta-feira.

“Isso é muito preocupante. E assim, faremos tudo o que pudermos para lidar com esta questão”, disse Jean-Pierre durante uma coletiva de imprensa, segundo a Reuters. “Portanto, embora as empresas de redes sociais tomem as suas próprias decisões independentes sobre a gestão de conteúdos, acreditamos que é importante aplicar as suas próprias regras para evitar a propagação de desinformação e a utilização não consensual e não consensual de pessoas reais”. papel na implementação de imagens íntimas.”

A SAG-AFTRA, que colocou estipulações relacionadas à inteligência artificial em seu contrato de 2023, chamou as imagens de IA de Swift de “perturbadoras, prejudiciais e profundamente preocupantes”.

“O desenvolvimento e a divulgação de imagens falsas sem o consentimento de alguém – especialmente imagens de natureza obscena – deveriam ser considerados ilegais”, disse o sindicato em comunicado na sexta-feira. “Como sociedade, está ao nosso alcance controlar estas tecnologias, mas temos de agir agora, antes que seja tarde demais.”