O X foi, recentemente, inundado por imagens falsas, geradas por Inteligência Artificial, da artista Taylor Swift. As imagens, de conteúdo explícito, alcançaram mais de 27 milhões de visualizações e 260.000 curtidas, antes que a conta de origem fosse suspensa. Incapaz de impedir a disseminação das fotos, apesar da suspensão inicial, a plataforma agora está bloqueando as buscas pelo nome da cantora.
No momento, se alguém pesquisar “Taylor Swift” ou “Taylor Swift AI” no X, provavelmente verá uma mensagem de “Ocorreu um erro”. O chefe de negócios do X, Joe Benarroch, reconheceu a medida como “temporária”, destinada a “priorizar a segurança”. Porém, é claro, não é nem um pouco difícil contornar esse bloqueio.
As políticas do X proíbem explicitamente a nudez não consensual e a mídia sintética e manipulada e a plataforma informou (quase um dia depois que as fotos apareceram) que estava “removendo ativamente todas as imagens identificadas” e tomando medidas contra as contas que as publicaram.
Após a grande repercussão e demonstração de falha em sua moderação de conteúdo, o X também anunciou que está construindo um novo centro de moderação de conteúdo, para 100 pessoas, no Texas, que se concentrará em conteúdo de abuso sexual infantil, mas também terá a tarefa de gerenciar outros elementos.
A Meta também parece estar lidando com o problema, já que em alguns lugares o Threads e o Instagram sugerem “Taylor Swift AI” se você começar a digitar “Taylor” em suas caixas de pesquisa, mas nenhuma das plataformas parece mostrar resultados. Algumas pessoas viram ainda uma mensagem dizendo que o termo “às vezes está associado a atividades de organizações e indivíduos perigosos”.
Fontes: The Verge e Social Media Today
Comentários