Notícias TV News Um documento sobre crimes reais da Netflix usou imagens de IA de pesadelo do assassino
Domínio público Por Hannah Shaw-Williams/18 de abril de 2024 19h49 EST
O que você faz se estiver fazendo um documentário policial verdadeiro para a Netflix, mas não tiver fotos de boa qualidade do assassino? Bem, você pode filmar uma reconstituição com um ator (com texto para deixar claro que se trata de uma reconstituição). Você pode usar ilustrações ou até animação. O que você provavelmente não deveria fazer é usar IA para preencher as lacunas, resultando em fotos do assassino com dentes e mãos de pesadelo da quarta dimensão.
Infelizmente, foi exatamente isso que os cineastas por trás de “What Jennifer Did”, um documentário de 90 minutos sobre o ataque de Jennifer Pan contra seus próprios pais, decidiram fazer. Os resultados, como visto acima e abaixo, foram perturbadores, para dizer o mínimo. Embora tenha sido amplamente especulado que as imagens são inteiramente geradas por IA, também é possível que um intensificador de fotos de IA como Remini ou VanceAI tenha sido usado em fotos de baixa qualidade para tentar restaurá-las, resultando nos mesmos artefatos encontrados em fotos totalmente- fez imagens de IA. (Nem a Netflix nem a diretora Jennifer Popplewell comentaram ainda sobre a polêmica no momento da publicação.)
Domínio público
As imagens perturbadoras foram relatadas pela primeira vez pelo Futurism no início desta semana, em um artigo destacando os artefatos de IA que são uma revelação absoluta. A 404 Media salienta que a descoberta destas imagens coincidiu, ironicamente, com os líderes da Archival Producers Alliance apresentando um conjunto de projetos de diretrizes para o uso ético da IA na produção de documentários. Falando ao canal, a cofundadora da APA, Rachel Antell, alertou sobre os perigos de turvar o registro histórico com imagens de IA:
“Uma das coisas que percebemos é que, uma vez que uma mídia existe, mesmo que seja divulgada (que é gerada por IA), ela pode ser retirada de qualquer documentário, chegar à internet e a outros filmes, e então será para sempre parte do registro histórico… É muito difícil retirar isso.”
A IA do A24 falha
Domínio público
Foi uma grande semana para falhas de imagens geradas por IA. O querido estúdio independente A24, que recentemente começou a se afastar de suas raízes artísticas e se aproximar de um IP de maior orçamento com potencial de franquia, teve um começo difícil com pôsteres promocionais do novo filme de Alex Garland, “Guerra Civil”. Com um orçamento de produção de US$ 50 milhões, é o filme mais caro da A24 de todos os tempos, e parece que o estúdio tentou economizar alguns centavos encomendando pôsteres gerados por IA para o filme. (De acordo com uma conta de fã, esses pôsteres foram feitos pela agência de marketing digital Watson, que já fez parceria com a A24 em outros lançamentos e também criou um microsite generativo de IA para “Guerra Civil”.)
Embora os pôsteres possam parecer normais à primeira vista, uma análise mais detalhada revela rapidamente erros de IA não verificados. Uma fonte próxima ao filme disse ao Hollywood Reporter que o conceito básico por trás das imagens era “imagens poderosas de marcos icônicos” dentro do mundo devastado pela guerra do filme. No entanto, os geradores de imagens de IA são notoriamente ruins em representar com precisão locais “icônicos”, uma vez que cada imagem inclui um elemento de aleatoriedade. Não apenas a representação acima do Lago Echo Park de Los Angeles é imprecisa, mas parece que a solicitação incluía um pedido de um dos pedalinhos em forma de cisne característicos do lago. Em vez disso, a IA gerou um cisne do tamanho de um barco. O pôster resultante dá a impressão de que “Guerra Civil” é um filme kaiju sobre soldados caçando o cisne gigante.
Os outros pôsteres têm falhas semelhantes. Por exemplo, esta tentativa de representar a Marina City de Chicago inventa uma bifurcação imaginária no rio onde não existe na vida real e move uma das duas torres icônicas para longe de sua parceira e para a ilha imaginária no meio do rio .
Domínio público / Greg McCollum
Rapaz, Chicago realmente foi duramente atingida por aquela guerra civil.