Documentário de televisão mostra que a série de documentos Dark Boy Band da Netflix está envolvida em uma controvérsia relacionada à IA
Netflix Por Debopriyaa Dutta/agosto. 1º de janeiro de 2024, 8h45 EST
“Dirty Pop: The Boy Band Scam” da Netflix não é o primeiro documentário a narrar os crimes do golpista/gerente musical Louis Pearlman, que financiou boy bands ultrapopulares dos anos 90, como Backstreet Boys e NSYNC. Antes que o esquema Ponzi de longa data de Pearlman fosse exposto, ele era visto como um empresário ambicioso que conduzia a indústria de boy bands a novos patamares – até que, é claro, as paredes do engano desabaram. Não é surpreendente que a Netflix lance um documentário sobre um infame golpista que acumulou dívidas de mais de US$ 300 milhões. No entanto, é estranho que os produtores tenham optado por usar IA para replicação de voz e imagem do falecido Pearlman para criar imagens manipuladas, que foram colocadas entre evidências de arquivo apoiadas por pesquisas e entrevistas ricas em contexto salpicadas ao longo do documentário.
O uso de IA para criar as imagens alteradas é divulgado antecipadamente. Na verdade, o primeiro episódio começa com imagens de arquivo genuínas de Pearlman sentado em sua mesa, mas logo o ouvimos falando e se dirigindo à câmera. É quando o documentário revela que a filmagem “foi alterada digitalmente para gerar sua voz e sincronizar seus lábios”, onde as palavras proferidas foram retiradas diretamente do livro “Bands, Brands, & Billions” de Pearlman. Pearlman continua a “falar” através desta filmagem alterada pela IA ao longo de três episódios, evocando um efeito de vale misterioso que não parece nem um pouco justificado.
Isso não impediu que a série de documentários ocupasse o primeiro lugar na lista dos 10 melhores programas de TV dos EUA da Netflix. No entanto, as implicações da utilização da IA — tanto divulgadas como não divulgadas — num meio narrativo que depende da verificação objectiva de factos e de provas corroboradas estabelecem um precedente perigoso que não deve ser ignorado. Vamos dar uma olhada no que os produtores de “Dirty Pop: The Boy Band Scam” têm a dizer sobre o assunto.
How Dirty Pop: The Boy Band Scam usou imagens alteradas por IA
Netflix
Um dos co-produtores executivos da série documental, Michael Johnson, conversou com a Netflix TUDUM para explicar como os produtores estavam “animados para ir além com as novas tecnologias” para contar esta importante história “da maneira mais ética possível:”
“Em primeiro lugar, queríamos utilizar esta nova tecnologia da maneira mais ética possível, como uma ferramenta adicional para contar histórias, e não como uma ferramenta de substituição de qualquer tipo. Garantimos os direitos à vida de Lou; usamos apenas palavras escritas pelo próprio Lou; contratamos um ator para transmitir essas palavras; usamos imagens reais de Lou para capturar seus verdadeiros maneirismos e linguagem corporal e contratamos especialistas em IA do MIT Media Lab, Pinscreen e Resemble AI para executar nossa visão.”
Johnson prosseguiu afirmando que as imagens alteradas pela IA ajudaram a estabelecer a realidade subjetiva de Pearlman, o que evocou um contraste com o que suas vítimas vivenciaram, chamando essa justaposição de “essencial para compreender Lou como um ser humano e também como um vigarista tortuoso”. Embora a intenção aqui pareça bastante sincera, a introdução da IA generativa para alterar as imagens existentes e simular uma conversa – que poderia ter sido facilmente transmitida através de narração citada ou reconstituição dramatizada – parece um grande passo em falso.
Além disso, esta não é a primeira vez que uma série de documentários sobre crimes reais da Netflix usa IA para evocar um efeito pretendido, estabelecendo uma tendência perturbadora que põe em risco a ética da credibilidade, ao mesmo tempo que cria uma imagem distorcida da verdade dentro de um meio que sempre teve como objetivo destilá-la. . A subjetividade da verdade só pode ser transmutada em veredictos objetivos com evidências verificadas e testemunhos corroborados, e a presença da IA generativa cria um terreno escorregadio para que uma prática cinematográfica preocupante se enraíze.