Um rótulo discreto em meio a um problema crescente
As atrizes Janhvi Kapoor, Keerthy Suresh e Sunainaa se manifestaram contra o uso indevido de suas imagens em deepfakes criados com inteligência artificial, com alertas de medidas judiciais após a circulação de imagens e vídeos impróprios. As experiências delas levantaram uma questão prática para as plataformas de redes sociais: com que facilidade os espectadores conseguem perceber quando a pessoa na tela foi criada digitalmente?
Conteúdo
CB Arun Kumar, especialista em efeitos visuais e reitor de comunicação, cinema e jogos da Pearl Academy, defende leis que exijam rótulos claros e destacados em conteúdos criados com IA. Segundo ele, os avisos atuais podem passar despercebidos, fazendo com que materiais fabricados pareçam fotografias, gravações ou acontecimentos noticiosos autênticos.
A etiqueta AI Info do Instagram é central em sua crítica. Ele descreve o aviso como um texto pequeno entre o nome de usuário da conta e a imagem ou o vídeo publicado. Sua preocupação é com a visibilidade: uma indicação ajuda pouco na prática se o espectador rola a tela sem percebê-la.
Arun Kumar explicou por que defende regras mais rigorosas para a identificação desses conteúdos:
Precisamos de leis mais rigorosas que exijam rótulos claros e destacados em conteúdos de IA, para que eles não possam mais se passar por notícias, como acontece com alguns vídeos de desastres que se espalham pela internet. O verdadeiro problema surge quando o público já não consegue distinguir o que é real do que é falso.
A proposta aborda dois problemas interligados. Atores enfrentam o dano pessoal de ver sua identidade associada a materiais impróprios. O público corre o risco de acreditar que uma cena fabricada realmente aconteceu. Um rótulo visível informaria os espectadores no momento em que encontram a imagem, antes de decidirem se acreditam nela ou se vão compartilhá-la.
O que aconteceu com as atrizes?
Kapoor, Suresh e Sunainaa estão entre as atrizes que demonstraram choque ou se manifestaram após suas imagens aparecerem em fotos ou vídeos impróprios criados com deepfake. As reações incluem alertas de medidas judiciais contra os responsáveis pelo uso indevido.
Um deepfake é uma imagem, um vídeo ou uma gravação de áudio criado ou alterado com IA para fazer alguém parecer que fez ou disse algo que não fez nem disse. No caso de um ator, traços faciais reconhecíveis podem tornar a falsificação convincente, embora a pessoa nunca tenha participado de sua criação.
O problema imediato é o controle sobre a própria identidade. Um ator pode escolher quais papéis aceitar, quais fotos publicar e quais produtos divulgar. Uma imagem fabricada pode colocar esse mesmo ator em uma cena que ele nunca aprovou, enquanto os espectadores podem, a princípio, supor que a aparição é autêntica.
Arun Kumar defende uma exigência legal mais rigorosa; não anunciou que uma nova regra tenha entrado em vigor. Em seus comentários, não foram identificados nenhum projeto de lei específico, prazo para aplicação ou penalidade proposta.
Imagens falsas já existiam antes da IA
Arun Kumar situa a preocupação atual em uma história mais longa de imagens manipuladas no entretenimento. Antes das ferramentas de IA atuais, era possível usar dublês, Photoshop e técnicas de efeitos visuais, como clonagem e morphing, para criar cenas falsas.
A clonagem copia elementos dentro de uma imagem ou sequência. O morphing transforma uma imagem em outra, inclusive alterando um rosto ou sua aparência. Ambos podem ter usos legítimos na produção cinematográfica, na qual o público espera cenas construídas. O problema surge quando materiais manipulados são apresentados como registros reais da conduta de alguém.
A IA ofereceu outra maneira de produzir esse tipo de material, inclusive para quem busca retornos financeiros rápidos com a atenção e a circulação dos conteúdos. Arun Kumar argumenta que a tecnologia deve ser avaliada por seus usos, enquanto os responsáveis por conteúdos impróprios devem estar sujeitos às medidas legais já disponíveis.
Arun Kumar afirmou que a legislação vigente já oferece caminhos para solicitar a remoção:
Já existem muitas maneiras legais de remover esse tipo de conteúdo impróprio.
A remoção e a identificação dos conteúdos atuam em momentos diferentes da mesma cadeia. Um pedido de remoção busca impedir que uma imagem continue disponível depois de contestada. Um rótulo destacado ajuda as pessoas a avaliá-la enquanto ela ainda está na tela. O argumento dele põe em foco as duas tarefas: responder a materiais prejudiciais e facilitar o reconhecimento de sua origem artificial.
Por que o tamanho do rótulo importa
O pequeno aviso de IA do Instagram ilustra a diferença entre incluir uma indicação e torná-la útil. Arun Kumar quer que as plataformas exibam a informação com destaque suficiente para que espectadores comuns a percebam sem precisar procurá-la ao redor da imagem.
Um vídeo falso de um desastre mostra por que isso importa para além da cultura das celebridades. Quem assiste ao que parece ser uma gravação de uma emergência real precisa entender se a cena foi gerada. Caso contrário, a imagem pode influenciar sua percepção de um acontecimento que não ocorreu da forma retratada.
Para os atores, a questão é ainda mais pessoal. O rosto é o elemento que torna a imagem falsa reconhecível e atrai atenção. Se o espectador não percebe o rótulo, pode associar a cena ao ator antes de descobrir como ela foi produzida.
Por isso, a reivindicação de Arun Kumar diz respeito tanto à apresentação da informação quanto à sua presença. Uma plataforma pode colocar um aviso ao lado de uma publicação, mas seu tamanho e sua posição ainda determinam se ele chegará ao público. O padrão que ele defende é simples: a origem artificial deve estar claramente visível.
O consentimento é uma questão à parte para artistas
Arun Kumar também distingue entre rejeitar a IA como um todo e contestar o uso de obras de um artista sem autorização. A primeira posição é um julgamento sobre uma tecnologia inteira. A segunda diz respeito à forma como determinado material foi obtido e utilizado.
Treinamento é o processo pelo qual um sistema de IA aprende padrões a partir de exemplos, que podem incluir imagens, textos, sons ou vídeos. Artistas preocupados com esse treinamento questionam o que acontece quando seu trabalho criativo passa a fazer parte do processo sem o consentimento deles.
Essa questão vai além dos deepfakes visíveis. Um ator pode contestar uma imagem fabricada, enquanto um ilustrador ou outro criador pode se opor ao uso de seu trabalho para desenvolver o sistema que gera novas imagens. As pessoas afetadas e as condutas que contestam podem ser diferentes.
Arun Kumar argumenta que condenar a IA de forma generalizada ignora essas distinções. Sua posição abre espaço para usos criativos legítimos, ao mesmo tempo que leva a sério as objeções relativas à autorização. Para os leitores, as perguntas úteis são concretas: de quem é a identidade retratada, de quem é o trabalho utilizado e que autorização foi concedida?
Artistas digitais enfrentam pressão sobre seus rendimentos
Segundo Arun Kumar, artistas gráficos que trabalham com mídia, negócios, cinema, televisão, arquitetura e moda enfrentam outra consequência da disseminação da IA. A preocupação é a capacidade de sustentar seu trabalho quando empresas conseguem gerar certos tipos de material visual com mais rapidez.
Arun Kumar afirma que trabalhos que exigem um esforço humano minucioso estão perdendo valor comercial à medida que os resultados gerados por IA se tornam uma alternativa concorrente. Ao decidir como produzir uma imagem, os clientes podem considerar rapidez e custo, além das habilidades e do discernimento de um artista.
A pressão também pode afetar a forma como o trabalho humano é percebido. Arun Kumar alerta que imagens produzidas com cuidado podem ser comparadas a resultados de baixa qualidade gerados por IA. Para um artista, isso significa explicar o valor do próprio trabalho em um mercado onde o público e os clientes encontram cada vez mais os dois tipos de conteúdo.
Arun Kumar descreveu a pressão sobre o emprego e seu conselho aos artistas:
A realidade é que a revolução da IA está tirando o trabalho deles porque ela consegue fazer o serviço mais rápido. Os verdadeiros artistas que souberem usar a IA como mais uma ferramenta em seu fluxo de trabalho vão sobreviver e prosperar.
Fluxo de trabalho é a sequência de etapas usadas para concluir um projeto criativo, da ideia inicial à imagem ou ao filme finalizado. O conselho dele é aprender onde a IA pode se encaixar nesse processo, sem deixar de levar escolhas e técnicas humanas ao trabalho.
A previsão dele é otimista em relação aos artistas que se adaptarem, mas seu relato também reconhece a pressão imediata sobre quem depende de tarefas que a IA consegue acelerar. Os atores que buscam proteção contra imagens fabricadas e os artistas que enfrentam concorrência mais barata vivenciam diferentes aspectos da mesma mudança tecnológica.
Em resumo
- Janhvi Kapoor, Keerthy Suresh e Sunainaa estão entre as atrizes que contestaram o uso indevido de suas imagens em deepfakes.
- CB Arun Kumar, reitor da Pearl Academy e especialista em efeitos visuais, quer leis que exijam rótulos claros e destacados em conteúdos de IA.
- Ele argumenta que avisos pequenos, como a etiqueta AI Info do Instagram, podem passar despercebidos com facilidade.
- Ele defende medidas contra usos prejudiciais da IA e levanta preocupações sobre o uso de trabalhos artísticos sem consentimento.
- Ele afirma que artistas digitais enfrentam pressão sobre seus rendimentos e devem aprender a incorporar a IA a seus processos criativos.
