Chefe do Instagram admite não ter solução para deep fakes que copiam criadores

O chefe do Instagram, Adam Mosseri, reconheceu que a plataforma ainda não sabe como combater perfis que reproduzem conteúdos de criadores com deep fakes gerados por inteligência artificial. Segundo o Tecnoblog, que cita reportagem do jornal britânico The Independent, o executivo disse estar "muito preocupado" com a prática.

Mosseri descartou uma proibição geral de conteúdos produzidos com IA. Ele afirmou que a Meta avalia como direcionar mais tráfego aos autores originais e como agir quando um conteúdo é cópia integral da obra de um criador. Segundo o executivo, a empresa discutirá medidas com a equipe da plataforma.

O caso que motivou a repercussão foi relatado pelo comediante norte-americano George Brett Olson. Ele encontrou uma conta que publicou uma de suas apresentações com um avatar feminino gerado por IA no lugar dele. O áudio e o texto eram os originais; apenas a imagem foi substituída.

O perfil tinha mais de 300 mil seguidores e direcionava usuários para uma página no OnlyFans. Outra conta, citada pela comediante Julia Jasunas, reunia cerca de 250 mil seguidores. Olson também relatou que o mesmo tipo de conteúdo aparece em outras áreas, como perfis que usam vídeos de dançarinos para gerar coreografias feitas por personagens de IA.

Ao responder a publicação de Olson, Mosseri escreveu que "vai ficar cada vez mais difícil de identificar" esse tipo de conteúdo e que nem tudo produzido com IA é ruim, "embora haja muito lixo". Segundo ele, uma proibição ampla não seria prática.

A plataforma permite denúncias por violação de direitos autorais, mas, de acordo com Mosseri, o mecanismo nem sempre resolve os casos relatados por criadores. Muitos criadores não adotaram medidas formais de proteção de seus trabalhos. O executivo afirmou que a rede precisa ajudar esses criadores sem abrir espaço para denúncias falsas, o que, segundo ele, "acontece o tempo todo".

Mosseri já havia dito que conteúdos gerados por IA não deveriam aparecer para usuários sem interesse neles, mas negou que os usuários possam bloqueá-los. Essa decisão, segundo ele, continua a cargo do algoritmo.