Com a proliferação de conteúdos gerados por IA em todo o mundo dos meios de comunicação digital, um dos principais pedidos dos decisores políticos e de grupos da sociedade civil tem sido que esse conteúdo seja rotulado.
A ideia é evitar que o conteúdo gerado por IA engane o público, por exemplo, com “deepfakes” que podem fazer parecer que uma pessoa disse algo que nunca disse, ou fazer parecer que um artista musical cantou uma música que nunca gravou. (veja a infame controvérsia do “falso Drake” no início deste ano.)
Agora, a TikTok se tornou a mais recente empresa de mídia a tomar medidas nesse sentido, anunciando na terça-feira (19 de setembro) que está lançando uma nova ferramenta que permitirá aos criadores rotular o conteúdo gerado por IA que carregam na plataforma de mídia social.
A TikTok também disse que está testando novas ferramentas automatizadas para rotular o conteúdo “que detectamos que foi editado ou criado com IA”.
As novas regras foram desenvolvidas em conjunto com vários Conselhos Consultivos de Segurança da TikTok em todo o mundo, e definiram o termo “IA gerada” para o seu rótulo, porque esse termo é “amplamente compreendido… em diferentes grupos demográficos em todo o mundo”.
Além disso, o TikTok afirma que renomeará os filtros que oferece aos usuários para uploads de vídeos, para deixar claro quais deles fazem uso da tecnologia de IA. No futuro, esses filtros terão “AI” em seu nome.
O site de mídia social gerou polêmica no início deste ano com um filtro chamado “Bold Glamour”, que faz com que os assuntos do vídeo pareçam mais jovens e mais “atraentes” do que realmente são.
Enquanto alguns temiam que o filtro promovesse padrões de beleza irrealistas , outros criticaram o TikTok por não divulgar inicialmente que o filtro usava tecnologia de IA.
O anúncio da TikTok de rótulos de IA para conteúdo segue o lançamento de novos padrões comunitários no início deste ano, que traçaram a linha entre o uso aceitável e inaceitável de IA em conteúdo carregado na plataforma.
De acordo com essas regras , os usuários são obrigados a rotular qualquer conteúdo que tenha sido criado ou editado significativamente pela tecnologia de IA. As regras também proíbem certos tipos de conteúdo gerado por IA, como qualquer vídeo que utilize a imagem (vídeo ou áudio) de qualquer figura privada real, bem como conteúdo que tenha sido manipulado “de uma forma que possa induzir uma pessoa em erro sobre informações reais”. -eventos do mundo.”
A política permite o uso de conteúdo gerado por IA apresentando figuras públicas, mas não se for usado para endossos políticos ou comerciais, ou se violar qualquer outra política de conteúdo do TikTok.
“A IA permite oportunidades criativas incríveis, mas pode potencialmente confundir ou enganar os espectadores se eles não souberem que o conteúdo foi gerado ou editado com IA”, disse o TikTok em comunicado . “Rotular o conteúdo ajuda a resolver isso, deixando claro para os espectadores quando o conteúdo é significativamente alterado ou modificado pela tecnologia de IA.”
A política de IA do TikTok é semelhante, mas menos rigorosa, às políticas estabelecidas por seu aplicativo irmão na China, Douyin.
Essas políticas – que seguiram as regulamentações do governo chinês destinadas a reprimir os danos potenciais causados pelo conteúdo de IA – incluem um requisito de rotulagem para conteúdo de IA, mas também exigem que os criadores de conteúdo registrem qualquer “pessoa virtual” usada na plataforma com Douyin; proibir o uso de IA para criar conteúdo que viole direitos autorais; e proibir o uso de IA para criar “conteúdo que viole o bom senso científico, falsifique e espalhe boatos”.
“A IA PERMITE OPORTUNIDADES CRIATIVAS INCRÍVEIS, MAS PODE POTENCIALMENTE CONFUNDIR OU ENGANAR OS ESPECTADORES SE ELES NÃO SOUBEREM QUE O CONTEÚDO FOI GERADO OU EDITADO COM IA. ROTULAR O CONTEÚDO AJUDA A RESOLVER ISSO, DEIXANDO CLARO PARA OS ESPECTADORES QUANDO O CONTEÚDO É SIGNIFICATIVAMENTE ALTERADO OU MODIFICADO PELA TECNOLOGIA DE IA.”
TIKTOK
disse ele aos analistas na teleconferência de resultados do primeiro trimestre da empresa em abril.
“Hoje existem tecnologias no mercado que podem detectar uma pista gerada por IA com 99,9% de precisão, em comparação com uma pista criada por humanos”, disse Ladegaillerie.
“Algo… nos sentimos muito bem [com] é o fato de que a capacidade de controlar [uploads de IA] existe. Agora ele precisa ser implantado em todos os lugares.”Negócios musicais em todo o mundo.
