Meta terá de remover vídeo falso de Ronaldo e reforçar checagem de deepfake

Conselho de Supervisão da Meta, conhecido informalmente como Suprema Corte do Facebook, decidiu reverter uma decisão da empresa na última quinta-feira (5). A big tech manteve no ar, por meses, um anúncio que clonava a voz e a imagem do jogador Ronaldo para divulgar um cassino online chamado Plinko.Os conselheiros encontraram 3.900 anúncios desse jogo de azar, sendo que 3.500 continham vídeos envolvendo a identidade de outras celebridades, como o também ídolo do futebol Cristiano Ronaldo.CONTEÚDO RELACIONADO:Mudanças na Meta prometem mais golpes, fake news e prejuízoNa decisão, o conselho orientou que a Meta reforce a sua política de moderação de deepfakes -reprodução da aparência ou da fala de alguém por meio de inteligência artificial- aumentando a participação humana e treinando os colaboradores. Segundo os julgadores, o protocolo atual coloca os usuários em risco de levar golpes financeiros.O vídeo, que misturava a imagem de Ronaldo com um deepfake da voz do jogador dessincronizado, seguiu no ar mesmo após receber mais de 50 denúncias. A publicação é de setembro de 2024, ficou no ar até o conselho assumir o caso já neste ano e recebeu mais de 600 mil visualizações.Em pronunciamento, a big tech disse que “muitas das alegações do conselho são simplesmente imprecisas”. “Responderemos à recomendação completa em 60 dias, de acordo com os estatutos”, acrescentou.Quer mais notícias de Brasil? Acesso nosso canal no WhatsAppO conteúdo enganoso, após ser alvo de denúncias de fraude por um usuário, recebeu apenas revisão do sistema autônomo da Meta que não encontrou violação. O usuário teve de recorrer duas vezes das decisões do conglomerado de redes sociais para reverter a decisão.A companhia apenas submeteu o material à supervisão humana quando o caso chegou à Suprema Corte do Facebook, alegando que o vídeo parecia ser patrocinado -quando alguém paga para aumentar o alcance da publicação.O impulsionamento do anúncio foi desativado por aplicar “práticas comerciais consideradas inaceitáveis” pela empresa, embora a publicação original tenha permanecido na plataforma. Depois, a Meta removeu o vídeo por violar a política de “fraudes, golpes e práticas enganosas”. Posteriormente, a empresa também constatou violação à política de spam.Os cinco conselheiros responsáveis pelo julgamento avaliaram que o protocolo de moderação automatizada da big tech é insuficiente para remover publicações que fingem ser uma pessoa famosa em uma tentativa de golpe ou fraude mesmo quando houver violações flagrantes.”A Meta provavelmente está permitindo a circulação de quantidades relevantes de conteúdo fraudulento em suas plataformas para evitar a possível aplicação excessiva de regras em um pequeno subconjunto de pronunciamentos genuínos de celebridades”, avaliou a entidade nos autos.De acordo com o veredito, a postura da Meta é “particularmente preocupante” porque as publicações de celebridades já têm proteções adicionais e passam por verificação cruzada antes de serem removidas.”A abordagem da Meta de apenas aplicar essa política [de revisão humana] após buscar contexto adicional por meio de escalonamento favorece a aplicação insuficiente contra conteúdos que violam as regras”, disse o Conselho de Supervisão nos autos.No comunicado, a Meta diz que “as fraudes cresceram em escala e complexidade nos últimos anos, impulsionadas por redes criminosas transfronteiriças implacáveis”.”Estamos testando o uso de tecnologia de reconhecimento facial, aplicando medidas agressivas contra fraudes e capacitando as pessoas a se protegerem por meio de diversas ferramentas e avisos de segurança em nossa plataforma”, completou.O Conselho de Supervisão da Meta, conhecido informalmente como Suprema Corte do Facebook, decidiu reverter uma decisão da empresa na última quinta-feira (5). A big tech manteve no ar, por meses, um anúncio que clonava a voz e a imagem do jogador Ronaldo para divulgar um cassino online chamado Plinko.