YouTube aperta cerco contra deepfakes em vídeos de true crime

Para quem não sabe, deepfake é uma tecnologia capaz de criar vídeos falsos, mas muito realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real através de uma inteligência virtual. Essa tecnologia já foi usada várias vezes e já gerou desde conteúdos pornográficos com celebridades, até discursos fictícios de políticos influentes.

Justamente por conta do “realismo” que o deepfake pode passar hoje em dia que o YouTube não irá mais permitir um conteúdo que “simula de forma realista” narração de menores de idade ou outras vítimas de crimes a respeito de como elas morreram ou da violência que sofreram. Essa mudança é parte da atualização das políticas da plataforma com relação ao assédio e ao cyberbullying.

O foco dessa atualização parece ser em um subgênero de conteúdos relacionados ao true crime, ou seja, crimes reais. Em vídeos desse tipo, às vezes, deepfakes eram usados para os relatos das vítimas a respeito do que elas passaram. Em alguns vídeos existem vozes geradas por inteligência artificial parecida com a de crianças.

Veja também 

Nilton Lins lança curso superior inédito no Brasil de Biotecnologia Amazônica

Inscrições em programa de formação gratuita do Sesc terminam dia 12

Com a atualização, o usuário que usar o deepfake terá o conteúdo removido do seu canal e o que ele poderá fazer na plataforma também será limitado por um tempo. Por exemplo, um primeiro aviso limita ele de postar vídeos por uma semana.

Se o usuário voltar a violar a política em 90 dias, suas penalidades irão aumentar podendo ter o seu canal deletado pelo YouTube.Essa política e preocupação do YouTube com o deepfake não é uma coisa nova ou exclusiva. Tanto que, em novembro do ano passado, o governo da Índia fez um alerta para o Facebook e para o YouTube a respeito das regras do país contra publicações de conteúdo deepfake.

De acordo com a Reuters, outras empresas de mídias sociais também receberam uma notificação e foram lembradas de que o país tem normas contra a técnica como com relação à desinformação.Quem fez esse alerta foi o vice-ministro de TI, Rajeev Chandrasekhar, em uma reunião a portas fechadas. Na ocasião, o ministro ressaltou que várias empresas não atualizaram seus termos de uso, mesmo essas regras estando em vigor desde 2022.

(Foto: Reprodução)

Outro ponto pedido por Chandrasekhar foi que as empresas aumentassem a conscientização a respeito das regras, e lembrassem os usuários, sempre que eles fizessem login, que não podem postar conteúdos deepfake.Conforme o próprio ministro, esse alerta é uma exigência “inegociável” do governo indiano. Ainda segundo ele, se as empresas não seguirem essas regras e colocarem reforços em seus filtros, medidas mais restritivas serão colocadas e provavelmente penalidades maiores serão postas em prática.

Esse alerta sobre deepfake veio logo depois que o ministro de tecnologia da informação do país, Aswini Vaishnaw, anunciar que a Índia está elaborando novas medidas para detectar e limitar a disseminação de deepfakes e mais conteúdos que sejam prejudiciais e que são produzidos com inteligência artificial.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp e Telegram

A criação de um regulamentação a respeito dos conteúdos criados por inteligência artificial veio depois de reuniões com representante de grandes empresas de mídia social, a Associação Nacional de Empresas de Software e Serviços (NASCOMM), e acadêmicos do tema. 

Fonte: BBC