O 2º Encontro da Rede Amazonense de Proteção de Dados (RAPD), realizado nesta quinta-feira (27/8), reuniu especialistas para discutir os impactos do avanço da Inteligência Artificial sobre a sociedade e a proteção de dados pessoais. O evento abordou questões como privacidade, deepfakes, identidade digital, discriminação algorítmica e os limites das decisões automatizadas.

Com o tema “Inteligência Artificial e Sociedade: Controle, Comportamento e Confiança”, o encontro promovido pela RAPD foi realizado no auditório do Centro Administrativo Desembargador José de Jesus Ferreira Lopes, anexo à sede do Tribunal de Justiça do Amazonas (TJAM), na Avenida André Araújo, bairro Aleixo.

De acordo com a 2ª subdefensora pública geral do Amazonas, Sarah Lobo, ao disseminar informações sobre as novas tecnologias, o evento contribui para combater a vulnerabilidade digital da população.

Veja também 

Projeto promove tarde de cinema e cultura para pessoas 60+ em Manaus

Valéria Alves retorna a Manaus com “Brega de Paredão” em parceria com a Sua Música na Praça do Eldorado

“A educação em direitos também leva ao exercício da cidadania. É por meio dela que teremos uma sociedade menos desigual e menos desinformada, combatendo a vulnerabilidade digital”, afirmou.

O presidente da Rede Amazonense de Proteção de Dados (RAPD), Rudson Nunes, que também é encarregado de Dados da Defensoria do Amazonas, ressaltou que o objetivo é disseminar conhecimento para que a sociedade esteja mais protegida em um momento em que a inteligência artificial ganha cada vez mais protagonismo na rotina das pessoas.

“Tudo o que usamos no nosso dia a dia já tem influência da tecnologia. Precisamos ter cuidado, já que isso impacta na proteção de dados. As leis e diretrizes vêm para equilibrar essa balança, não para impedir a evolução da tecnologia, mas para que isso aconteça de forma responsável”, afirmou.

PROGRAMAÇÃO

Na palestra magna, a coordenadora geral de Estudos e Pesquisas da Superintendência de Inovação Tecnológica (Sitec) da Agência Nacional de Proteção de Dados (ANPD), Ângela Halen Claro, apresentou informações abordadas no sexto volume da série Radar Tecnológico, elaborada pela instituição.

A publicação, disponível no link https://www.gov.br/anpd/pt-br/centrais-de-conteudo/documentos-tecnicos-orientativos/rt_deepfakes_anpd.pdf/@@display-file/file, trata dos deepfakes, mídias como áudios, fotos e vídeos criados por meio de inteligência artificial generativa que imitam objetos e pessoas reais de forma altamente realista.

“O ponto de partida do estudo foi ver o que entendemos por deepfakes. Ao compreendermos a nomenclatura, podemos analisar tecnicamente e criar defesas eficazes em casos em que a tecnologia é usada de forma enganosa, com má-fé”, declarou.

CAPTAÇÃO E TRATAMENTO DE DADOS COM IA

No painel “De quem são os nossos dados na era da inteligência artificial?”, os convidados abordaram o tema sob diferentes perspectivas.

Juliana Campagnolli, presidente da Comissão de Inteligência Artificial da OAB-AM, levantou o debate sobre o avanço da inteligência artificial e sua crescente integração ao cotidiano, a ponto de a tecnologia se tornar praticamente invisível para a população. Ao apresentar exemplos como óculos capazes de filmar em alta resolução, robôs humanoides e drones, ela destacou a dificuldade cada vez maior de controlar como os dados pessoais são utilizados, já que a inteligência artificial não está mais restrita a computadores e celulares.

“As chances de violações são muito maiores quando a IA sai das telas e vem para o mundo físico. A inteligência artificial faz parte de tudo no nosso dia a dia e passa a ficar invisível. Com isso, não percebemos mais os riscos, e o uso dos nossos dados fica mais suscetível ao uso indevido”, declarou.

O controlador-geral do Estado do Amazonas, Jeibson Justiniano, chamou a atenção para a contraposição entre o interesse público pelo acesso a dados e a proteção dessas informações, especialmente em casos de investigação. Segundo ele, quando se trata de informações públicas, é necessário equilibrar a transparência com a proteção de dados pessoais.

“Fazer o tratamento de dados de forma adequada não quer dizer bloquear todos os acessos, mas é preciso criar espaços de responsabilização”, afirmou.

Já Renato Borges, diretor-presidente da Prodam, destacou a importância de discutir a governança da inteligência artificial a partir da forma como os agentes públicos utilizam a tecnologia.

“Na ânsia de otimizar processos, agentes públicos podem recorrer a essa ferramenta, mas não podemos ignorar a segurança. Sem alguns cuidados, você cria mais superfície de ataque. Isso faz com que precisemos de controles cada vez mais sofisticados”, refletiu.

DEEPFAKES, IDENTIDADE DIGITAL E PROTEÇÃO DE DADOS

Com mediação do defensor público e coordenador da Defensoria Digital, Arlindo Gonçalves, o segundo painel refletiu sobre os desafios criados pelas clonagens de áudio, vídeo e fotos.

No debate, Luciana Souza, pesquisadora do Centro de Estudos Constitucionais do Supremo Tribunal Federal (STF), abordou os impasses na avaliação de provas judiciais em tempos de deepfakes e afirmou que é preciso criar mecanismos para enfrentar esse problema.

“Ao Direito não cabe frear a tecnologia, mas é necessário governar os limites da tecnologia para proteger a dignidade humana. Precisamos enfrentar a opacidade algorítmica”, afirmou.

Sarah Sakamoto, analista e encarregada de dados substituta da Defensoria Pública do Paraná (DPPR), explicou didaticamente como identificar as deepfakes e destacou que a falta de informação amplia a vulnerabilidade da população em relação ao assunto. Para ela, o papel das instituições é disseminar conhecimento para evitar problemas como golpes digitais praticados a partir dessas tecnologias.

“Podemos trabalhar na disseminação de conhecimento para fortalecer as nossas bases e a população. Pessoas mal-intencionadas se aproveitam da falta de informação para aplicar golpes”, disse.

Luan Seminário, procurador do estado e encarregado de dados da Procuradoria Geral do Amazonas, trouxe exemplos de como a tecnologia vem sendo usada, muitas vezes de forma ilegal. Entre os casos apresentados, estava o uso indevido da imagem de um agente público para extorquir pessoas. Luan também falou sobre a queda da credibilidade da administração pública perante a população quando situações como essa acontecem.

“A confiança das pessoas cai a partir de um só exemplo de fraude”, declarou. Em seguida, destacou a importância de as instituições públicas prevenirem situações de crise: “A administração pública tem dever de tomar todas as medidas necessárias para mitigar os efeitos de situações de risco”, afirmou.

A IA CONHECE VOCÊ MELHOR DO QUE VOCÊ MESMO?

O último painel, mediado pelo promotor de justiça do Amazonas Darlan Benevides de Queiroz, levou os participantes a refletirem sobre os limites do uso de dados pessoais em ferramentas de Inteligência Artificial.

Nesse contexto, Igor Campagnolli, encarregado de Dados do Tribunal de Justiça do Amazonas (TJAM), apresentou uma simulação prática para demonstrar como é possível programar uma IA para reproduzir sensações e comportamentos humanos. Ao mesmo tempo, destacou que, apesar da capacidade de imitação, tudo ainda é uma criação tecnológica.

“Talvez ela possa conhecer os nossos padrões, mas uma simulação perfeita ainda não é você”, afirmou.

A coordenadora geral da Comissão de Proteção de Dados do Conselho Nacional das Defensoras e Defensores Públicos-Gerais (Condege), Rafaela Alvarenga, também abordou os vieses presentes nos algoritmos, que podem reproduzir padrões e desigualdades da própria sociedade. Segundo ela, os erros provocados por sistemas de IA podem afetar a população de maneiras diferentes, especialmente de acordo com os níveis de vulnerabilidade.

“Crianças, pessoas idosas, pessoas com deficiência, por exemplo, são mais impactadas quando acontece um erro causado pela IA”, destacou.

Por fim, Alcian Souza, diretor da Agência de Inovação e coordenador do Núcleo de Direito, Tecnologia e Inovação da Universidade do Estado do Amazonas (UEA), chamou a atenção para o risco de a tecnologia não apenas conhecer os padrões de comportamento das pessoas, mas também influenciar suas escolhas.

“É preciso compreender até onde as nossas decisões são realmente nossas”, refletiu.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram  

A programação foi elaborada pela RAPD, que é composta por instituições como Defensoria Pública do Estado do Amazonas (DPAM), Tribunal de Justiça do Amazonas (TJAM), Tribunal Regional Eleitoral (TRE-AM), Ministério Público do Amazonas (MPAM), Tribunal de Contas do Estado (TCE-AM), Controladoria-Geral do Estado (CGE-AM), Universidade do Estado do Amazonas (UEA), Procuradoria-Geral do Estado (PGE-AM), Prefeitura de Manaus, OAB-AM, Prodam, entre outras.