Comissão temporária debate efeitos da inteligência artificial nos direitos do titular de dados pessoais

Uma audiência pública na Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), do Senado Federal, debateu  pontos gerais da Inteligência Artificial relacionados aos asp ectos jurídicos , as aplicações da tecnologia e as suas consequências jurídicas a direitos fundamentais, princípios e fundamentos da Lei Geral de Proteção de Dados Pessoais. Foram abordadas também questões relativas às aplicações da tecnologia no cotidiano dos cidadãos.

A audiência foi iniciada pelo au tor do requerimento nº 04/2023 (CTIA) , o senador Eduardo Gomes (PL/TO) , o documento trata sobre a realização de audiências públicas para debater temas e projetos sobre Inteligência Artificial no Brasil.

Fernando Malerbi , do Departamento de Saúde Ocular da Sociedade Brasileira de Diabetes, abriu o debate falando sobre a ampliação do acesso dos pacientes a serviço s que incorpora m a inteligência artificial no tratamento de diabetes e como isso pode trazer benefícios aos avanços nos tratamento s de diabetes . Fernando destacou que sistemas de IA est ão sendo usada s no controle de doses de insulina e no rastreio de complicações crônicas da diabetes , demonstrando assim , as diversa s funcionalidades e benefícios do uso de IA na saúde .

Lucas Borges, Gerente d a projetos da ANPD, deu início a sua fala trazendo o dilema central da regulação de IA - o equilíbrio entre os direitos fundamentais dos indivíduos e a inovação. Para Lucas , “ toda discussão sobre a regulação de IA passa por um equilí brio entre direitos e inovação, que deve proteger direitos fundamentais e minimizar riscos ” . Esclareceu , ainda, que “o s usos de IA são imprevisíveis e talvez infinitos . P or isso é tão importante que, ao mesmo tempo em que se fala de proteger direitos, também n ão se deve esquecer de te n tar equilibrar a regulação d o ponto de vista da promoção e da inovação ” .

O g erente de p rojetos enfatizou , ainda, o papel central da ANPD na regulação do tema , dada a f orte conexão entre IA e dados pessoais . “O treinamento de algoritmos pressupõe a utilização de uma quantidade massiva de dados, os quais em sua maioria são dados pessoais, principalmente naqueles casos mais controversos , que geram maior impacto, classificados como de alto risco . É o caso de situações como trabalho e emprego, controle de imigração de fronteiras, na área de saúde , em situações de discriminação, por exemplo .

Lucas também explicou que a LGPD se aplica a sistemas de IA , mas que ainda há uma série de pontos a serem esclarecidos, como aplicação d os princípios da LGPD d a necessidade e da finalidade, quais as hipóteses legais poderão ser aplicadas a casos concretos e sobre a revisão de decisões automatizadas . Destacou ainda sobre o Estudo preliminar , realizado pela ANPD a respeito d o PL 2338/2023, que dispõe sobre o uso da Inteligência Artificial no Brasil . Falou também sobre o projeto de S andbox R egulatório divulgado recentemente pela Autoridade e concluiu salientando que : “ U ma regulação adequada dos sistemas de IA pressupõe três pontos essenciais : uma abordagem equilibrada entre direitos e inovação ; harmonia e coerência com a LGPD, em especial , afim de evitar fragmentação regulatória ; e o reconhecimento do papel central da ANPD, com seu necessário fortalecimento institucional” .

O s enador Astronauta Marc os Pontes (PL-SC) falou sobre a importância de se considerar o trabalho em conjunto da comissão com a ANPD , que trará maiores benefício s e soluções na regulação da IA. “Muito importante ter em mente que a IA tem uma capacidade muito grande de conclusões, mas não pode tomar decisões que possa m afetar a vida dos seres humanos e deve ser usada para ser um auxílio às decisões humanas” , apontou .

Diogo Cortiz , da PUC-SP, destacou a necessidade de uma atenção redobrada sobre a elaboração de uma estratégia sobre o ecossistema de desenvolvimentos das tecnologias de IA no brasil .

Nina da Hora, Diretora-executiva do Instituto da Hora, defendeu a maior participação de acadêmicos nos debates sobre IA . “Temos que trazer mais perspectivas acadêmicas nas discussões sobre a regulação de IA para uma contribuição mais qualitativa , alinhando conhecimentos técnicos e científicos às necessidades dos cidadãos ” , enfatizou .

O professor da Universidade de São Paulo (USP) Marcelo Finger trouxe um caso da Itália sobre a proibição do uso do Chat GPT e que não funcionou. “ Não funciona frear o desenvolvimento da tecnolog ia ”, afirmou . O professor d eu foco a uma experiência recente sobre o tratamento de IA nos est ú d i os de Hollywood e dos roteiristas que estavam em greve , fazendo um contraponto sobre direitos autorai s, trazendo a questão da necessidade de se regulamentar a otimização dos direitos autorais de textos e roteiros com o uso de softwares de IA.

Gustavo Zaniboni , Presidente da Coordenação de Inteligência Artificial da Associação Brasileira de Governança Pública de Dados Pessoais ( govDADOS ), lembrou aos expectadores da audiência “ que tudo que poderá ser automatizado ser á ” . Falou também s obre a popularização dos sistemas de IA , como a sociedade terá que lidar com essas novidades tecnológicas e sobre a importância da necessidade d e precisão técnica para a abordagem do tema.

Participantes da Audiência Pública:

Lucas Borges de Carvalho

Gerente de Projetos da Autoridade Nacional de Proteção de Dados (ANPD)

Diogo Cortiz

Coordenador do Mestrado e Doutorado em Tecnologias da Inteligência e Design Digital da Pontifícia Universidade Católica de São Paulo (PUC SP)

Marcelo Finger

Professor Titular do Departamento de Ciência da Computação do Instituto de Matemática e Estatística da Universidade de São Paulo (USP)

Fernando Malerbi

Coordenador do Departamento de Saúde Ocular da Sociedade Brasileira de Diabetes (SBD)

Gustavo Zaniboni

Presidente da Coordenação de Inteligência Artificial da Associação Brasileira de Governança Pública de Dados Pessoais ( govDADOS )

Nina da Hora

Diretora Executiva do Instituto da Hora

André Lucas Fernandes

Diretor e fundador do Instituto de Pesquisa em Direito e Tecnologia do Recife ( IP.rec )

André Carlos Ponce de Leon Ferreira de Carvalho

Diretor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP)

Por: Autoridade Nacional de Proteção de Dados (ANPD)