Lei deve vetar uso discriminatório de IA, dizem especialistas

Uma lei que regule o uso de inteligência artificial no Brasil deve ter como base os seres humanos, e não os robôs. A norma também deve exigir que os sistemas tenham transparência e expliquem as decisões que tomam, além de impedir o uso discriminatório da tecnologia.

Foi o que afirmaram advogados, magistrados e pesquisadores que participaram nesta segunda-feira (20/3) do seminário "Marco Legal da Inteligência Artificial. O evento foi promovido pelo Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento, no Rio de Janeiro.

No fim de dezembro, a comissão de juristas responsável por elaborar um anteprojeto de regulação da inteligência artificial no país entregou o relatório final dos trabalhos ao presidente do Senado, Rodrigo Pacheco (PSD-MG). Substitutivo de três projetos de lei relativos ao tema — 5.051/2019, 21/2020 e 872/2021 —, o documento visa a estabelecer princípios, regras e diretrizes para o desenvolvimento e a aplicação da tecnologia.

Presidente da comissão, o ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça, afirmou que o objetivo do projeto é criar balizas para que a inovação tecnológica se desenvolva de maneira segura, tendo os seres humanos como cerne da regulamentação.

Nessa linha, o presidente do Tribunal Regional Eleitoral do Rio de Janeiro, desembargador Elton Leme, destacou que a tecnologia tem de estar a serviços dos homens. O magistrado, que é professor da FGV e coordenador adjunto do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento, também opinou que o desenvolvimento da inteligência artificial exigirá uma reformulação da educação e das habilidades ensinadas aos alunos.

A juíza federal Caroline Tauk, coordenadora acadêmica do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento, citou que o projeto tem três preocupações principais. A primeira é de discutir as finalidades do uso de inteligência artificial. Ou seja, a tecnologia pode ser usada para aumentar a produtividade e a eficiência de empresas, mas também deve buscar incentivar o desenvolvimento social e reduzir a desigualdade.

A segunda é prever a responsabilidade civil das plataformas digitais com base no risco de seus sistemas de inteligência artificial. Quanto mais elevado, maior a interferência estatal para controlar os programas. Já a terceira preocupação é estabelecer transparência algorítmica, privacidade e proteção de dados, segundo a juíza.

Sem discriminação
Mariana Valente, diretora associada do InternetLab, destacou que as regulações sobre inteligência artificial são baseadas em princípios ou em direitos. Normas do primeiro tipo concentram-se em estabelecer postulados para o uso dos sistemas.

As da segunda espécie, por sua vez, fixam direitos, que podem ser exercidos perante órgãos administrativos e tribunais. Entre eles, os de ter explicações sobre decisões tomadas por algoritmos e de não haver vieses nos sistemas.

Já existem leis que protegem as pessoas de eventuais abusos da inteligência artificial, mas elas são insuficientes, de acordo com Miriam Wimmer, diretora da Autoridade Nacional de Proteção de Dados. Ela ressaltou que nem todos os problemas da tecnologia são relativos ao uso de dados pessoais. Por exemplo, a moderação de conteúdo de redes sociais é feita por robôs e pode autorizar publicações abusivas, contendo discurso de ódio, desinformação ou violação de direitos autorais.

É preciso ter uma visão focada no interesse coletivo para o estabelecimento de regras para sistemas de inteligência artificial, declarou a advogada Caitlin Mulholland, conselheira suplente do Conselho Nacional de Proteção de Dados e da Privacidade.

Ela mencionou que sistemas de reconhecimento facial para persecução penal são usados, em grande medida, para o reconhecimento de homens negros. E há estudos que demonstram como as tecnologias ficam viciadas em enquadrar pessoas como essas. Para evitar a discriminação, é preciso que se determine quais são os interesses sociais a serem protegidos de usos abusivos da tecnologia, avaliou ela.

Já a advogada Fernanda Bragança, pesquisadora do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento, apontou que cada setor terá dificuldades específicas para determinar os contornos da exigência de explicação de como os algoritmos funcionam. Contudo, trata-se de uma condição essencial para a norma, que deve balizar a regulamentação brasileira.