Regulação da inteligência artificial deve prever punição e reparação por discriminação ou fake news, diz ministro do STJ

• Entenda: O que é o ChatGPT e por que ele é apontado como a nova fronteira da inteligência artificial?
• Dona do Facebook: Meta entra na corrida do ChatGPT

No fim de 2022, Cueva entregou ao presidente do Senado, Rodrigo Pacheco (PSD-MG), o relatório final da comissão de juristas encarregada de propor subsídios para um projeto de lei. O texto prevê medidas de governança, responsabilização em caso de infração, exigência de transparência e garantia de respeito aos direitos fundamentais. Uma das prioridades é evitar que algoritmos acentuem a discriminação.

Em que pé está a ideia de criar uma lei regulamentando a IA?

Em 2021, um projeto de lei foi aprovado na Câmara. Ele foi encaminhado ao Senado para apreciação, e o presidente da Casa, Rodrigo Pacheco, criou uma comissão de juristas, presidida por mim, para elaborar um eventual substitutivo.

Como está esse debate em outros países?

Na Europa já está em discussão um projeto de lei para disciplinar a inteligência artificial, classificando os riscos, proibindo algumas atividades e prevendo certos cuidados. Nos Estados Unidos, a abordagem é deixar que a tecnologia se desenvolva e, quando estiver madura, aí sim, e só aí, é que poderia regular.

Nos EUA, acreditam que a regulação da inteligência artificial deve ser sobretudo setorial. Por exemplo, veículos autônomos como uma legislação própria; assim como diagnóstico médico e o reconhecimento facial.

• Malandragem artificial: ChatGPT vira isca para golpe que rouba dados pessoais

Qual desses dois modelos o Brasil deveria adotar?

Acho que os dois. Na verdade, o trabalho feito pela comissão de juristas tem um modelo mais ou menos híbrido. Ele dá muita importância aos princípios e diretrizes, mas também cria direitos dos usuários e se inspira no modelo europeu ao criar uma classificação de riscos.

Por exemplo, no uso do reconhecimento facial, existe um risco de discriminação algorítmica, ou seja, a base de dados que é usada para fazer o reconhecimento torna um critério em pessoas de uma única etnia e não de outra. Grupos de pessoas de origem asiática ou africana acabam, às vezes, sendo prejudicados por isso.

Como o senhor vê despachos e decisões de juízes elaborados por IA?

Nosso texto já prevê que o uso da inteligência artificial no Judiciário é uma atividade de alto risco e, como tal, pressupõe um dever de cuidado maior. Significa o quê? Uma auditoria do algoritmo. Você tem de fazer uma análise prévia, para ver se tem algum risco de discriminar ou enviesar.

• Inteligência artificial: Desafia a critatividade? A música é de Anitta? O quadro é de Van Gogh? Faça o teste

Ou seja, é possível usar a IA para um despacho, sob certas condições?

Eu acho que é possível usar a máquina para fazer uma pesquisa. Só isso. Ela não pode substituir jamais o homem. Eu acho que o ser humano é indispensável para exatamente julgar, o que é uma faculdade humana.

Quais os principais desafios para regulamentar a IA?

Há uma resistência da indústria, porque isso implicará alguns custos. Mas, por outro lado, há certa miopia desses setores, porque é a regulação que vai permitir que isso se desenvolva com segurança.

Como impedir que a IA propague fake news?

Com essas ferramentas de inteligência artificial, é cada vez mais difícil saber a fonte daquele texto. Quando você usa uma ferramenta de busca convencional, é possível rastrear a origem da informação. Já esses textos amalgamados são produzidos por máquinas que não pensam, que trabalham com uma agregação enorme de dados e conseguem simular um entendimento, mas não sabem exatamente o conteúdo do que está sendo dito.

• Superando estudantes: ChatGPT é aprovado em MBA e desafia instituições de ensino nos EUA

E como evitar a disseminação de preconceitos?

Como a inteligência artificial trabalha com a agregação de dados, ela pode criar barreiras artificiais. Por exemplo, grandes empresas recebem inúmeros currículos, e o departamento de recursos humanos usará a inteligência artificial para fazer uma pré-seleção. Como muitos contratados são homens, a máquina acaba tendo um viés antiminorias em geral. Isso acaba gerando distorções muito grandes.

O que fazer nesse caso?

Uma das ideias desse texto é criar, como na Lei Geral de Proteção de Dados, um conjunto básico de direitos daquele usuário. A partir daí, você poderá permitir que as pessoas coloquem em xeque o uso da inteligência artificial, seja reclamando de um diagnóstico defeituoso feito pela máquina, ou de um viés que as prejudicou indevidamente, seja na aceitação do currículo, seja na contratação.

Quem fiscalizará esse setor?

Nós não definimos quem vai fiscalizar e nos referimos no texto a uma autoridade federal, inclusive aplicando sanções. Se o Poder Executivo entender que convém, a Autoridade Nacional de Proteção de Dados poderia ter essa atribuição.

• Negócios: Amazon amplia parceria com rival do ChatGPT na corrida pela inteligência artificial

O texto prevê também sanções?

Sim, prevê sanções que podem ser pesadas, mas que ainda precisam ser objeto de um debate maior.

As big techs também estarão sujeitas a essas regras?

Claro.

Quando o país terá essa lei?