Ética, Governança e Inteligência Artificial
De Alexandre Pacheco, Alexandre Zavaglia Coelho, Marina Feferbaum e Ana Carolina Rodrigues Dias Silveira
()
Sobre este e-book
Relacionado a Ética, Governança e Inteligência Artificial
Títulos nesta série (80)
Ética, Governança e Inteligência Artificial Nota: 0 de 5 estrelas0 notasA Lei Geral de Proteção de Dados Brasileira: Análise setorial Vol. II Nota: 0 de 5 estrelas0 notasDireito e Liberdade: Estudos em homenagem ao Prof. Dr. Nereu José Giacomolli Nota: 0 de 5 estrelas0 notasAspectos controvertidos da reforma tributária: Na Visão dos Procuradores da Fazenda Nacional Nota: 0 de 5 estrelas0 notasViolência contra a Mulher Nota: 0 de 5 estrelas0 notasDireito de Família: Aspectos contemporâneos Nota: 0 de 5 estrelas0 notasTratado de Bioética Jurídica Nota: 0 de 5 estrelas0 notasDireito Autoral e Internet: Diagnósticos e Perspectivas do Debate Brasileiro Nota: 0 de 5 estrelas0 notasDireitos das Mulheres: Igualdade, perspectivas e soluções Nota: 0 de 5 estrelas0 notasNova Lei de Recuperação Judicial Nota: 0 de 5 estrelas0 notasLiber Amicorum Teresa Ancona Lopez: Estudos sobre Responsabilidade Civil Nota: 0 de 5 estrelas0 notasTratado de Proteção da Diversidade: Sexualidade, Gênero e Direito Nota: 0 de 5 estrelas0 notasAtividade publicitária no Brasil: Aspectos jurídicos Nota: 0 de 5 estrelas0 notasRiscos no Direito Privado e na Arbitragem Nota: 0 de 5 estrelas0 notasEstatuto da Pessoa com Deficiência: Reflexões e Perspectivas Nota: 0 de 5 estrelas0 notasReforma Tributária: Tributação, desenvolvimento e economia digital Nota: 0 de 5 estrelas0 notasInteligência Artificial: aspectos Jurídicos Nota: 0 de 5 estrelas0 notas10 Anos da Lei das Organizações Criminosas: aspectos criminológicos, penais e processuais penais Nota: 0 de 5 estrelas0 notasReforma Tributária em Pauta Nota: 0 de 5 estrelas0 notasDireito Constitucional Tributário: Análise de casos de repercussão geral em sede tributária Nota: 0 de 5 estrelas0 notasSistemas Tributários no Mundo: A tributação no Direito Comparado Nota: 0 de 5 estrelas0 notasEstatuto da Criança e do Adolescente: Entre a Efetividade dos Direitos e o Impacto das Novas Tecnologias Nota: 0 de 5 estrelas0 notasDireitos Fundamentais dos Contribuintes: Homenagem ao jurista Gilmar Ferreira Mendes Nota: 0 de 5 estrelas0 notasDiscurso de Ódio: Desafios Jurídicos Nota: 0 de 5 estrelas0 notasDireito Tributário nos Tribunais Superiores: Estudos em homenagem à Ministra Regina Helena Costa Nota: 0 de 5 estrelas0 notas
Ebooks relacionados
Inteligência Artificial: aspectos Jurídicos Nota: 0 de 5 estrelas0 notasRegulação das relações de consumo: Lições contemporâneas Nota: 0 de 5 estrelas0 notasTeoria Fundamental Do Direito Digital: Uma Análise Filosófico-constitucional Nota: 0 de 5 estrelas0 notasGoverno Digital Nota: 0 de 5 estrelas0 notasInterconstitucionalidade E Interdisciplinaridade Nota: 0 de 5 estrelas0 notasPerpectivas latino-americanassobre o constitucionalismo no mundo Nota: 0 de 5 estrelas0 notasConstitucionalismo E Geopolítica Nota: 0 de 5 estrelas0 notasAcesso À Justiça: Aspectos Constitucionais E Sociais Nota: 0 de 5 estrelas0 notasO Poder de Controle nas Companhias Abertas com Capital Disperso: conceito, requisitos e exercício Nota: 0 de 5 estrelas0 notasManual de direito na era digital - Consumidor Nota: 0 de 5 estrelas0 notasA jurisdição e a proteção à vulnerabilidade do consumidor: análise da cadência decisória no STJ Nota: 0 de 5 estrelas0 notasDireito Constitucional: panoramas plurais: Volume 4 Nota: 0 de 5 estrelas0 notasInteligência Artifical e Direito Nota: 0 de 5 estrelas0 notasAcesso À Justiça E Inovações Do Direito Nota: 0 de 5 estrelas0 notasConvenções Coletivas e Proteção do Consumidor: a experiência do Brasil e da União Europeia Nota: 0 de 5 estrelas0 notasAtuação Estatal Estabilizadora: pressupostos, requisitos e limites - Prefácio Prof. Dr. Humberto Ávila Nota: 0 de 5 estrelas0 notasDireito Constitucional: panoramas plurais: - Volume 3 Nota: 0 de 5 estrelas0 notasEnsaiando o olhar latino-americano: insistência de uma cena situada Nota: 0 de 5 estrelas0 notasJudicialização da Política: o processo político-eleitoral e fidelidade partidária no Brasil (1988-2008) Nota: 0 de 5 estrelas0 notasDireito Público: análises e confluências teóricas: - Volume 7 Nota: 0 de 5 estrelas0 notasAcordos e políticas de leniência: Contribuição para o diálogo e a harmonização Nota: 0 de 5 estrelas0 notasJudicialização: o reflexo no Orçamento Público Municipal Nota: 0 de 5 estrelas0 notasLicenças Livres e Direitos Fundamentais Nota: 0 de 5 estrelas0 notasO público e o privado nos contratos civis Nota: 0 de 5 estrelas0 notasReflexões sobre Teoria e História do Direito: Estudos em Homenagem a José Reinaldo de Lima Lopes Nota: 0 de 5 estrelas0 notasDanos póstumos e proteção da memória da pessoa falecida Nota: 0 de 5 estrelas0 notas
Direito para você
Direito Previdenciário em Resumo, 2 Ed. Nota: 5 de 5 estrelas5/5Manual de direito administrativo: Concursos públicos e Exame da OAB Nota: 0 de 5 estrelas0 notasManual de Direito Previdenciário de acordo com a Reforma da Previdência Nota: 0 de 5 estrelas0 notasPortuguês Para Concurso Nota: 0 de 5 estrelas0 notasConsolidação das leis do trabalho: CLT e normas correlatas Nota: 5 de 5 estrelas5/5350 Dicas de direito tributário Nota: 5 de 5 estrelas5/5COMUNICAÇÃO JURÍDICA: Linguagem, Argumentação e Gênero Discursivo Nota: 5 de 5 estrelas5/5Falsificação de Documentos em Processos Eletrônicos Nota: 5 de 5 estrelas5/5Introdução ao Estudo do Direito Nota: 4 de 5 estrelas4/5Caminho Da Aprovação – Técnico Do Inss Em 90 Dias Nota: 0 de 5 estrelas0 notasDireito constitucional Nota: 5 de 5 estrelas5/5Simplifica Direito: O Direito sem as partes chatas Nota: 0 de 5 estrelas0 notasManual dos contratos empresariais Nota: 5 de 5 estrelas5/5A Pronúncia Do Inglês Americano Nota: 0 de 5 estrelas0 notasDicionário de Hermenêutica Nota: 4 de 5 estrelas4/5Direito Constitucional Brasileiro Nota: 0 de 5 estrelas0 notasComo passar em concursos CESPE: língua portuguesa: 300 questões comentadas de língua portuguesa Nota: 4 de 5 estrelas4/5Contratos de prestação de serviços e mitigação de riscos Nota: 5 de 5 estrelas5/5ITBI: doutrina e prática Nota: 5 de 5 estrelas5/5Bizu Do Direito Administrativo Nota: 0 de 5 estrelas0 notasManual de Direito das Famílias Nota: 0 de 5 estrelas0 notasComo Ser Aprovado No Exame De Ordem (oab) Em 3 Meses Nota: 0 de 5 estrelas0 notasConstituição Federal: Atualizada até EC 108/2020 Nota: 5 de 5 estrelas5/5LDB: Lei de Diretrizes e Bases da educação nacional Nota: 5 de 5 estrelas5/5Como passar em concursos CESPE: direito constitucional: 339 questões de direito constitucional Nota: 0 de 5 estrelas0 notasDireito Civil: Direito das sucessões Nota: 0 de 5 estrelas0 notasInvestigação Criminal: Ensaios sobre a arte de investigar crimes Nota: 5 de 5 estrelas5/5Lições de Direito Civil - Vol. 1 - Teoria geral: Das pessoas, dos bens e dos negócios jurídicos Nota: 0 de 5 estrelas0 notas
Avaliações de Ética, Governança e Inteligência Artificial
0 avaliação0 avaliação
Pré-visualização do livro
Ética, Governança e Inteligência Artificial - Alexandre Pacheco
ÉTICA, GOVERNANÇA E INTELIGÊNCIA ARTIFICIAL
© Almedina, 2023
COORDENADORES: Alexandre Pacheco da Silva, Alexandre Zavaglia Coelho, Marina Feferbaum e Ana Carolina Rodrigues Dias Silveira
DIRETOR ALMEDINA BRASIL: Rodrigo Mentz
EDITORA JURÍDICA: Manuella Santos de Castro
EDITOR DE DESENVOLVIMENTO: Aurélio Cesar Nogueira
ASSISTENTES EDITORIAIS: Larissa Nogueira e Letícia Gabriella Batista
ESTAGIÁRIA DE PRODUÇÃO: Laura Roberti
DIAGRAMAÇÃO: Almedina
DESIGN DE CAPA: FBA
CONVERSÃO PARA EBOOK: Cumbuca Studio
e-ISBN: 9786556279145
Agosto, 2023
Dados Internacionais de Catalogação na Publicação (CIP)
(Câmara Brasileira do Livro, SP, Brasil)
Ética, governança e inteligência artificial /
coordenação Marina Feferbaum...[et al.]. –
São Paulo : Almedina, 2023.
Outros coordenadores: Alexandre Pacheco da Silva,
Alexandre Zavaglia Coelho, Ana Carolina Rodrigues
Dias Silveira.
e-ISBN 978-655-627-914-5
1. Ética 2. Governança 3. Inteligência artificial
- Legislação 4. Proteção de dados - Direito – Brasil
5. Proteção de dados - Leis e legislação
I. Feferbaum, Marina.
23-158259
CDU-342.721(81)
Índices para catálogo sistemático:
1. Brasil : Proteção de dados pessoais : Direito 342.721(81)
Eliane de Freitas Leite - Bibliotecária - CRB 8/8415
Este livro segue as regras do novo Acordo Ortográfico da Língua Portuguesa (1990).
Todos os direitos reservados. Nenhuma parte deste livro, protegido por copyright, pode ser reproduzida, armazenada ou transmitida de alguma forma ou por algum meio, seja eletrônico ou mecânico, inclusive fotocópia, gravação ou qualquer sistema de armazenagem de informações, sem a permissão expressa e por escrito da editora.
EDITORA: Almedina Brasil
Rua José Maria Lisboa, 860, Conj.131 e 132, Jardim Paulista | 01423-001 São Paulo | Brasil
www.almedina.com.br
SOBRE OS COORDENADORES
Marina Feferbaum
Professora de Direito na Escola de Direito de São Paulo da Fundação Getulio Vargas (FGV Direito SP). Leciona na área de Direito e Tecnologia nos programas de graduação e pós-graduação da FGV Direito SP e coordena o Centro de Ensino e Pesquisa em Inovação (CEPI) da FGV Direito SP. É Doutora e Mestre em Direitos Humanos pela Pontifícia Universidade Católica de São Paulo (PUC-SP) e graduada pela mesma instituição.
Alexandre Pacheco da Silva
Professor de Direito na Escola de Direito de São Paulo da Fundação Getulio Vargas (FGV Direito SP). Leciona na área de Direito e Tecnologia nos programas de graduação e pós-graduação da FGV Direito SP e coordena o Centro de Ensino e Pesquisa em Inovação (CEPI) da FGV Direito SP. É Doutor em Política Científica e Tecnológica pelo Instituto de Geociências da Universidade Estadual de Campinas (Unicamp) e Mestre em Direito e Desenvolvimento pela FGV Direito SP.
Alexandre Zavaglia Coelho
Mestre em Direito e Doutorando em Tecnologia da Inteligência e Design Digital pela Pontifícia Universidade Católica de São Paulo (PUC-SP), um dos pioneiros no uso de técnicas de Ciência de Dados e Inteligência Artificial na área do Direito, assim como de projetos de ethics by design. Diretor de Inovação da New Law School. Coordenador Executivo do grupo de pesquisa de Governança de Dados e Regulação de IA do Centro de Ensino e Pesquisa em Inovação (CEPI) da FGV Direito SP. Presidente da Comissão de Direito, Inovação e Tecnologia do Instituto dos Advogados de São Paulo (IASP). Professor da Pós-Graduação em Inteligência Artificial da Universidade de Lisboa e de diversas instituições de ensino. Autor de livros e textos sobre as relações entre Direito e Tecnologia.
Ana Carolina Rodrigues Dias Silveira
Graduação em Direito pela Universidade de São Paulo (USP). Alumni da V Escola de Governança da Internet (EGI.br), organizada pelo Nic.br e pelo CGI.br. Youth Fellow da Internet Society (ISOC), no LACIGF 2018 e no IGF 2018. Cofundadora do São Paulo Legal Hackers e membro da comunidade Global Shapers (WEF). Foi monitora do programa de pós-graduação do FGVLAW. Atualmente, é pesquisadora do Centro de Ensino e Pesquisa em Inovação (CEPI) da FGV Direito SP, onde desenvolve pesquisas e atividades sobre temas relacionados à regulação da economia digital, com destaque para futuro das profissões e das organizações jurídicas, liderança e inovação no direito, governança e regulação do trabalho em plataformas digitais.
Sobre os Autores
Aline Fuke Fachinetti
Candidata ao LL.M em Innovation, Technology and the Law na University of Edinburgh. Especialista em Direito Empresarial pela Escola de Direito de São Paulo da Fundação Getulio Vargas (FGV Direito SP). Bacharel em Direito pela Pontifícia Universidade Católica de São Paulo (PUC-SP). Gerente Regional de Proteção de Dados na Edenred. Cofundadora e Diretora da Associação Juventude Privada. 40 under 40 pelo Global Data Review e Fellow of Information Privacy pela International Association of Privacy Professionals (IAPP). Integrante do conselho consultivo da IAPP Women Leading Privacy Board. Vice-Presidente da Comissão de Direito Digital e Compliance da 17ª Subseção da OAB/SP.
Ana Frazão
Advogada e Professora Associada de Direito Civil, Comercial e Econômico da Universidade de Brasília (UnB).
Ana Paula Camelo
Doutora em Política Científica e Tecnológica e Mestre em Divulgação Científica e Cultural pela Universidade Estadual de Campinas (Unicamp). Possui graduação em Comunicação Social – com habilitação em Jornalismo pela Universidade Federal de Viçosa (UFV). Pesquisadora e gestora de projetos no Centro de Ensino e Pesquisa em Inovação (Cepi), na Escola de Direito de São Paulo da Fundação Getulio Vargas (Pós-doutoranda no IPP-Cebrap).
Celina Bottino
Graduada em Direito pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Mestre em Direitos Humanos pela Universidade Harvard. Especialista em Direitos Humanos e Tecnologia. Foi pesquisadora da Human Rights Watch em Nova York. Supervisora da Clínica de Direitos Humanos da FGV Direito Rio. Foi consultora da Clínica de Direitos Humanos de Harvard e pesquisadora do ISER. Associada ao Centro de Defesa dos Direitos da Criança e Adolescentes do Rio de Janeiro. Atualmente desenvolve pesquisas sobre Direitos Humanos e Tecnologia coordenando projetos na área de Liberdade de Expressão e Privacidade. É afiliada ao Berkman Klein Center de Harvard e diretora de projetos do Instituto de Tecnologia e Sociedade (ITS).
Christian Perrone
Jurista, pesquisador Fulbright (Universidade de Georgetown, EUA), além de Doutorando (Universidade do Estado do Rio de Janeiro – UERJ) com foco em Regulação Internacional e Tecnologia. Possui também LL.M. em Direito Internacional pela Universidade de Cambridge (Reino Unido) e Diploma em Direito Internacional dos Direitos Humanos pelo Instituto Universitário Europeu (EUI, Itália). Versou como Secretário da Comissão Jurídica Interamericana da Organização dos Estados Americanos (OEA) e Especialista em Direitos Humanos da Comissão e da Corte Interamericana de Direitos Humanos. Atualmente, seus interesses versam em Políticas Públicas em Tecnologia e Regulação. Além de advogado e Consultor de Políticas Públicas, é Coordenador da área de Direitos e Tecnologia no Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS Rio).
Diogo Cortiz
Professor na Pontifícia Universidade Católica de São Paulo (PUC-SP). Pesquisador no NIC.br. Doutor em Tecnologias da Inteligência e Design Digital pela PUC-SP, com PhD fellowship pela Université Paris I – Sorbonne. Especialista em Neurociência. Fez estágio pós-doc em Realidade Virtual e Metaverso na Universidade de Salamanca. Foi pesquisador visitante no laboratório de Ciência Cognitiva da Queen Mary University of London. Coordenador do Programa de Mestrado e Doutorado do Tecnologia da Inteligência e Design Digital pelo Programa Tecnologias Inteligentes e Design Digital (TIDD) da PUC-SP.
Dora Kaufman
Professora do Programa Tecnologias Inteligentes e Design Digital (TIDD) da Faculdade de Ciências Exatas e Tecnologias da Pontifícia Universidade Católica de São Paulo (PUC-SP). Doutora pela Escola de Comunicações e Artes da Universidade de São Paulo (ECA-USP). Pós-Doutora pela COPPE-UFRJ e Pós-Doutora pelo TIDD PUC-SP. Objeto de pesquisa: Impactos Éticos e Sociais da Inteligência Artificial.
Eduardo Magrani
Doutor em Direito. Affiliate no Berkman Klein Center na Universidade de Harvard. Sócio do Demarest Advogados. Pós-Doutor pela Universidade Técnica de Munique (TUM) em Proteção de Dados e Inteligência Artificial. Presidente do Instituto Nacional de Proteção de Dados no Brasil. Colunista do MIT Tech Review.
Guilherme Forma Klafke
Doutor em Direito pela Universidade de São Paulo (USP). Professor do Programa de Pós-Graduação lato sensu da FGV Direito SP (FGV law) na área de Direito e Tecnologia e líder de projetos no Centro de Ensino e Pesquisa em Inovação da FGV Direito SP (Cepi FGV Direito SP).
Lucas Costa dos Anjos
Doutor em Direito pela Universidade Federal de Minas Gerais (UFMG) e pela Université Libre de Bruxelles. Professor Adjunto da Universidade Federal de Juiz de Fora (UFJF).
Lucas Maldonado Diz Latini
Mestrando em Direito e Tecnologia e Especialista em Propriedade Intelectual e Novos Negócios pela Escola de Direito de São Paulo da Fundação Getulio Vargas (FGV Direito SP). Bacharel em Direito pela Universidade de Mogi das Cruzes (UMC). Professor em cursos de pós-graduação e palestrante em eventos de Direito e Tecnologia. Sócio em Maldonado Latini Advogados, com atuação consultiva e contenciosa em Direito e Tecnologia. Presidente da Comissão de Direito Digital e Compliance da 17ª Subseção da OAB/SP.
Luíza Couto Chaves Brandão
Mestre em Direito pela Universidade Federal de Minas Gerais (UFMG). Diretora do Instituto de Referência em Internet e Sociedade (Iris).
Milena Mendes Grado
Pós-graduada lato sensu em Propriedade Intelectual pela Fundação Getulio Vargas (FGV).
Patricia Peck Pinheiro
PhD em Direito Internacional pela Universidade de São Paulo (USP). Professora de Direito Digital da Escola Superior de Propaganda e Marketing (ESPM).
Paulo Rodrigo de Miranda
Analista do Ministério Público Federal do Rio Grande do Sul. Discente junto ao Programa de Pós-Graduação em Direito (PPGD) pela Universidade Federal de Santa Maria/RS (UFSM). Especialista em Direito Público.
Apresentação
As discussões sobre inteligência artificial (IA) e seus limites éticos têm ganhado contornos mais acentuados na última década. Com diversos resultados danosos a indivíduos e à sociedade, consequência do uso de vieses discriminatórios nas soluções empregadas por sistemas algorítmicos, tais modelos estão embasando, de forma cada vez mais ampla, decisões de empresas públicas e privadas.
Esse contexto nos leva a questionar os modelos de negócios a que estamos submetidos e a pensar sobre boas práticas no uso da IA. O emprego desses sistemas é, afinal, promovido sob a bandeira de melhorar nossa vida em sociedade. Sem dúvida que o uso de modelos inteligentes pode provocar mudanças muito positivas em nossas vidas, otimizando operações e proporcionando uma impressionante acurácia em determinadas situações. O que estamos vendo acontecer como revés, porém, é a reprodução de discriminações sistemáticas e a violação de direitos fundamentais, em outra escala e em processos bastante complexos.
A estruturação desses sistemas tem sido muito questionada; e deve ser ainda mais, porém, sobretudo, de forma propositiva. Os obstáculos são de diversas naturezas, e a multidisciplinaridade dessa questão representa a complexidade dos problemas que temos a enfrentar diante da necessidade de avançar na construção de uma sociedade em que os direitos fundamentais não sejam colocados em risco.
Falar, então, de regulação e governança dos sistemas de IA é urgente, para que enfrentemos coletivamente problemas que vão além de questões algorítmicas, matemáticas e empresariais. É preciso que o ser humano esteja no centro da construção dessas práticas, desde o início.
O caminho, claro, não possui uma fórmula única nem infalível. Esta coletânea foi criada com o propósito de contribuir para a reflexão e a sensibilização da sociedade sobre a gravidade do tema, assim como para nos levar à ação. A alegria e a honra em reunir tantas mentes dedicadas às questões éticas no uso da IA é proporcional à urgência em debater o tema com profundidade.
A obra foi dividida em três partes: questões e casos paradigmáticos do uso de IA, questões de governança e mapa normativo e, por fim, questões éticas e mecanismos de enfrentamento.
As autoras e os autores, em um exercício reflexivo e propositivo, tratam de pontos sensíveis e imprescindíveis ao citar casos reais, refletir sobre ações adotadas em outros países e abordar a responsabilização da sociedade na efetivação dos direitos humanos.
Os 12 capítulos oferecem um panorama da temática no Brasil e fora dele e propõem boas práticas, refletem a seriedade desse time de autores e autoras, acadêmicos e profissionais dedicados ao estudo multidisciplinar dos sistemas e das limitações do uso da IA para a vida humana.
A valiosa contribuição desse time de especialistas cumpre papel importante no contexto do avanço no debate sobre governança da IA e a regulação de sistemas éticos, para sustentar a construção da sociedade justa, inclusiva e responsável que todos e todas almejamos.
Marina Feferbaum
Professora de Direito e Coordenadora do Centro de Ensino e
Pesquisa em Inovação (CEPI) na Escola de Direito de São Paulo
da Fundação Getulio Vargas (FGV Direito SP)
Sumário
Parte 1 QUESTÕES GERAIS E CASOS PARADIGMÁTICOS
1. Crônica de um problema anunciado: a falácia do excepcionalismo e a necessidade de governança tecnológica
ALEXANDRE PACHECO DA SILVA
MARINA FEFERBAUM
2. Obstáculos para a consideração de questões éticas nos julgamentos algorítmicos
ANA FRAZÃO
3. Decisão automatizada por inteligência artificial: a imparcialidade maquínica tende a superar a imparcialidade humana
DORA KAUFMAN
4. Explicação como decorrência de uma transparência relacional: um estudo de caso do direito à explicação sob a perspectiva da proteção de dados na União Europeia
LUCAS COSTA DOS ANJOS
Parte 2 QUESTÕES DE GOVERNANÇA E MAPA NORMATIVO
1. Os frameworks de governança de sistemas de inteligência artificial e sua correlação com os aspectos éticos e de explicabilidade de decisões automatizadas
ALEXANDRE ZAVAGLIA COELHO
DIOGO CORTIZ
2. Direito a inferências razoáveis como substrato normativo na consolidação de mecanismos de governança de sistemas automatizados de decisão no contexto da LGPD
EDUARDO MAGRANI
PAULO RODRIGO DE MIRANDA
3. Caminhos para a regulação da inteligência artificial no Brasil
LUCAS MALDONADO DIZ LATINI
ALINE FUKE FACHINETTI
4. Inteligência artificial e jurisdição: escopo das propostas regulatórias do Brasil e da União Europeia
LUÍZA COUTO CHAVES BRANDÃO
5. Regulação e reponsabilidade civil sobre inteligência artificial
PATRICIA PECK PINHEIRO
MILENA MENDES GRADO
6. Gerenciamento algorítmico em plataformas digitais: um panorama das opções regulatórias no Congresso brasileiro
ANA CAROLINA RODRIGUES DIAS SILVEIRA
GUILHERME FORMA KLAFKE
Parte 3 DESAFIOS ÉTICOS E MECANISMOS DE ENFRENTAMENTO
1. Inteligência artificial: o desafio da inclusão e da governança
CELINA BOTTINO
CHRISTIAN PERRONE
2. Governança ética e responsável de inteligência artificial em situações de desastres: gap da teoria à realidade
ANA PAULA CAMELO
Parte 1
QUESTÕES GERAIS E CASOS PARADIGMÁTICOS
1. Crônica de um problema anunciado: a falácia do excepcionalismo e a necessidade de governança tecnológica
ALEXANDRE PACHECO DA SILVA
MARINA FEFERBAUM
Introdução: caso Latanya Sweeney – a exceção que virou regra
Na obra-prima Crônica de uma morte anunciada, Gabriel García Márquez nos propõe refletir sobre uma sociedade em que todos os cidadãos têm a ciência de que um assassinato irá acontecer, com exceção da pessoa que será assassinada. Por meio de uma narrativa não linear, o autor nos oferece um ambiente de permanente ansiedade sobre o assassinato, mesmo que ele ainda não tenha acontecido. Ao mesmo tempo nos faz refletir sobre o fato de que, embora todos soubessem que o crime iria acontecer, ninguém decidiu agir para evitá-lo.
Em 2012, a diretora do Data Privacy Lab da Universidade de Harvard, Latanya Sweeney, começou a desconfiar de que nomes de afrodescendentes nos Estados Unidos estavam sendo utilizados em seu prejuízo por provedores de serviços na Internet. A suspeita surgiu após uma brincadeira entre pesquisadores do Data Privacy Lab, em que cada um pesquisaria seu próprio nome no buscador Google (PASQUALE, 2015, p. 39).
Entre os diversos resultados obtidos pelos colegas de Latanya, o dela surpreendeu a todos. No topo de sua página de busca figurava um anúncio com os dizeres Latanya Sweeney arrested?
(Latanya Sweeney foi presa?). O anúncio contrastava com resultados de outros colegas da pesquisadora, como o de Tanya Smith, que encontrou um anúncio com os dizeres Located: Tanya Smith
(Localização: Tanya Smith). A diferença entre os anúncios instigou a pesquisadora a iniciar uma investigação para descobrir quais os motivos de o anunciante sugerir que ela poderia ter sido presa (PASQUALE, 2015, p. 39).
Durante sua pesquisa, Latanya Sweeney identificou que o site Instantcheckmate.com teria sido o responsável pelo anúncio atribuído ao seu nome e que essa e outras empresas estavam se utilizando de nomes frequentemente atribuídos a afrodescendentes nos Estados Unidos, associando-os com anúncios sugerindo prisões (PASQUALE, 2015, p. 39). A Instantcheckmate.com é uma plataforma de consulta de antecedentes criminais a partir da busca pelo nome de uma pessoa. O anúncio dos serviços da empresa com a frase Latanya Sweeney foi presa?
poderia sugerir que a pesquisadora já teria sido detida ou respondido a um processo criminal em seu país, fato esse que nunca aconteceu.
Segundo a pesquisadora (SWEENEY, 2013, p. 9), consultas no buscador Google por nomes majoritariamente atribuídos a afrodescendentes nos Estados Unidos, tais como DeShawn, Darnell e Jermaine, geraram anúncios como o sugerido para Latanya Sweeney de 81 a 86% dos casos, a depender do nome e da plataforma anunciante. Quando os nomes pesquisados foram escolhidos entre aqueles majoritariamente atribuídos a pessoas brancas, tais como Geoffrey, Jill e Emma, os anúncios com a palavra preso
foram sugeridos pelo buscador Google em apenas 23 a 29% dos resultados, a depender da plataforma anunciante.
Mas quem foi o responsável por decidir que o anúncio da Instantcheckmate.com fosse vinculado a Latanya Sweeney durante sua busca no Google? Segundo a pesquisadora (SWEENEY, 2013, p. 9), ações conjuntas da Instantcheckmate.com e da plataforma de anúncios vinculada ao serviço de buscas foi uma decisão da Google por meio do seu serviço AdSense.
Para anunciar no Google AdSense em 2012, o anunciante teria de escolher quais seriam os critérios de busca de um usuário que deveriam ser associados com o seu anúncio. Quando há um alinhamento entre o que o usuário está buscando no Google e o critério escolhido pelo anunciante, crescem as chances de o anúncio ser veiculado para um usuário do serviço. Isso porque, se mais de uma empresa escolher o mesmo critério de busca, a plataforma de anúncios Google AdSense realizava um leilão para definir quem teria o seu anúncio veiculado para o usuário do serviço de busca. A lógica é a de que quem pagar o maior preço pode obter a veiculação do anúncio em uma busca (SWEENEY, 2013, p. 9).
Na época não havia nenhum dispositivo na legislação norte-americana que impedisse o uso de nomes como critério para definir a veiculação de anúncios no formato do Google AdSense. Adicione-se o fato de existir uma correlação estatística forte entre nomes majoritariamente atribuídos a afrodescendentes no país e o nome de pessoas que estavam presas no momento. Nesse sentido, o uso dos nomes predominantemente atribuídos a afrodescendentes fazia sentido economicamente para empresas como a Instantcheckmate.com, uma vez que poderia atrair pessoas e empresas interessadas em utilizar os serviços online da empresa para a busca de antecedentes criminais de, por exemplo, candidatos a vagas de trabalho (SWEENEY, 2013, p. 2).
Como a pesquisadora alerta (SWEENEY, 2013, p. 2), contudo, a inclusão de nomes majoritariamente atribuídos a afrodescendentes em anúncios de plataformas de buscas por antecedentes criminais pode gerar prejuízos significativos na vida de um afrodescendente. Isso porque um potencial empregador poderia, ao receber o currículo de uma candidata com o nome Latanya e buscar seu nome no Google, ter como resultado o anúncio Latanya foi presa?
e desistir de dar encaminhamento a um processo de seleção em razão da suspeita de que a candidata tivesse cumprido pena no país. Para Latanya, mesmo sendo possível que o potencial empregador ingresse na plataforma digital de consulta de antecedentes criminais para verificar se a candidata já foi presa, nem todos estarão dispostos a despender tempo e dinheiro na consulta, ficando satisfeitos com a mera conclusão construída a partir do anúncio. Assim, uma parcela de afrodescendentes pode ter sido descartada para vagas de emprego sem terem notado o que ocorreu, algo que Latanya Sweeney ressalta que não deveria ocorrer em uma sociedade comprometida com o combate à discriminação.
A abordagem tradicional de casos como esse, em que o uso da tecnologia pode gerar prejuízos a indivíduos na esfera social, tem sido marcada pela lógica do excepcionalismo tecnológico. Nesse raciocínio, o uso da tecnologia tem sido encarado como um evento novo, inesperado pelo mundo jurídico, algo a que ordenamentos jurídicos em diferentes países não estariam preparados para responder, pois suas normas não haviam sido estruturadas nesse cenário. Não por acaso, muitos dos debates sobre direito e tecnologia têm se concentrado em recomendações do uso ético da tecnologia e na construção de normas capazes de regular empresas desenvolvedoras e aplicadoras de novas ferramentas tecnológicas (CROOTOF; ARD, 2021, p. 348).
Porém, em um mundo que passou por um intenso processo de digitalização em razão da implementação de medidas de distanciamento social em diversos países, será que ainda faz sentido tratarmos novas tecnologias como algo excepcional? Não deveríamos assumir o compromisso de construir abordagens que possam dar conta de evitar ou atenuar os efeitos de casos como o vivido por Latanya Sweeney? Em uma sociedade estruturada sobre a informação, não deveríamos construir formas de governar o uso de novas tecnologias, mesmo na ausência de normas jurídicas específicas aplicáveis a casos como o da pesquisadora?
Compartilhamos a sensação descrita por García Márquez nos debates contemporâneos sobre as consequências sociais geradas por novas tecnologias em diferentes países. Temos nutrido um sentimento de permanente ansiedade diante dos potenciais prejuízos que novas tecnologias podem gerar, sem, contudo, termos tempo para compreender o funcionamento da tecnologia e as causas dos prejuízos gerados. Temos sido espectadores de uma sequência de casos de usos de novas tecnologias que têm gerado prejuízos a indivíduos na sociedade sem identificar exatamente o que pode ser feito.
De um lado, argumenta-se que a velocidade do ordenamento jurídico para construir regras aptas a dar conta de novos problemas derivados do contexto tecnológico não é compatível com o surgimento de casos e a extensão de seus prejuízos, fazendo com que o Direito sempre esteja correndo atrás da tecnologia (CROOTOF; ARD, 2021, p. 349). De outro lado, critica-se o fato de que a incorporação de valores éticos no desenvolvimento e no uso de novas tecnologias não tem a força impositiva do Direito, o que leva diversos atores no campo tecnológico a concordar com esses valores no ambiente público, mas a não se orientar por eles na condução de seus negócios na esfera privada (LIN, 2014, p. 9).
Para não nos tornarmos espectadores de violações de direitos, precisamos construir uma camada intermediária de proteção que não seja lenta como a regulação jurídica e que tenha a força de uma obrigação para aqueles que desenvolvem uma nova tecnologia e pretendem aplicá-la em diferentes cenários. Em nossa visão, essa camada seria a governança de novas tecnologias, definida por Luciano Floridi (2018, p. 2) como a prática de elaborar e implementar políticas, procedimentos e padrões para o desenvolvimento, uso e gestão adequada de novas tecnologias da informação.
O objetivo deste capítulo é explorar o conceito de governança de novas tecnologias, uma camada intermediária entre a ética e a regulação, como forma de reduzir os potenciais prejuízos gerados a indivíduos em cenários de uso dessas tecnologias na contemporaneidade. Para tanto, dividimos o texto em quatro partes: (i) as diferenças entre os conceitos de ética, regulação e governança; (ii) a presença constante do erro em decisões tomadas por sistemas