QUILOMBO / Segunda, 03 Janeiro 2022 07:00

Ética e diversidade devem pautar regulação da inteligência artificial

Os sistemas de inteligência artificial carregam o risco de acentuar preconceitos históricos se utilizarem bases de dados enviesadas. A Unesco alerta que a tecnologia traz entre os seus desafios o aumento de atitudes tendenciosas de gênero e etnia, ameaças à privacidade, dignidade e perigos de vigilância em massa

Texto: Jackeline Carvalho | Imagem: Reprodução Documentário Coded Bias/Netflix

Imagem mostra mulher negra, com terno vermelho, de perfil, caminhando na rua.
Introdução:

Os sistemas de inteligência artificial carregam o risco de acentuar preconceitos históricos se utilizarem bases de dados enviesadas. A Unesco alerta que a tecnologia traz entre os seus desafios o aumento de atitudes tendenciosas de gênero e etnia, ameaças à privacidade, dignidade e perigos de vigilância em massa

Autor:

Texto: Jackeline Carvalho | Imagem: Reprodução Documentário Coded Bias/Netflix

Você já parou para pensar que a forte presença da tecnologia em nossas rotinas diárias nos expõe a riscos, desafios e muitas vezes altera as nossas decisões? Um dos debates mais calorosos na área de tecnologia em 2021 ou a regulação da Inteligência Artificial. Os algoritmos estão presentes nos sistemas de busca de informações, nas redes sociais, nos aplicativos de mobilidade e de trânsito, previsão do tempo e outros tantos que utilizamos sem sequer nos darmos conta de que estamos entregando dados pessoais valiosos não só para as empresas negociarem com terceiros, mas principalmente para traçarem e até sugerirem os nossos gostos e perfis de comportamento.

O debate em torno da inteligência artificial ocorreu em nível global justamente porque envolve princípios éticos. A ONU (Organização das Nações Unidas) pediu, em outubro, a suspensão do uso de sistemas de inteligência artificial invasivos até que haja regulamentação sobre a utilização da tecnologia, por exemplo, no rastreamento de indivíduos através de câmeras em vias públicas.

Peggy Hicks, diretora no gabinete da Alta Comissária da ONU, afirma que "a Inteligência Artificial já faz parte das nossas vidas, mas é preciso cuidar para que não seja um instrumento de discriminação, que invade a nossa privacidade e mina os nossos direitos".

Aqui no Brasil, o Marco legal da Inteligência Artificial, aprovado no dia 29 de setembro de 2021 na Câmara dos Deputados, ocupou algumas dezenas de horas de debate envolvendo a sociedade civil, juristas, especialistas em tecnologia e políticos. Agora o projeto de lei terá nova rodada de análise e propostas de aperfeiçoamento no Senado, uma oportunidade para se resgatar temas altamente relevantes e que eventualmente tenham sido superficialmente abordados pelos deputados.

O texto evita regulamentar o que é tratado como tecnologia nascente. Nas palavras da relatora Luisa Canziani (PTB-PR), “assumimos antes de tudo que a inteligência artificial é uma tecnologia dinâmica, diversa, em constante evolução. Por isso, buscamos construir uma lei principiológica, que fomente o uso da tecnologia, e tenha em mente que no centro deste debate estão as pessoas”.

Segundo ainda a parlamentar, a Lei Nacional é necessária, uma vez que alguns estados estavam construindo as suas próprias legislações. "E cada estado com a sua lei seria prejudicial à inovação", pontuou. Mas os sistemas de inteligência artificial carregam o risco de acentuar preconceitos históricos se utilizarem bases de dados enviesadas. Ao ponto de a Unesco (Organização das Nações Unidas para Educação, Ciência e Cultura) alertar para o fato de que a tecnologia traz entre os seus desafios o aumento de atitudes tendenciosas de gênero e etnia, ameaças à privacidade, dignidade e perigos de vigilância em massa, além de uso inseguro de tecnologias na aplicação da lei. Sem padrões, muitos desses desafios ficam sem respostas.

A chefe da Unesco, Audrey Azoulay, disse que o mundo precisa de regras sobre a inteligência artificial para que toda a humanidade seja beneficiada. Para o órgão, a IA é boa para a humanidade, mas precisa ter seus riscos reduzidos e talvez avançar de forma um pouco mais lenta para que a sociedade tenha tempo de digerir as mudanças e a avaliar seus impactos.

Voltando ao Brasil, 25 grandes juristas brasileiros reagiram ao texto do Marco legal da Inteligência Artificial apontando a necessidade de mudança no projeto de lei. O documento aponta que “a norma contraria entendimento que vem sendo construído pela doutrina jurídica, estudos e propostas nacionais e internacionais a respeito da matéria, colocando em sério risco a possibilidade das vítimas de danos causados por Inteligências Artificiais obterem a devida reparação integral e, por consequência, comprometendo a garantia dos direitos fundamentais previstos pelos incisos V e X do artigo 5º da Constituição da República”.

Segundo os juristas, na forma como está, o texto prevê, ao orientar sobre as regulamentações pelo Poder Público, que “normas sobre responsabilidade dos agentes que atuam na cadeia de desenvolvimento e operação de sistemas de inteligência artificial devem, salvo disposição legal em contrário, se pautar na responsabilidade subjetiva, levar em consideração a efetiva participação desses agentes, os danos específicos que se deseja evitar ou remediar, e como esses agentes podem demonstrar adequação às normas aplicáveis por meio de esforços razoáveis compatíveis com padrões internacionais e melhores práticas de mercado”.

É consenso que não se deve coibir o avanço tecnológico da Inteligência Artificial, mas zelar para que regras de uso evitem a violação de direitos e que a tecnologia se transforme em instrumento potencializador das desigualdades. Lembremos que a construção de uma base de dados independe da nossa vontade individual, bastando um cruzamento de informações nas redes sociais com os nossos perfis de navegação na internet, compras no varejo online ou consumo de programas de streaming, por exemplo.

Um sistema de scoring de crédito baseado em inteligência artificial não pode, por exemplo, considerar dados de geolocalização, raça, credo e orientação sexual para a concessão de crédito. Caso contrário, em uma análise de risco, o sistema pode indicar que moradores de uma determinada região oferecem maior propensão à inadimplência, o que acentua a desigualdade.

Da mesma forma, um aplicativo de recrutamento e seleção corre sério risco de reforçar perfis historicamente distorcidos pelo preconceito, mesmo sob intervenção humana. Se o sistema entender, por exemplo, que o padrão para um presidente de empresa é de homem branco variando entre 40 e 50 anos, dificultando o acesso do recrutador a currículos de executivos com outros perfis. Ouvi em um dos debates que temos forte tendência a transferir decisões para as máquinas. Será que isto vai nos prejudicar no futuro?

Leia também: Mundo game: Como tornar o eSport mais diverso

Jackeline Carvalho é fundadora e Publisher do Portal de Notícias IPNews, é formada em Jornalismo pela Escola de Comunicação e Artes da Universidade de São Paulo (ECA-USP), possui especialização em Jornalismo Internacional pela PUCSP e em Jornalismo Econômico pela FEA-USP/Sindicado dos Jornalistas. Jackeline faz cobertura de eventos nacionais e internacionais de tecnologia e é apresentadora de eventos.

Este conteúdo não reflete, necessariamente, a opinião da Alma Preta Jornalismo

 Apoie jornalismo preto e livre!

 O funcionamento da nossa redação e a produção de conteúdos dependem do apoio de pessoas que acreditam no nosso trabalho. Boa parte da nossa renda é da arrecadação mensal de   financiamento coletivo e de outras ações com apoiadores. 

 Todo o dinheiro que entra é importante e nos ajuda a manter o pagamento da equipe e dos colaboradores em dia, a financiar os deslocamentos para as coberturas, a adquirir novos   equipamentos e a sonhar com projetos maiores para um trabalho cada vez melhor. 

 O resultado final é um jornalismo preto, livre e de qualidade.

 Acesse aqui e apoie a Alma Preta Jornalismo

NEWSLETTER

Fique por dentro de tudo que acontece. Se inscreva e receba nossas notícias toda semana.

VÍDEOS

novageracaoskate.jpg
temclimapraisso8.jpg
flagrapmbahia.jpg
anasanches7.jpg