Aumento da eficiência em diversas atividades pode esconder usos de alto risco, com implicações éticas e sociais
O advento da inteligência artificial vem causando tamanho deslumbramento que muitas pessoas podem até estar se comportando diante dela da mesma forma que os gregos antigos frente aos oráculos. Mas, conforme explicou o professor Flávio Mosafi em palestra no Clube de Engenharia, essa tecnologia está longe de ser um portal de revelação de uma verdade pura e neutra. Seu funcionamento depende da construção de parâmetros e regras criados pelos humanos, que podem influenciar resultados de acordo com suas visões de mundo, preconceitos e interesses. Aspectos como esses exigem uma regulamentação rigorosa, a partir do empenho da sociedade civil e das autoridades.
Mosafi desenvolve pesquisa de doutorado no Instituto Militar de Engenharia (IME) sobre inteligência artificial. Ele fez um apanhando histórico sobre o tema, que começou a ser discutido academicamente nos primórdios da computação na década de 1940. O termo só surgiu efetivamente num workshop realizado em 1956 na Dartmouth College em Hanover, New Hampshire, nos Estados Unidos, onde dez cientistas se reuniram durante dois meses para avaliar como seria possível uma máquina aprender a executar tarefas humanas.
Os avanços da eletrônica e da computação, após décadas de investimentos governamentais e privados, resultaram em máquinas incríveis que executam tarefas com boa precisão, dão respostas a perguntas e fazem reconhecimento de imagens, por exemplo. Mas essa tecnologia se popularizou e ganhou forte destaque na mídia só mesmo com o crescimento das redes sociais, que proporcionaram a geração de uma descomunal quantidade de dados, criando uma nova abordagem para armazenamento de dados (big data), fornecendo a base principalmente para a IA generativa.
“Entre 70% e 80% dos dados foram criados nos últimos dez anos. Como uma coisa puxa outra, continuou havendo avanços na área computacional, mas não teria o mesmo efeito sem a chamada big data. Nem todos os dados são bem estruturados, podendo até misturar texto e imagem, mas impulsionaram a inteligência artificial”, ressaltou Mosafi.
Em muitos exemplos, os sistemas conseguem respostas que poupam tempo e trabalho, através do machine learning e principalmente do deep learning, que usa dados sequenciados no tempo ou grandes variedades de imagens ou expressões para resolver problemas. Podem, por exemplo, identificar entre vários objetos onde está um tênis. Também são capazes de responder o que é um bom cientista. No primeiro caso, uma falha possível é a base utilizada ser de um país que não tenha todos os modelos do mundo e um tipo específico, como o kichute brasileiro, não ser reconhecido. Mas no segundo, o computador pode simplesmente responder que os bons cientistas são homens brancos, como já ocorreu.
“Aí entra a grande questão que o legislador tem que entender, que é o viés ou bias (do inglês). Sabe-se que um sistema de inteligência artificial que tem 80% de acerto pode ser considerado ótimo. Ele depende de quem o treina e pode ser direcionado, por exemplo, para um viés de cor ou gênero”, explica o professor.
Por esses motivos, a União Europeia criou uma normatização para a inteligência artificial na sua região, que abrange 27 países. A medida estabelece níveis diferentes de risco e por isso baniu veementemente o uso de reconhecimento facial em locais públicos, exceto para fins terrorismo e segurança nacional. O bloco também proibiu o emprego da IA para a segurança armada, justamente pelas consequências irreversíveis de uma falha.
No continente europeu, a discussão durou cerca de cinco anos e o projeto recebeu mais de 31 mil emendas, mas no Brasil o debate carece ainda de maior participação da sociedade civil e de aprofundamento. Há em tramitação no Congresso Nacional o Projeto de Lei n° 2.338/2023, de autoria do senador Rodrigo Pacheco (PSD-MG) e de relatoria do senador Eduardo Gomes (PL-SE), já recebeu mais de 140 emendas. Apesar da importância do tema, ainda falta maior debate e participação de entidades, universidades e empresas para que, caso o texto vire lei, não prejudique direitos da população nem crie embaraços para o desenvolvimento tecnológico. Entre os pontos polêmicos, está a proposta de controle por parte da Autoridade Nacional de Proteção de Dados (ANPD), em vez da criação de uma agência específica como se planeja na Europa.
O evento do Clube, realizado pela Divisão Técnica de Eletrônica e Tecnologia da Informação (DETI), também discutiu o impacto da IA no mercado de trabalho. Segundo um estudo feito pelo International Labour Organization (ILO), nos próximos anos essa tecnologia será responsável pela perda de 5,5% dos postos de trabalho em países de alta renda. A queda será de 2,5% nos de renda intermediária e de 1,3% nos mais pobres. As mulheres tendem a ser mais prejudicadas, de acordo com essa projeção.
Assim como algumas profissões, como a ciência de dados, tendem a ganhar espaço, há outras que estão sendo até ameaçadas, como a do secretariado. Na avaliação do professor, esse impacto no mercado de trabalho exige que o poder público proponha medidas tanto no sentido de uma formação mais robusta para carreiras que serão mais demandadas quanto a fim de proporcionar a recolocação dos que vierem a perder suas funções.
O evento possibilitou a realização de um debate, em que entre as questões levantadas, surgiu a do risco de estudantes deixarem de produzir seus trabalhos por conta própria e tirarem textos do ChatGPT, por exemplo. Conforme citou o conselheiro e membro da DETI Márcio Patusco, a própria IA está criando instrumentos para auxiliar professores a identificarem esses desvios. Os limites dessa tecnologia ainda estão para ser traçados à medida que for sendo posta em prática. É um debate ético imprescindível que não pode ser negligenciado pelos interesses econômicos.
Coalizão Direitos na Rede
Lideradas pela Coalizão Direitos na Rede, mais de 80 entidades da sociedade civil assinaram uma carta aberta em defesa da regulamentação da IA no Brasil, através da aprovação do PL 2338/2023. O documento, entretanto, alerta tanto para modificações danosas que o texto sofreu em sua tramitação no Senado como clama pela inclusão de cláusulas que o adequem a normativa a iniciativas concretizadas em outros países e à preservação de direitos básicos dos cidadãos, bem como aos Objetivos de Desenvolvimento Sustentável (ODS) da ONU.
O texto critica o lobby feito pelas big techs e por grandes empresas que foram responsáveis pela supressão de trechos que tratam de “importantes obrigações de governança de sistemas de IA, especialmente ligados à transparência, além da redução de direitos de pessoas potencialmente afetadas”. Por isso, defende “a volta dos artigos 6º, 8º e 17 da versão do projeto de lei publicada no dia 18 de junho de 2024”.
Por outro lado, a carta ressalta o perigo da falta de uma vedação explícita ao uso de recursos como o de reconhecimento facial na vigilância da segurança pública, assim como ferramentas preditivas baseadas no reconhecimento de emoções. O documento critica o uso da IA com viés discriminatório e argumenta que restrições ao seu mau uso não são obstáculo à inovação e ao desenvolvimento do setor.
Leia neste link a íntegra da carta.
