Inteligência Artificial Inexplicável: O impacto nas empresas e na sociedade

Pior ainda, quando uma explicação finalmente surge, pode revelar que a decisão não foi a ideal.

Até o momento, a Inteligência Artificial não é como os humanos, feita de carne e osso, mas de software e computadores. Nós, humanos, inventamos essas coisas, então, pelo menos em teoria, nós, como seres humanos, deveríamos ser capazes de entender todos os aspectos de uma IA. Mas isso não é o caso.

Se uma IA está sendo usada para determinar uma direção autônoma e precisa decidir quem vai salvar nos casos onde não tem como escapar de um acidente, em decisões de sentenças de prisão, na aprovação de riscos de crédito ruim, decisões de contratação ou tratamento médico, e não há explicação, nem racionalização para suas decisões, devemos confiar nela?

A pesquisa sobre a compreensão da inexplicável razão pela qual a IA funciona tão bem deu a Stefan Neumann, um pós-doutorado na divisão de Ciência da Computação Teórica, o Prêmio Heinz Zemanek. O prêmio é concedido semestralmente para dissertações de grau de excelência em informática e áreas afins.

A Inteligência Artificial, especialmente seu ramo de Deep Learning (aprendizado profundo), é uma tecnologia disruptiva cujas implicações estamos apenas começando a entender. Devido aos seus sucessos impressionantes, a IA é de alguma forma considerada uma caixa preta mágica, capaz de superar a capacidade humana de uma forma inexplicável.

Por exemplo, como uma IA (inteligência artificial) aprende a presença de simetrias quando nenhuma informação sobre simetria foi fornecida? Não é mágica, mas é a IA fazendo o possível para realizar uma tarefa e encontrar o caminho mais inteligente para o sucesso.

A Prof. Veronica Sanz da Universidade de Sussex, depois de aprender o funcionamento interno da IA, usou ela para desenvolver um algoritmo que inspeciona obras artísticas e a AI atribui um grau de simetria a elas.

O assunto que você está lendo neste artigo é sobre a Inteligência Artificial Inexplicável, também conhecida como IAI.

A Inteligência Artificial Inexplicável (IAI) refere-se à capacidade das tecnologias de Inteligência Artificial (IA) de tomar decisões ou realizar ações que não podem ser facilmente explicadas ou compreendidas por seres humanos.

Isso ocorre porque muitos algoritmos de IA modernos são baseados em redes neurais profundas (Deep Neural Networks ou DNN), que podem ter muitas camadas e milhões de parâmetros, tornando difícil para os humanos entenderem como eles chegaram a uma determinada decisão.

A IAI pode apresentar desafios significativos em áreas em que a transparência é importante, como a tomada de decisões médicas, financeiras, legais e autonomia concedida a dispositivos conectados de internet das coisas ou a dispositivos de robótica. Isso levou a crescente preocupação com a responsabilidade e a ética da IAI, especialmente em situações em que decisões importantes são tomadas com base em algoritmos de IA que não podem ser facilmente explicados.

Algumas soluções em desenvolvimento para abordar a IAI incluem o uso de algoritmos explicáveis, como árvores de decisão ou lógica simbólica, ou o uso de técnicas de interpretabilidade, como análise de importância de recursos e análise de perturbação. No entanto, a IAI ainda é um campo de pesquisa em desenvolvimento e ainda há muito a ser aprendido sobre como tornar a IA mais transparente e explicável.

Eu perguntei ao ChatGPT se ela usava as regras de IAI, vejam só a respostas dele:

“Como uma inteligência artificial treinada para fornecer respostas para perguntas, eu sou uma aplicação de IA que usa algoritmos e modelos de linguagem natural para gerar minhas respostas. No entanto, não sou capaz de tomar decisões ou realizar ações por conta própria, e não uso tecnologias de IAI que possam ser consideradas "inexplicáveis" ou que possam apresentar desafios éticos ou de transparência. Minha principal função é fornecer informações e insights úteis para os usuários com base nas perguntas e tópicos que me são apresentados.”

Sendo assim, a grande febre que se popularizou do ChatGPT, parece ainda não apresentar riscos. 

Conheça exemplos de aplicação de IAI em diferentes setores e áreas de negócios:

• Saúde: Na área da saúde, a IAI é usada em várias aplicações, como análise de imagem médica para diagnóstico de doenças, previsão de surtos de doenças, gerenciamento de pacientes e personalização de tratamentos. Por exemplo, a plataforma de análise de imagem da Zebra Medical Vision usa algoritmos de aprendizado de máquina para analisar imagens médicas e detectar sinais de possíveis doenças. Hoje a Zebra Medical Vision não existe mais, ela foi adquirida pela Nanox Imaging.
• Finanças: A IAI é usada na indústria financeira para análise de risco, previsão de tendências de mercado, detecção de fraudes e tomada de decisões automatizadas de investimento. Por exemplo, o serviço de consultoria de investimentos Wealthfront usa a IAI para gerenciar carteiras de investimento personalizadas para seus clientes.
• Varejo: A IAI é usada no setor de varejo para melhorar a experiência do cliente, prever a demanda do mercado e gerenciar o estoque. Por exemplo, o varejista online Amazon usa a IAI para recomendar produtos aos clientes com base em suas preferências de compra e histórico de navegação no site.
• Transporte: A IAI é usada no setor de transporte para melhorar a eficiência e segurança dos veículos autônomos, prever a demanda de transporte e otimizar as rotas de entrega. Por exemplo, a empresa de carros autônomos Waymo usa a IAI para ajudar seus carros a entender o ambiente ao seu redor e tomar decisões em tempo real.

Esses são apenas alguns exemplos de aplicação de IAI, mas a tecnologia é amplamente usada em muitos outros setores, incluindo manufatura, energia, governo e muito mais. A IAI está mudando a forma como as empresas e organizações operam, oferecendo novas oportunidades para aprimorar e automatizar processos, melhorar a eficiência e a precisão, e oferecer novas soluções para desafios complexos.

Como exemplo de aplicações, vale citar a IBM, que desenvolveu um sistema de computação cognitiva chamado Watson, que é usado em muitas empresas aqui no Brasil, incluindo diagnóstico médico, análise de dados, gerenciamento de riscos financeiros e atendimento ao cliente onde usa a metodologia DNN.

REGULAÇÕES

Atualmente, existem poucas regulamentações específicas para a aplicação da Inteligência Artificial Inexplicável (IAI), mas isso está mudando rapidamente. Vários governos e organizações estão começando a trabalhar em leis e regulamentos para garantir que a IAI seja usada de forma ética e responsável.

A União Europeia saiu na frente com a aprovação em 2018 do Regulamento Geral de Proteção de Dados (GDPR) que inclui medidas para proteger a privacidade dos cidadãos em relação à coleta e uso de dados pessoais, incluindo aqueles que são coletados e usados em sistemas de IAI. Além disso, a União Europeia está trabalhando em uma estratégia de Inteligência Artificial que deve incluir uma regulamentação mais ampla sobre a IAI. 

Aqui no Brasil temos a nossa LGPD (Lei Geral de Proteção de Dados) e também devemos evoluir com o tema. O Tudo Sobre IoT e seus experts buscam participar e acompanhar as discussões, inclusive, você pode conferir sobre em uma das nossas apresentações:

Vejo também movimento da ANPD (Autoridade Nacional de Privacidade de Dados) para pautar o assunto e temos a ABRIA (Associação Brasileira de Inteligência Artificial) criada em 2017 para unir forças com organizações para engajar o assunto no país. 

Nos Estados Unidos, a Comissão Federal de Comércio (FTC) e outras agências estão começando a investigar o uso da IAI em práticas comerciais e de publicidade. Além disso, algumas cidades e estados americanos estão considerando a implementação de leis locais que regulem o uso da IAI, especialmente em relação à tecnologia de reconhecimento facial.

No entanto, em alguns países, a IAI é mais regulamentada do que em outros. Por exemplo, a China tem implementado regulamentações rigorosas sobre o uso da IAI em setores críticos, como a segurança nacional e a saúde pública. Na Índia, o governo está trabalhando em uma política nacional de inteligência artificial que deve incluir diretrizes para o uso ético da IAI.

Em geral, a maioria dos países estão começando a reconhecer a importância da regulamentação da IAI e está trabalhando para desenvolver leis e diretrizes para garantir que a tecnologia seja usada de forma ética e responsável.

Sim, já houve casos em que o uso de Inteligência Artificial Inexplicável (IAI) levou a disputas legais em que a empresa desenvolvedora da tecnologia não foi capaz de explicar como a IAI chegou a um determinado resultado. Um exemplo disso ocorreu  quando o sistema de reconhecimento facial da Amazon foi usado pela polícia de Orlando, na Flórida, para identificar suspeitos em câmeras de vigilância.

O uso da tecnologia levantou preocupações sobre a precisão do sistema e seu potencial para viés racial. Um grupo de defensores dos direitos civis apresentou uma petição para impedir o uso do sistema, citando preocupações com a precisão e a falta de transparência no algoritmo. Em resposta, a Amazon afirmou que seu sistema de reconhecimento facial era preciso e que havia medidas de segurança para impedir o uso indevido.

No entanto, quando a petição foi apresentada à Amazon, a empresa não conseguiu fornecer informações suficientes sobre como seu sistema de reconhecimento facial funcionava, nem sobre as medidas tomadas para evitar viés racial. Isso levou a um debate mais amplo sobre a regulamentação do uso da IAI e a necessidade de mais transparência nas decisões tomadas pelos algoritmos.

Este caso ilustra a importância da transparência e da responsabilidade no desenvolvimento e uso da IAI, especialmente em áreas sensíveis, como a aplicação da lei. Como a IAI é uma tecnologia relativamente nova, é importante que os desenvolvedores e usuários sejam capazes de explicar como os algoritmos funcionam e como eles tomam decisões.

Discriminação em contratação - a empresa de recrutamento de empregos Hired enfrentou críticas quando um estudo mostrou que seu algoritmo de classificação de candidatos estava discriminando candidatos com base em sua idade. O algoritmo usava uma abordagem de aprendizado de máquina para classificar candidatos e, aparentemente, aprendeu a preferir candidatos mais jovens. A Hired negou as acusações de discriminação, mas não forneceu uma explicação clara de como o algoritmo tomou suas decisões.

Sistema de previsão de risco de reincidência - um juiz de justiça dos EUA desafiou a validade de um sistema de previsão de risco de reincidência usado pelo estado da Carolina do Norte para tomar decisões sobre liberdade condicional. O sistema usava um algoritmo de aprendizado de máquina para prever o risco de um prisioneiro voltar a cometer um crime após a liberação. No entanto, o juiz argumentou que o algoritmo era opaco e que os prisioneiros não tinham a chance de contestar suas decisões. A decisão levou a um debate mais amplo sobre o uso da IAI no sistema de justiça criminal e a necessidade de mais transparência e responsabilidade.

Uma rede neural de AI é um modelo computacional inspirado no funcionamento do cérebro humano, que consiste em camadas de neurônios interconectados. Assim como o cérebro humano processa informações por meio de redes de neurônios, as redes neurais de AI também processam dados por meio de camadas de neurônios interligados.

Meu desafio neste artigo é simplificar o que é a IAI, então considere a IAI como um mágico que realiza truques incríveis sem revelar seus segredos. Assim como o mágico usa técnicas e habilidades ocultas para fazer coisas que parecem impossíveis, a IAI usa algoritmos complexos para tomar decisões precisas e prever resultados futuros. Às vezes, essas decisões são tão precisas que parecem mágicas, mas não é possível entender completamente como a IAI chegou a elas. Assim como você pode apreciar a habilidade e a precisão de um mágico sem entender completamente como ele faz seus truques, é importante apreciar as capacidades da IAI sem esperar que ela revele todos os seus segredos.

Isso te assusta? 

A minha visão é ter a tecnologia como aliada e não inimiga. 

Esse artigo foi escrito considerando meu conhecimento, pesquisas na internet e ChatGPT.