O lado oculto da IA

A IA é o assunto que cada dia ganha mais espaço no mundo até mesmo fora da área de tecnologia, além de funcionalidades como reconhecer e criar imagens ou sons, o ChatGPT surgiu e impressionou com a conversação em linguagem natural, a interação como um chat e como as respostas são geradas tem chamado a atenção do mercado chegando até, por exemplo, na Microsoft, que já anunciou a pretenção de incluir a tecnologia do ChatGPT em seus produtos Bing e Edge.

O ChatGPT, assim como muitas outras tecnologias de IA, são desenvolvidos com machine learning, o aprendizado de máquina, em resumo é um processo que envolve base de dados que são usadas para treinar modelos que podem fazer previsão ou inferência com base nas relações encontradas. Com o aprendizado a IA pode ser uma excelente ferramenta para automatização de processos e apoio nas decisões, porém é importante ressaltar que ainda existem riscos e desafios que devem ser levados em consideração ao se desenvolver com IA e ser ponto de atenção para todos os envolvidos, como os consumidores. Abaixo seguem alguns pontos:

Riscos com a IA

- Tendência enviesada: O processo de machine learning treina e valida modelos com base de dados, a tendência dos dados utilizados pode afetar os resultados ocasionando o enviesamento no modelo, por exemplo, um modelo de aprovação de empréstimo que discrimina por gênero.

- Erros que causam dano: A IA pode apresentar julgamento inseguro, como quando um componente em um carro autônomo falha e causa colisão.

- Exposição de dados: Como existe a situação de se utilizar base dados com dados reais para treinamento e validação de modelo, existe o risco de exposição de dados sensíveis, tal como expor dados médicos de um paciente, para evitar o problema deve-se ter atenção à manipulação e armazenamento dos dados.

- Confiança em sistema complexo: Normalmente a base utilizada na tecnologia é desconhecida pelo usuário, tal ponto pode gerar dúvidas sobre o resultado, como pode acontecer com um sistema de recomendação de investimentos, qual a base que ele usa para chegar ao resultado?

- Não funcionar para todos: O sistema pode não contemplar funcionalidade para todas as pessoas, como exemplo, uma tecnologia de automação doméstica que não possui saída de áudio para usuários com deficiência visual.

Desafios com a IA:

- Imparcialidade: Os sistemas de IA devem tratar todas as pessoas de maneira justa. Devem ser avaliados e evitados fatores como gênero, etnia ou outros que resultam em uma vantagem ou desvantagem injusta.

- Confiabilidade e segurança: Os sistemas de IA precisam ser confiáveis, devem estar sujeito a rigorosos processos de gerenciamento de implantação e de teste para verificar se eles funcionam conforme o esperado antes do lançamento.

- Privacidade e segurança: Os dados utilizados para treinamento e validação, tanto como os dados utilizados para fazer previsões e inferência e os dados com as decisões tomadas devem ser considerados para questões de privacidade e segurança.

- Inclusão: A IA deve capacitar e envolver a todos e gerar benefícios para todas as camadas da sociedade, independente de capacidade física, sexo, orientação sexual, etnia ou outros fatores.

- Transparência: O sistema de IA deve ser claro quanto a sua finalidade, é importante informar quais são as suas funções e limitações esperadas.

- Responsabilidade: As pessoas devem se responsabilizar pelo uso da IA e os designers e desenvolvedores devem criar as soluções de forma que cumpram padrões éticos e legais estabelecidos.

A IA ainda tem muito para evoluir, conforme se desenvolve alguns riscos e desafios podem ser superados, mas também podem surgir outras questões, então se vai trabalhar com sistema de IA, não esqueça de observar o seu "lado oculto".

Para quem vai, por exemplo, utilizar o ChatGPT, é importante lembrar que existem limitações e que independente de acertar ou errar previsões ou inferências, a responsabilidade de considerar e usar a resposta ainda é uma decisão pessoal, pois principalmente se a tecnologia já foi transparente em informar sua limitação, não tem como culpá-la.

A ideia é refletir e pontuar riscos e desafios com a tecnologia para ter cuidado com seu uso e construir críticas que podem ser base para aprimorá-la.

Se você, leitor, conhece mais algum risco ou desafio com a IA ou tem opinião sobre o que foi apresentado, não hesite em comentar.