ChatGPT e IA, além do hype
Após o hype do metaverso no ano passado, as discussões se voltam novamente para a área de inteligência artificial com a recente popularização do ChatGPT, lançado em novembro do ano passado.
O uso de inteligência artificial em interação com humanos não é nenhuma novidade. Seja pelo Robô Ed, lançado há 20 anos em um programa ligado à Petrobras, ou pelos avanços nos assistentes virtuais das gigantes Google, Apple e Amazon.
O que impressiona desta vez, no entanto, é capacidade de concatenar ideias e construções de texto mais complexas, assemelhando-se à comunicação humana. Não é à toa que foi incorporado pela Microsoft ao Bing, obrigando o Google a se mexer. O Google domina largamente o mercado de buscas, e tem nele a sua principal fonte de receita.
A inteligência artificial pode ser muito útil como ferramenta em tecnologias assistivas, filtragem de dados e análise de modelos matemáticos para tomada de decisões. Apesar disso, é necessário não se deixar contaminar pelo entusiasmo para assuntos importantes ligados à origem da tecnologia e ao seu uso.
Da onde vem os dados?
A inteligência artificial não é realmente inteligente. Ela apenas faz as tarefas a partir de um modelo de treinamento constante, ou seja, não há julgamentos ou conceitos como ética ou empatia. É apenas matemática aplicada em dados usados para o aprendizado de máquina.
No ChatGPT e em qualquer outro algoritmo de inteligência artificial, é necessário ter constante cuidado com a qualidade dos dados. Sua veracidade, precisão, correção, adequação, intenção. Já houve casos em que iniciativas de IA tiveram que ser retirados do ar por reproduzir racismo e outros comportamentos ofensivos, como foi o projeto Tay.
Isso não se relaciona somente à comportamentos. Que tipo de intenção a IA pode ter em decisões de compra, por exemplo? Haveria algum produto beneficiado e outro prejudicado?
Em uma sociedade em que a preocupação com a desinformação, ou fake news, é constante, isso se torna ainda mais relevante. Importante ressaltar aqui uma declaração do Google sobre o assunto, em um documento de 2019: “Pode ser extremamente difícil (ou até impossível) para humanos ou tecnologia determinarem a veracidade ou a intenção por trás de um determinado conteúdo, especialmente quando isso isso se relaciona com eventos atuais”.
Dependência da IA
Além de possíveis influências, há preocupações sobre o uso de inteligência artificial em diversos campos profissionais. Embarcado no hype, o ChatGPT também traz preocupações sobre até onde um serviço de IA pode substituir funcionários.
Quais os critérios que seriam utilizados pela IA para a aceitação ou descarte de um candidato a um novo emprego, por exemplo? Quais os impactos do uso dessa tecnologia nas escolas, sobretudo no ensino de pesquisa, técnicas de redação, e no desenvolvimento cognitivo? Como isso impacta a longo prazo o desenvolvimento e correlação de ideias?
A exemplo do que vem ocorrendo com as plataformas de redes sociais, o uso de IA pode causar problemas à sociedade. Pois a inteligência artificial não é inteligente. Você é. Ela é uma ferramenta, não uma substituição.
#DesafioDIO
