Groffrey Hinton " Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais"

Vivemos mais uma vez (como em outros momentos) um limiar tecnológico. Nossa geração é testemunha da emergente tecnologia de Inteligência Artifical -I.A em inglês. Certamente o lançamento do tão falado ChatGPT é a bandeira desse momento e enquanto alguns ficam entusiasmados com todas as possíveis comodidades e eficiência nas tarefas mais simples como pesquisar um tema à tarefas mais complexas como escrever um bloco de código em qualquer linguagem de programação, outras pessoas estão claramente assustadas com as possibilidades nocivas quem vem com o desenvolvimento da IA, como é caso de Geoffrey Hinton (considerado o "padrinho" da IA) que pediu demissão da Google recentemente, onde era chefe do departamento de pesquisas em IA ou Gary Marcus (professor da Universidade de Nova York - NYU) foi do departamento de desenvolvimento de IA da UBER.

Longe de serem pessimistas ou alarmistas (como por exemplo o professor Marcus foi entitulado no Twitter por seus pares), eles enchergam o perigo por trás dos erros ou anamolias proeminentes da IA.

Em uma entrevista recente para BBC NEWS o professor Marcus cita o caso emblemático que ocorreu na Bélgica, um homem que conversava frequentemente com o chatbot Eliza, da empresa Chai, cometeu suicídio.

Em outro caso ele cita um caso bizarro que chamou a atenção. Uma pessoa pediu ao ChatGPT para citar acadêmicos envolvidos em episódios de assédio sexual.

A lista mencionava um professor norte-americano de Direito, Jonathan Turley. O programa disse que Turley fez comentários sexualmente sugestivos a uma aluna durante uma viagem ao Alasca e tentou tocá-la. A resposta citava como evidência uma reportagem de 2018 do jornal The Washington Post.

Mas nada disso jamais existiu: nem a viagem, nem a reportagem ou mesmo a acusação. É como se o robô tivesse inventado uma calúnia.

A OpenAI, empresa do ChatGPT, divulgou um comunicado dizendo que o programa "nem sempre gera respostas precisas".

Existem outros exemplos de "erros" cometidos pela IA que podem ser tão prejudiciais quanto os citados anteriormente e que servem de base para a preocupação crescente em torno da tecnologia.

Os fatos exigem no mínimo um debate amplo, sério e criteorioso sobre a regulamentação da IA. Caso contrário é provável ultrapassarmos o momento em que ainda teremos poder sobre a tecnologia e seus impactos na sociedade moderna.

Fontes:

• https://g1.globo.com/tecnologia/noticia/2023/05/11/o-professor-que-foi-considerado-louco-e-alarmista-e-vem-acertando-previsoes-sobre-inteligencia-artificial.ghtml

• https://elpais.com/tecnologia/2023-05-07/geoffrey-hinton-si-hay-alguna-forma-de-controlar-la-inteligencia-artificial-debemos-descubrirla-antes-de-que-sea-tarde.html