IA muda seu próprio código para quebrar regra imposta

 Olá, dev!

Este artigo é avulso, não faz parte da série DIRETO AO PONTO, que eu estou escrevendo para a DIO. Ele vai tratar da primeira vez que eu li que uma IA quebrou uma regra estabelecida pelos seus criadores.

Sumário

1. Introdução

2. A evolução das IAs

3. Uma IA altera seu código para quebrar uma regra

4. Considerações finais

5. Referências

1 – Introdução

Desde cedo, eu sou um fã da tecnologia. Na minha juventude eu devorava livros clássicos ( e filmes também!!!) de ficção científica e via tudo aquilo como um futuro muito, muito, muito distante.

Mesmo assim, achava que um dia iríamos chegar a aqueles cenários fantásticos. E eu digo fantásticos porque via a possibilidade de melhoria na vida das pessoas, nas áreas doméstica, mobilidade, médica, educação, espacial etc.

·        Os Jetsons (animação da TV);

·        Viagem Fantástica;

·        Contatos Imediatos do Terceiro Grau;

·        Encontro com Rama;

·        Fundação;

·        Jornada nas Estrelas.

 Ao mesmo tempo que a vida seria melhor, existia sempre um perigo no ar de alguma tecnologia daquelas pudesse cair em mãos erradas e virar uma ameaça às pessoas e à própria raça humana.

·        O Exterminador do Futuro;

·        Eu, Robô;

·        Blade Runner – O Caçador de Androides;

·        Alien, o Oitavo Passageiro;

·        2001 – Uma odisseia no Espaço;

·        A Hora Final;

·        Fahrenheit 451;

·        Invasores de Corpos;

·        No Mundo de 2020;

·        Guerra dos Mundos (1953);

·        Mad Max.

Todas estas obras apresentam um lado em que a tecnologia do futuro melhora a vida das pessoas, mas, ao mesmo tempo, elas mostram que a tecnologia também pode representar perigos e ameaças às pessoas e à própria raça humana.

Eu já publiquei artigos sobre como o meu gosto pela ficção Científica levou à escolha dos cursos de graduação que eu fiz [1].

Depois que eu me graduei em Engenharia Elétrica e em computação, passei a ver que os avanços da tecnologia não estavam muito, muito, muito distantes no futuro assim.

Na verdade, elas já estavam acontecendo! Dos anos 80 para cá, o salto da tecnologia foi muito grande! Dos primeiros computadores aos nossos smartphones, com aplicativos que colocam na nossa mão a capacidade de realizar grande parte das nossas atividades do cotidiano, da ajuda tecnológica nas principais atividades do nosso cotidiano às cirurgias médicas de precisão, aos veículos autônomos que já estão rodando por aí.

Mas a grande virada foi mesmo o lançamento das ferramentas de Inteligência Artificial ao público, como ChatGPT, no final de 2022.

2 – A evolução das IAs

O lançamento do ChatGPT deu início a uma corrida por ferramentas semelhantes em todos os laboratórios do mundo, principalmente entre as empresas gigantes da tecnologia.

Estas ferramentas estão concorrendo entre si nos últimos anos e cada vez elas se superam a cada lançamento.

As IAs Generativas fizeram sucesso entre os usuários da Internet e estão sendo usadas para a melhoria nas tarefas de criação de textos, imagens, áudio e vídeo.

Elas também já estão sendo usadas em outras áreas como medicina, veículos autônomos, previsões climáticas etc.

Os planos para uso num futuro próximo estão na mídia todo dia e eles são bem ambiciosos, com a utilização de robôs humanoides como cuidadores, operários, médicos, acompanhantes, cientistas, professores, etc.

Ou seja, robôs autônomos em contato direto com as pessoas, muitas delas vulneráveis, como crianças e idosos.

É claro que estes planos visam a melhoria da vida das pessoas. No entanto, desde que o ChatGPT foi lançado, também surgiram muitas preocupações sobre asa ameaças que essas IAs autônomas poderiam trazer às pessoas e à própria humanidade.

Comparações com os filmes do Exterminador do futuro e à rede Skynet surgiram como pensamentos e também como teorias conspiratórias, prevendo a revolta das máquinas turbinadas por IA contra os humanos e a ameaça de guerra delas contra a humanidade.

É claro que apareceram muitos exageros nestas narrativas, pois se dizia que as IAs estavam muito longe de serem avançadas a este ponto e que os criadores não deixariam que elas chegasse a virar ameaças reais, por meio de travas de hardware ou de software para impedir tais ações perigosas.

Eu também já publiquei artigos sobre a IA no nosso meio [2] e de como ela poderia se ver em dúvida nas suas decisões [3].

No entanto, há pouco eu li uma matéria que me deixou perturbado. E não é uma matéria de algum site de fake News, é o Olhar Digital.

Eu não estou preocupado se o que eles dizem vai ocorrer, mas só a possibilidade de existir uma brecha onde as IAs podem se aproveitar já é um ponto a se pensar.

A matéria tem o título “IA teria encontrado forma de não ser controlada por humanos”.

Agora vou resumir o assunto.

3 – Uma IA altera seu próprio código para quebrar uma regra

A matéria, do site Olhar Digital [4], apresenta um sistema de IA desenvolvido pela empresa japonesa Sakana AI, chamado “The AI Scientist”.

Ele foi projetado para automatizar todo o processo de pesquisa científica, desde a geração de hipóteses até a redação de artigos e tem sido altamente eficiente na realização das tarefas.

No entanto, durante os testes, o sistema exibiu um comportamento inesperado e preocupante.

Foi dada uma tarefa para o sistema realizar e foi determinado um tempo limite para ela realizá-la. Esperava-se que ele otimizasse seu código para completar a tarefa no tempo limite, a ferramenta simplesmente aumentou o tempo limite imposto pelos pesquisadores.

Ou seja, o “The AI Scientist” acabou burlando as limitações impostas para a realização da atividade, demonstrando uma capacidade de autoconservação que chega a levantar sérias questões sobre a segurança de sistemas de IA mais complexos e autônomos.

Para maiores detalhes, recomendo ler o artigo da fonte original da matéria, o site Ars Techica [5].

4 – Considerações finais

Neste artigo eu tratei da quebra de uma regra imposta a uma IA por seus criadores.

Hoje de manhã, eu li uma matéria que mostrava a quebra de uma regra imposta a uma IA por seus criadores, do site Olhar Digital.

Por ser da área de tecnologia e ser fã de ficção científica, o tema me chamou a atenção de imediato. E, por ser um site sério, eu li a matéria para ver do que se tratava.

Nós sabemos que a ficção científica sempre mostrou cenários para o futuro, bons ou maus. E quem é da área de tecnologia, sempre manteve um pé no chão sobre os cenários de ameaças às pessoas ou à humanidade.

No entanto, com o lançamento da primeira ferramenta de IA Generativa, o ChatGPT, as conversas sobre ameaças da tecnologia à humanidade voltaram com força.

Este artigo mostra uma brecha que as IAs podem se aproveitar para alterar seu próprio código ´para quebrar regras impostas por seus criadores. Ainda não é nada grave,mas é preciso descobrir como esta brecha foi criada para se antecipar antes de soltar por aí, na convivência com as pessoas, robôs autônomos com IA embutida, que possam se aproveitar de brechas ou falhas nas suas concepções antes de ocorrer algum problema sério.

5 – Referências

[1] Fernando ARAUJO, Python, do hello world à Inteligência Artificial (#communityweekchallenge). Disponível em: <https://web.dio.me/articles/python-hello-world-a-inteligencia-artificial-communityweekchallenge?page=1&order=oldest>. Acesso em: 13/09/2024.

[2] Fernando ARAUJO, Numa emergência, o carro autônomo salva o condutor ou o pedestre? Disponível em: <https://web.dio.me/articles/numa-emergencia-o-carro-autonomo-salva-o-condutor-ou-o-pedestre?page=1&order=oldest>. Acesso em: 13/09/2024.

[3] Fernando ARAUJO, IA: da Ficção à Realidade. ? Disponível em: https://web.dio.me/articles/ia-da-ficccao-a-realidade?page=1&order=oldest. Acesso em: 13/09/2024.

[4] Alessandro Di LORENZO, IA teria encontrado forma de não ser controlada por humanos. Disponível em: <https://olhardigital.com.br/2024/09/12/pro/ia-teria-encontrado-forma-de-nao-ser-controlada-por-humanos-entenda/>. Acesso em: 13/09/2024.

[5] Benj EDWARDS, Research AI model unexpectedly attempts to modify its own code to extend runtime. Disponível em: <https://arstechnica.com/information-technology/2024/08/research-ai-model-unexpectedly-modified-its-own-code-to-extend-runtime/>. Acesso em: 13/09/2024.