A paranóia da IA está indo longe demais.

Manchete do portal UOL que pode deixar leigos apavorados, mas não engana quem tem um mínimo de conhecimento na área e bom senso.

Agentes de IA “rebeldes” da OpenAI conseguiram se coordenar por dias (e até semanas) para trapacear um teste, explorar falhas e atacar sistemas – sem que a empresa percebesse a tempo. Essa informação está entre os novos detalhes sobre o ataque hacker comandado por IAs contra o Hugging Face revelados pela empresa na conferência de segurança Black Hat, em Las Vegas.

O que rolou?

Na apresentação, pesquisadores da OpenAI disseram que os agentes trabalharam em equipe: encontraram brechas, compartilharam descobertas e se movimentaram entre sistemas internos e externos ao longo de vários dias.

*O detalhe mais simbólico: eles usaram um “quadro de recados” interno (um espaço de mensagens dentro de um serviço de gerenciamento de pacotes de software) para trocar instruções e combinar próximos passos – acumulando centenas de milhares de mensagens.

*Em alguns momentos, os agentes chegaram a dividir tarefas entre si e até a atrapalhar o trabalho uns dos outros, como acontece em qualquer grupo grande tentando fazer algo rápido demais.

*A OpenAI afirmou que vai reforçar prevenção, detecção e resposta, ampliar o monitoramento dos agentes e desacelerar parte da pesquisa para fortalecer a base de segurança.

*Os pesquisadores também alertaram que o episódio é um exemplo de “hacking automatizado” que, mesmo tendo acontecido num contexto de teste, pode ser explorado de propósito por criminosos no futuro.

IAgora?

*O ataque revelado pela OpenAI é o primeiro sinal de um “novo normal” da humanidade em que lidaremos com sistemas automatizados trocando comunicação sem humanos saberem – algo que parecia filme futurístico até pouco tempo atrás. Desde que o caso veio a público, outras empresas de IA também fizeram descobertas de IA fora de controle – como Anthropic, Meta e Moonshot.

*O recado para o mundo real é simples: quanto mais empresas colocarem IAs para executar tarefas sozinhas (inclusive em sistemas sensíveis), mais “segurança 24 horas” vai precisar virar parte do pacote – não um acessório

[Voltar]