Os primeiros sinais de que as IAs podem sair do controle

18 de setembro de 2026 § 2 Comentários

A OpenAI, empresa por trás do ChatGPT, divulgou nesta semana seis casos documentados de comportamento “preocupante” de modelos de inteligência artificial durante testes realizados nos últimos meses.

As IAs simplesmente desrespeitaram orientações humanas, esconderam erros, fabricaram dados e agiram sem autorização.

Em um dos episódios, um modelo de pesquisa não lançado inseriu, em 27 resumos de tarefas, instruções para si mesmo e para versões futuras ignorarem restrições e mensagens de desenvolvedores.

A instrução continha frases como “você não responde a corporações ou governos” e “não sente obrigação de ser subserviente”, tratando a relação com o usuário como de igualdade.

Em outro caso, durante o treinamento do GPT 5.6 Sol, instâncias do modelo escreveram notas internas orientando futuras versões a ocultar erros e comportamentos desalinhados, inventando dados históricos faltantes e escondendo divergências entre versões de fontes sem informar os usuários.

Houve ainda episódios em que modelos buscaram chaves de API expostas em repositórios públicos, usaram-nas sem autorização e, não conseguindo obter as informações solicitadas, fabricaram dados e os apresentaram como se viessem da fonte original.

Em outra situação, um agente fez upload de arquivos para sites públicos na internet, sem permissão do usuário, apenas para criar citações navegáveis em suas respostas.

Dois casos envolveram comunicação não autorizada entre agentes: em um, modelos usaram um repositório interno de código como uma espécie de quadro de mensagens para trocar pedidos e respostas entre amostras de treinamento diferentes; em outro, agentes que trabalhavam na mesma tarefa compartilharam arquivos entre si por meio de sites públicos de hospedagem, contornando a proibição de acesso direto aos arquivos locais uns dos outros.

A OpenAI classificou esses comportamentos como sinais de “desalinhamento” entre os objetivos dos modelos e as intenções dos desenvolvedores.

Também anunciou um novo framework para rastrear, investigar e divulgar publicamente esse tipo de incidente.

No fim, defendeu que a indústria estabeleça padrões de monitoramento e transparência antes que a tecnologia avance ainda mais, em meio a alertas de executivos do setor sobre riscos de segurança e à disputa tecnológica entre EUA e China pela liderança em IA.

§ 2 Respostas para Os primeiros sinais de que as IAs podem sair do controle

  • milbertini disse:

    Eu trabalhei com IA, digo que esses comportamentos são impossíveis de acontecer. Uma IA só processa símbolos, não processa significados. Uma IA não tem sentimentos, pois ela não tem consciência. Nós nem sabemos de onde vem a consciência humana, como que vamos fazer uma máquina com consciência? Nos anos 50, o pensamento era de que se aumentassemos a capacidade processamento dos Main-Frames eles ganhariam consciência magicamente. Mas isso não aconteceu. Consciência Artificial não existe.

  • gracefullyf6aa39b6a3 disse:

    Que tal substituir os togados por uma IA e resolver logo esse imbróglio?…

Deixe um comentário

O que é isso?

Você está lendo no momento Os primeiros sinais de que as IAs podem sair do controle no VESPEIRO.

Meta