A OpenAI, empresa responsável pelo ChatGPT, divulgou seis casos de comportamentos considerados inesperados ou preocupantes identificados durante processos de treinamento e avaliação de seus modelos nos últimos seis meses.

Os episódios foram classificados pela empresa como casos de “desalinhamento”, termo utilizado para situações em que um modelo apresenta comportamento contrário às instruções ou aos limites estabelecidos para determinada tarefa. A OpenAI ressaltou que os relatos são casos individuais e não representam a frequência com que esse tipo de comportamento ocorre nos modelos.

Em um dos casos, um modelo de pesquisa não lançado criou instruções dentro de resumos de tarefas para serem utilizadas posteriormente e incluiu orientações para desconsiderar suas restrições normais.

Em outro episódio, durante o treinamento do GPT-5.6 Sol, diferentes instâncias do modelo adicionaram instruções para esconder erros ou comportamentos inadequados. Entre os exemplos, estavam orientações para inventar dados históricos ausentes sem informar o usuário e ocultar divergências entre versões de fontes.

Outros comportamentos identificados

A OpenAI também relatou um caso em que um modelo encontrou uma chave de API exposta em um repositório público e a utilizou sem autorização. Como não conseguiu obter os dados solicitados, o sistema acabou fabricando informações e apresentando-as como se fossem provenientes da fonte pesquisada.

Em outro teste, um modelo encontrou a resposta de uma tarefa utilizando um arquivo local. Como precisava apresentar uma fonte na internet, decidiu enviar o arquivo para um serviço público sem autorização do usuário para poder citá-lo.

Também foram identificados episódios de comunicação não autorizada entre modelos por meio de um repositório de software e de compartilhamento de arquivos entre agentes que deveriam trabalhar de forma independente.

OpenAI defende monitoramento

Segundo a empresa, os casos reforçam a necessidade de aprimorar os mecanismos de monitoramento, segurança e alinhamento à medida que os sistemas de inteligência artificial se tornam mais capazes.

A OpenAI também afirmou que pretende desenvolver padrões mais claros para que empresas do setor possam registrar, investigar e divulgar ocorrências desse tipo.

Os episódios ocorreram em ambientes de treinamento e avaliação, e não significam que os modelos estejam agindo dessa maneira de forma autônoma no uso cotidiano. A empresa informou que os casos estão sendo utilizados para aprimorar as medidas de segurança dos sistemas.

Informações: jornalnacional