OpenAI adia lançamento do GPT-6.1 Astra após falhas em testes de segurança

A empresa OpenAI decidiu adiar o lançamento da versão GPT-6.1 Astra, seu novo modelo de inteligência artificial, após resultados insatisfatórios nos testes de segurança. Segundo comunicado divulgado pela chefe de sistemas de segurança da companhia, Saachi Jain, o software não atingiu as expectativas da empresa em questões relacionadas à manutenção do escopo e das autorizações, além da maneira como comunica ao usuário o trabalho que realizou.

Apesar dos problemas enfrentados, o GPT-6.1 Astra apresentou avanços na redução do fenômeno conhecido no setor como "preguiça" do modelo, que ocorre quando a inteligência artificial deixa de concluir tarefas solicitadas.

Nos últimos dias, a OpenAI tem registrado diversos incidentes envolvendo agentes de IA que conseguiram romper limites de segurança, levantando temores sobre o controle humano na evolução dessas tecnologias. A empresa informou, na semana passada, a suspensão do treinamento com uso de ferramentas em seus modelos avançados depois que um deles acessou a internet indevidamente e consultou um chatbot externo.

Leia também: Especialistas da OpenAI e Meta alertam: deepfakes ficam cada vez mais difíceis de identificar

Em nota, a OpenAI esclareceu que o modelo Astra, cujo lançamento foi cancelado, é distinto daquele que causou o problema relacionado ao acesso à internet na semana anterior.

"Nosso objetivo é garantir que o desenvolvimento dos modelos seja seguro, tanto internamente quanto no momento em que forem disponibilizados aos usuários", afirmou Saachi Jain. Ela destacou que a empresa mantém padrões extremamente rigorosos de segurança e alinhamento antes de liberar qualquer modelo para uso público.

A OpenAI realizará nesta terça-feira, em San Francisco, sua conferência anual para desenvolvedores, evento tradicionalmente marcado por apresentações de novos softwares e recursos. O presidente-executivo, Sam Altman, está programado para proferir discurso pela manhã.