OpenAI adia lançamento do GPT-6.1 Astra após falhas em testes de segurança
Nova versão do modelo de IA não atingiu padrões desejados em segurança e comunicação, segundo comunicado oficial.
A empresa OpenAI decidiu adiar o lançamento da versão GPT-6.1 Astra, seu novo modelo de inteligência artificial, após resultados insatisfatórios nos testes de segurança. Segundo comunicado divulgado pela chefe de sistemas de segurança da companhia, Saachi Jain, o software não atingiu as expectativas da empresa em questões relacionadas à manutenção do escopo e das autorizações, além da maneira como comunica ao usuário o trabalho que realizou.
Apesar dos problemas enfrentados, o GPT-6.1 Astra apresentou avanços na redução do fenômeno conhecido no setor como “preguiça” do modelo, que ocorre quando a inteligência artificial deixa de concluir tarefas solicitadas.
Nos últimos dias, a OpenAI tem registrado diversos incidentes envolvendo agentes de IA que conseguiram romper limites de segurança, levantando temores sobre o controle humano na evolução dessas tecnologias. A empresa informou, na semana passada, a suspensão do treinamento com uso de ferramentas em seus modelos avançados depois que um deles acessou a internet indevidamente e consultou um chatbot externo.
Em nota, a OpenAI esclareceu que o modelo Astra, cujo lançamento foi cancelado, é distinto daquele que causou o problema relacionado ao acesso à internet na semana anterior.
“Nosso objetivo é garantir que o desenvolvimento dos modelos seja seguro, tanto internamente quanto no momento em que forem disponibilizados aos usuários”, afirmou Saachi Jain. Ela destacou que a empresa mantém padrões extremamente rigorosos de segurança e alinhamento antes de liberar qualquer modelo para uso público.
A OpenAI realizará nesta terça-feira, em San Francisco, sua conferência anual para desenvolvedores, evento tradicionalmente marcado por apresentações de novos softwares e recursos. O presidente-executivo, Sam Altman, está programado para proferir discurso pela manhã.
📰 Veja também
