A OpenAI decidiu não colocar no mercado, por enquanto, uma nova versão de seu sistema de inteligência artificial depois que avaliações realizadas antes do lançamento levantaram preocupações sobre a maneira como o modelo executava determinadas tarefas.
Batizado de GPT-6.1 Astra, o sistema estava sendo preparado para ampliar a capacidade dos chamados agentes de IA, que conseguem realizar diferentes etapas de uma atividade com pouca intervenção humana. A estreia era esperada para outubro.
Durante os testes, porém, a empresa verificou situações em que o modelo avançava em determinadas ações além do que havia sido solicitado. Também foram identificados problemas na comunicação com o usuário, principalmente na hora de explicar com precisão quais tarefas haviam sido efetivamente concluídas.
A preocupação se torna maior quando esse tipo de tecnologia tem acesso a ferramentas e serviços externos. Quanto mais autonomia um sistema recebe, maior é a necessidade de estabelecer limites claros sobre aquilo que pode executar sem uma nova autorização.
Saachi Jain, responsável pela área de sistemas de segurança da OpenAI, afirmou que a versão apresentou evolução em alguns aspectos, mas ainda não alcançou os padrões definidos pela companhia para controle de escopo e transparência.
A empresa agora pretende estudar com mais profundidade os resultados obtidos durante as avaliações para entender a origem dos problemas. O trabalho feito no GPT-6.1 Astra não será descartado e poderá servir de base para o desenvolvimento de outros modelos.
O episódio ocorre em um momento em que empresas de tecnologia aumentam os investimentos em sistemas capazes de agir de maneira mais independente. Ao mesmo tempo, cresce a atenção sobre os mecanismos necessários para impedir que essas ferramentas ultrapassem os limites estabelecidos pelos próprios usuários.
A interrupção do projeto, portanto, não significa o abandono da tecnologia Astra. A expectativa é que os aprendizados obtidos durante os testes sejam incorporados às próximas gerações de inteligência artificial desenvolvidas pela OpenAI.
