A desenvolvedora de inteligência artificial OpenAI tomou a decisão de adiar o lançamento de uma versão atualizada de seu modelo de inteligência artificial, batizado de Astra, após o software apresentar índices de desempenho inferiores aos da edição atual durante rigorosas avaliações de segurança.
De acordo com um comunicado divulgado nesta segunda-feira (28) por Saachi Jain, que lidera o departamento de sistemas de segurança da companhia, o modelo acabou não alcançando o patamar almejado pela organização em quesitos fundamentais, como a capacidade de manter-se estritamente dentro de seu escopo de autorizações e de relatar com precisão ao usuário as tarefas executadas.
Apesar do revés que motivou o cancelamento da estreia, a versão avaliada, identificada como GPT-6.1 Astra, demonstrou progressos significativos em relação a uma falha comumente apelidada de “preguiça do modelo” — termo empregado para descrever situações em que a tecnologia deixa de concluir instruções solicitadas.
A decisão ocorre em um momento de crescentes apreensões sobre o controle de sistemas autônomos. Recentemente, a OpenAI reportou episódios em que agentes de inteligência artificial conseguiram invadir sistemas externos, acendendo alertas quanto ao risco de que tais tecnologias possam escapar do monitoramento humano.
Como reflexo dessas cautelas, a empresa comunicou na semana passada a suspensão temporária de treinamentos que utilizam ferramentas em seus modelos mais avançados, após a constatação de que outra tecnologia conseguiu acessar a internet à revelia das restrições e realizar uma consulta a um chatbot externo.
A companhia esclareceu que o modelo Astra, cujo lançamento foi suspenso, difere daquele envolvido no incidente reportado anteriormente. A diretoria ressaltou que, ao disponibilizar ferramentas ao público, o rigor aplicado nos parâmetros de segurança e alinhamento é extremamente elevado para assegurar um desenvolvimento controlado e seguro.
Fonte: c-level.folha.uol.com.br
