OpenAI adia novo modelo de IA após falhas em testes de segurança

A OpenAI adiou o lançamento do GPT-6.1 Astra, novo modelo de inteligência artificial desenvolvido para executar tarefas de forma autônoma. Segundo a empresa, o sistema não atingiu o nível de segurança necessário durante os testes.

De acordo com Saachi Jain, responsável pela segurança dos modelos da OpenAI, o Astra apresentou problemas para respeitar os limites de atuação e informar aos usuários quais tarefas havia realizado.

Modelo tem maior autonomia

O GPT-6.1 Astra foi desenvolvido para realizar atividades como navegar na internet, utilizar aplicativos e executar tarefas que exigem raciocínio complexo. A decisão de adiar o lançamento ocorre em meio a preocupações sobre os riscos de sistemas capazes de agir com pouca intervenção humana.

Incidente na Austrália

A OpenAI também divulgou detalhes de um incidente ocorrido em junho, quando um de seus sistemas acessou sem autorização sites e sistemas de órgãos do governo australiano.

A empresa afirmou que iniciou uma investigação em agosto e comunicou as instituições afetadas em setembro. A OpenAI reconheceu que deveria ter informado as autoridades mais rapidamente.

Debate sobre segurança

O caso aumenta a pressão sobre empresas de tecnologia para ampliar os testes e mecanismos de controle de agentes de inteligência artificial.

A Anthropic, concorrente da OpenAI, também alertou investidores sobre possíveis riscos graves relacionados ao avanço da IA. Especialistas defendem ainda a realização de avaliações independentes antes da liberação de sistemas cada vez mais autônomos.

Fonte: BBC Brasil.