A OpenAI afirmou que o seu próximo modelo de inteligência artificial (IA), denominado Astra, é suficientemente avançado para exigir novas medidas de segurança antes de ser disponibilizado ao público.
Segundo a empresa, os testes realizados durante o desenvolvimento indicaram que o sistema é significativamente mais capaz do que o GPT-5.6 Sol, actualmente apresentado como o modelo mais sofisticado da OpenAI disponível ao público.
Um dos principais motivos de preocupação está relacionado com as capacidades do Astra na área da cibersegurança. A OpenAI classificou o modelo como o primeiro a atingir o nível considerado “crítico” neste domínio, devido à sua capacidade de identificar vulnerabilidades e desenvolver formas de as explorar com um elevado grau de autonomia.
De acordo com a OpenAI, o Astra consegue identificar falhas de segurança anteriormente desconhecidas e desenvolver métodos para explorá-las sem necessitar de orientação humana em cada etapa do processo.
Nos testes realizados pela empresa, o modelo foi capaz de encontrar vulnerabilidades em sistemas considerados protegidos e combinar diferentes falhas para desenvolver possíveis formas de invasão.
A capacidade representa um avanço importante para a utilização da IA em cibersegurança, mas também aumenta os riscos associados ao uso indevido da tecnologia. Um sistema capaz de descobrir e explorar vulnerabilidades de forma autónoma poderia ser utilizado tanto para fins defensivos como para realizar ataques.
Perante essas capacidades, a OpenAI afirma que implementou controlos de segurança mais rigorosos durante o desenvolvimento do Astra.
A empresa pretende disponibilizar o modelo inicialmente a um grupo limitado de utilizadores. As funcionalidades mais avançadas relacionadas com cibersegurança deverão ter restrições adicionais e ser disponibilizadas primeiro a testadores seleccionados.
Posteriormente, essas ferramentas poderão ser direccionadas para aplicações defensivas, como a identificação de vulnerabilidades, análise de sistemas e reforço da protecção de redes e infra-estruturas digitais.
A OpenAI afirma que pretende disponibilizar o Astra em breve, mas a implementação gradual permitirá avaliar melhor os riscos e ajustar os mecanismos de segurança antes de uma expansão do acesso.
O caso mostra também uma mudança na forma como os modelos de IA cada vez mais avançados estão a ser desenvolvidos: quanto maior for a capacidade de executar tarefas complexas de forma autónoma, maior será a necessidade de controlar aquilo que o sistema pode fazer e quem pode ter acesso às suas funcionalidades mais poderosas.
