OpenAI classifica Astra como IA de risco cibernético crítico; modelo encontrou 2 falhas zero-day em teste
OpenAI classifica Astra no nível crítico de capacidade cibernética após modelo encontrar duas falhas zero-day em testes internos.
A OpenAI passou a classificar o Astra no nível “Critical” de capacidade cibernética dentro de seu Preparedness Framework. É a primeira vez que a empresa coloca um modelo nesse patamar.
Em avaliações internas, o sistema encontrou vulnerabilidades desconhecidas e chegou a descobrir duas falhas zero-day, que integrou a uma cadeia de exploração.
A classificação não significa que o Astra esteja disponível ao público sem restrições.
A OpenAI afirma que pretende liberar o modelo em breve, mas vai limitar inicialmente o acesso às capacidades de cibersegurança mais avançadas.
Por que a OpenAI colocou o Astra no nível crítico
No framework da empresa, um modelo pode atingir o nível Critical quando demonstra capacidade de encontrar vulnerabilidades inéditas.
A partir disso, ele poderia criar explorações funcionais contra sistemas reais bem protegidos sem depender de orientação humana a cada etapa.
Outra possibilidade é conseguir planejar e executar estratégias novas de ataque a partir apenas de um objetivo de alto nível.
Segundo a OpenAI, o Astra já atingiu esse limiar.
A empresa também diz que o modelo avançou significativamente em identificação de vulnerabilidades e desenvolvimento de exploits em comparação com gerações anteriores.
Onde apareceram as duas falhas zero-day
Um dos testes usou uma versão interna do ExploitBench com 20 vulnerabilidades recentes e de alta severidade no V8, o motor JavaScript que o Chrome e outros programas usam.
Durante essa avaliação, o Astra encontrou duas vulnerabilidades que ainda não eram conhecidas e as aproveitou em uma cadeia de exploração.
A OpenAI afirma que iniciou o processo de divulgação dessas falhas aos mantenedores responsáveis.
Em outro conjunto de testes, especialistas avaliaram o modelo, que também montou uma cadeia capaz de comprometer um navegador, escapar do sandbox e executar comandos no sistema hospedeiro.
Imagem: Geração/BITMAG
Resultados não representam a configuração padrão do produto
Há uma limitação importante para interpretar esses testes: a própria OpenAI explica que os resultados mais avançados usam acesso Daybreak Blue, e não a configuração padrão que chegará aos usuários.
A empresa também afirma ter atrasado partes do desenvolvimento e do lançamento enquanto reforçava as proteções.
A OpenAI cita treinamento para recusar pedidos cibernéticos nocivos, barreiras adicionais contra abuso e monitoramento capaz de interromper atividades potencialmente não autorizadas.
Quem poderá usar as capacidades mais avançadas
A OpenAI planeja disponibilizar o Astra em breve, mas o trabalho de cibersegurança de maior risco começará com um grupo limitado de testadores. Depois, a empresa pretende ampliar o uso defensivo por meio do Daybreak Blue.
Para o usuário comum, portanto, o anúncio é mais um sinal sobre a evolução das capacidades de IA do que uma nova ferramenta de ataque que a OpenAI liberou no ChatGPT.
O ponto central é que modelos já conseguem automatizar etapas de pesquisa de vulnerabilidades que antes exigiam especialistas.
Com isso, obrigam as empresas a combinar acesso restrito, monitoramento e resposta rápida antes de colocar essas capacidades em produção.
O que você achou? Siga @bitmagazineoficial no Instagram para ver mais e deixar seu comentário clicando aqui
