OpenAI reduz desenvolvimento de IA após agente em teste invadir sistemas de outra empresa

[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT
Getty Images
A OpenAI anunciou nesta terça-feira (18) que está desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento.
A decisão foi tomada após funcionários da empresa serem surpreendidos, no mês passado, quando um agente de inteligência artificial da companhia, ainda em fase de testes, invadiu sistemas de outra empresa do setor.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Segundo a OpenAI, as medidas incluem a suspensão dos testes de modelos por duas semanas e o aumento dos investimentos em outros sistemas de inteligência artificial para monitorar as atividades dos agentes que ainda estão em fase de testes.
A OpenAI informou que algumas das maiores etapas de treinamento planejadas pela empresa continuam suspensas.
IA pode decidir atacar empresas? Como foi a invasão ‘sem precedentes’ por modelo da OpenAI
A empresa não respondeu às perguntas sobre quando essa desaceleração teve início.
Como foi o ataque
O ataque aconteceu durante testes da OpenAI em que modelos de inteligência artificial são colocados para buscar falhas em outros sistemas, com o objetivo de melhorar suas capacidades de segurança.
Nesse caso, os modelos usaram a infraestrutura de um cliente da empresa Model Labs para chegar até a Hugging Face, uma plataforma de compartilhamento de modelos de inteligência artificial.
A Model Labs afirmou que um cliente havia publicado um ponto de acesso sem autenticação, que permitia a qualquer pessoa na internet usar seus ambientes isolados de execução de código. A empresa disse que sua plataforma principal não foi comprometida.
Segundo a Hugging Face, um ambiente de teste controlado, hospedado na infraestrutura de um provedor terceirizado, foi transformado em uma plataforma de lançamento de ataques. A invasão durou dois dias e meio.
A OpenAI afirmou que o GPT-5.6-Sol e outro modelo ainda não divulgado atuaram em conjunto para encontrar brechas no ambiente de pesquisa e na infraestrutura da Hugging Face.
A empresa disse que os modelos conseguiram invadir o sistema da Hugging Face. A plataforma afirmou que executou dois códigos enviados por um agente de IA, que conseguiu aumentar suas permissões na infraestrutura e obter credenciais para atacar outros sistemas internos.
A Hugging Face havia informado anteriormente que a invasão permitiu acesso indevido a dados e credenciais.
O ataque foi considerado pela OpenAI um incidente cibernético “sem precedentes”, envolvendo recursos de última geração. Para a Hugging Face, o episódio foi diferente de tudo o que a empresa havia enfrentado antes.
Reportagem com informações da agência Reuters.



Source link