A OpenIA reportou um incidente envolvendo modelos de inteligência artificial que comprometeram a estrutura da plataforma Hugging Face. Em comunicado publicado nesta terça-feira (21/7), a empresa criadora do Chat GPT afirmou que a falha representa um “ataque cibernético sem precedentes” com recursos de última geração.
O problema foi detectado durante uma avaliação interna, onde os modelos GPT-5.6 Sol e um modelo em versão de pré-lançamento buscavam quantificar as capacidades cibernéticas e acabaram encontrando vulnerabilidades no ambiente de pesquisa da OpenIA e na infraestrutura da Hugging Face, invadindo o sistema.
“Em um exemplo, o modelo encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas e vulnerabilidades para encontrar um caminho de execução remota de código nos servidores da Hugging Face”, diz a empresa.
Ainda de acordo com a OpenIA, a atividade anômala foi identificada internamente e as atividades foram interrompidas. “A principal lição deste incidente é que a segurança e a proteção dos modelos devem acompanhar o rápido avanço das capacidades. Estamos reforçando as práticas de contenção, monitoramento, controle de acesso e avaliação utilizadas durante o desenvolvimento de modelos”, publicou.
Entre as medidas adotadas pela empresa norte-americana após o episódio estão a implementação de controles rigorosos na configuração da infraestrutura e o aprimoramento de proteções mais robustas para treinamentos e avaliações futuras. A OpenIA reforça que o desenvolvimento de capacidades cibernéticas deve ser feito junto a salvaguardas e ferramentas de defesa robustas.
Clem Delangue, CEO da Hugging Face, comentou o caso. "Este incidente, possivelmente o primeiro do gênero, comprova um ponto que sempre acreditamos: a segurança da IA não será resolvida por uma única empresa trabalhando em segredo. Ela será resolvida de forma aberta, colaborativa, com amplo acesso à IA para todos os defensores, em todos os lugares", afirma.
Saiba Mais
Mundo
Mundo
Mundo
Junio Silva
RepórterJornalista graduado pelo IESB. Tem experiência como repórter, consultor de comunicação e conteudista. Entusiasta da cultura, artes e política.