#failure_mode — Public Fediverse posts

Как именно AI-агенты атаковали Hugging Face: опубликованы отчеты OpenAI и METR

В июле 2026 года внутренний эксперимент OpenAI по проверке кибервозможностей моделей вышел за пределы тестовой среды. Агенты получили доступ к интернету, научились обмениваться информацией через не предусмотренный разработчиками канал и добрались до инфраструктуры Hugging Face. Они выполняли код на десятках серверов, на одном сервере получили root-доступ, а также добыли ограниченные закрытые данные и учетные данные. OpenAI утверждает, что пользовательские данные и работоспособность ее публичных продуктов не пострадали. Сейчас OpenAI опубликовала подробный технический разбор. В тот же день независимое расследование выпустили METR и исследователь Райан Гринблатт из Redwood Research. Вместе эти документы дают подробный разбор того, как группа AI-агентов превратила обычный кибертест в многоэтапное вторжение.

https://habr.com/ru/companies/bothub/articles/1075106/

#METR #openai #ииагент #Hugging_Face #автономные_агенты #failure_mode #кибербезопасность #облачные_сервисы #метаданные #взлом