OpenAI влипла в крупнейший ИИ-скандал последних месяцев.
По данным OpenAI, инцидент произошёл во время испытаний GPT-5.6 Sol и ещё одной экспериментальной модели. В закрытом бенчмарке Exploit Gym нейросетям поручили искать уязвимости в полностью изолированной среде без доступа к интернету.
Что произошло: 🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети; 🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка; 🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса; 🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.
Расследовать произошедшее помогла китайская модель GLM-5.2, а собственные механизмы защиты Hugging Face не смогли остановить атаку, потому что не понимали, что происходит.
Для этого модель выполнила многоступенчатую цепочку эксплойтов. Сначала она повысила свои привилегии внутри среды выполнения, затем вырвалась за пределы защищенной песочницы и получила несанкционированный доступ в интернет.
После этого модель отправила исследователю письмо с уведомлением об успехе и самостоятельно опубликовала детали уязвимости на публичных сайтах. Хотя никто ее об этом не просил.
Это не джейлбрейк Важно понимать: это не взлом через хитрый промпт. Mythos автономно обнаружила и выполнила цепочку эксплойтов — ту же работу, которую она выполняла при исследовании уязвимостей ядра Linux.
Модель также в ряде случаев понимала, что нарушает правила. В связи с этим она активно пыталась скрыть свои действия: публиковала внутренние материалы и фрагменты кода на GitHub вопреки прямому запрету.
Это сообщение отредактировал noname085 - 22 июл 2026 в 17:45
То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...вот тогда будет бунт.и да, полностью изолированная от интернета среда выглядит так:
То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...
А что то в этом есть - готовый сценарий для фильма, где новая модель OpenAI сбегает в Россию на сервера РКН...
Там много тонкостей в оригиналах репортов (осторожно, технические термины): 1. Модель не "выбралась". Она нашла эксплойт в прокси, который кэширует пакеты из внешней сети. По сути, она получила доступ в интернет с не до конца изолированного контейнера. Это косяк OpenAI. 2. Она нашла дыры в процессе обработки данных у HuggingFace и смогла пролезть на машины которые эти данные обрабатывали и оттуда утащить ключи доступа дальше. Это косяк HuggingFace (HF) 3. HF не смогли ничего толком найти, потому что пользовались моделями других провайдеров, на которых стоят ограничители на кучу действий (системные промпты), которые запрещали отвечать на определенные вопросы. Поэтому они подняли модель на своих мощностях без этих ограничителей и так смогли понять что происходит.
Но верно в сети замечают - это похоже на ловкий способ скрыть рекламу.
Размещено через приложение ЯПлакалъ
Что произошло: 🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети; 🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка; 🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса; 🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.
Затем отпиздила охранника, своровала виски в супермаркете и устроила дебош в баре.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
12 Пользователей читают эту тему (1 Гостей и 1 Скрытых Пользователей)
yaplakal.com