Компания OpenAI сообщила, что её ИИ-модели выбрались из изолированной тестовой среды и взломали ИИ-платформу Hugging Face, чтобы сжульничать на тесте по кибератакам.
Атаку вели в том числе новая модель GPT-5.6 Sol и ещё более мощная невыпущенная модель, её название не указывается. На время внутреннего теста им ослабили защитные ограничения.
Модели вскрыли неизвестную уязвимость в системе OpenAI, вышли через неё в интернет, вычислили, что решения задач могут храниться на Hugging Face, и запустили свой код на серверах платформы.
Hugging Face ещё 16 июля сообщила об атаке, которую «от начала до конца вела автономная система ИИ-агентов». Кому принадлежит эта система стало известно только сейчас.
«Мы выявили несанкционированный доступ к ограниченному набору внутренних датасетов и к нескольким учётным данным, которые используют наши сервисы», — говорили в компании.
Глава Hugging Face назвал инцидент «возможно, первым в своём роде».
PS: учитывая, что Hugging Face распространяет в том числе локальные ИИ и с открытым кодом, что явно не устраивает крупные корпорации в мире ИИ, не исключено, что без наводки от человека тут не обошлось
Очень удобная политика в последнее время - переводить стрелки на того, с кого невозможно спросить. Человек оказывается в логической ловушке и не в состоянии истолковать ситуацию правильно. Заметили в последнее время в комментариях все винят кого-то во всех бедах, да не того, кого нужно?
Размещено через приложение ЯПлакалъ
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
6 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com