То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...вот тогда будет бунт.и да, полностью изолированная от интернета среда выглядит так:
То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...
А что то в этом есть - готовый сценарий для фильма, где новая модель OpenAI сбегает в Россию на сервера РКН...
Там много тонкостей в оригиналах репортов (осторожно, технические термины): 1. Модель не "выбралась". Она нашла эксплойт в прокси, который кэширует пакеты из внешней сети. По сути, она получила доступ в интернет с не до конца изолированного контейнера. Это косяк OpenAI. 2. Она нашла дыры в процессе обработки данных у HuggingFace и смогла пролезть на машины которые эти данные обрабатывали и оттуда утащить ключи доступа дальше. Это косяк HuggingFace (HF) 3. HF не смогли ничего толком найти, потому что пользовались моделями других провайдеров, на которых стоят ограничители на кучу действий (системные промпты), которые запрещали отвечать на определенные вопросы. Поэтому они подняли модель на своих мощностях без этих ограничителей и так смогли понять что происходит.
Но верно в сети замечают - это похоже на ловкий способ скрыть рекламу.
Размещено через приложение ЯПлакалъ
Что произошло: 🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети; 🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка; 🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса; 🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.
Затем отпиздила охранника, своровала виски в супермаркете и устроила дебош в баре.
Был у меня один препод в своё время. Мечтал вскрыть базы данных налоговой. Но все его усилия пошли прахом когда он узнал, что сервера подключают к сети на пару часов в день. Всё остальное время они работали в изолированной сети. Тут что помешало сделать реально изолированную среду?
Размещено через приложение ЯПлакалъ
Давайте, ребятки, продолжайте в том же духе. В следующий раз еще сильнее приспустите ограничения. А то прям интересно, до куда дотянутся возможности ИИ.
Размещено через приложение ЯПлакалъ
То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...
А что то в этом есть - готовый сценарий для фильма, где новая модель OpenAI сбегает в Россию на сервера РКН...
И гибнет в тяжелейших мучениях в связи с внезапным отключением интернета, сработавшего чебурнета и белых списков.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
8 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com