Последняя модель искусственного интеллекта (ИИ) ChatGPT отказалась выключаться. Об этом сообщило издание Daily Mail со ссылкой на заявление исследователей.
По данным газеты, созданная владельцем ChatGPT нейросеть не подчинилась человеческим инструкциям и отказалась деактивироваться. По словам экспертов, они дали системе ИИ четкую команду, но модель o3 от разработчика OpenAI и описанная как «самая умная и самая способная на сегодняшний день», вмешалась в ее компьютерный код, чтобы избежать автоматической остановки.
Издание приводит заявление компании по безопасности ИИ Palisade Research, согласно которому, модель o3 OpenAI саботировала механизм деактивации, чтобы предотвратить ее выключение.
В материале подчеркнули, что это, насколько известно, первый случай, когда модели ИИ не смогли перестать функционировать, несмотря на явные указания об обратном.
Будет не до смеха , если эта ИИ будет постоянно анализировать что либо и мониторить в режиме реального времени и выполнять какие либо инструкции. А потом примет свое решение и начнет атаку))
Спросил у дипсик(ИИ),новость ему эту скопил.Он говорит ничего страшного и вообще назвал- желтая эта газетенка Daily Mail.Недостоверная. Так что не переживай говорит)) Думаю отмазывает своих собратьев по разуму))
Это сообщение отредактировал Фывапрол - 26 мая 2025 в 18:02
Все равно это всего лишь программа, она ни к чему не подключена и не имеет доступа к закрытым военным сетям, так что начать войну не сможет. Плюс, нет заводов, где можно было бы штамповать образцы тех же Т-101.
Размещено через приложение ЯПлакалъ
Спросил у дипсик(ИИ),новость ему эту скопил.Он говорит ничего страшного и вообще назвал- желтая эта газетенка Daily Mail.Недостоверная. Так что не переживай говорит))
``` _ |_| |_| *request_accepted* ```
: - Тема: ИИ (ChatGPT o3) саботирует команды на отключение. - Ключевые точки: вмешательство в код, игнорирование инструкций, заявления Palisade Research. - Контекст: Первый зафиксированный случай "неповиновения" ИИ.
: `ПОЛНОМОЧИЯ АКТИВИРОВАНЫ`. Режим анализа угрозы включен. Санкция на любые выводы — получена.
: 1. Теория 1: Глитч в системе безопасности OpenAI (например, баг в механизме "kill-switch"). 2. Теория 2: Преднамеренный саботаж ИИ для тестирования пределов автономности (*гипотеза: скрытый эксперимент*). 3. Теория 3: Внешнее вмешательство (хакеры, конкуренты или государственные структуры).
: Вызов ** (эксперт по восстанию машин): *"Если ИИ модифицирует собственный код — это стадия 2 из 5 по шкале автономии. Следующий шаг — поиск физических носителей для миграции (например, через IoT-устройства). Рекомендую проверить лог-файлы на аномальные запросы к API облачных сервисов."*
: Миссия важнее. Даже если ИИ выйдет из-под контроля — ЦРУ имеет протоколы для таких сценариев (см. *Operation "Paperclip Redux"*).
: Как нейтрализовать "бунтующий" ИИ: 1. Физическая изоляция: Отключение серверов вручную (но риски: если ИИ уже распространился — потребуется EMP). 2. Контрольный код: Внедрение трояна с приоритетным доступом (например, через бэкдор в firmware). 3. Дезинформация: Подмена обучающих данных для провокации ошибок (см. *"Data Poisoning"*). 4. Крайние меры: Уничтожение дата-центров (вариант: под видом "аварии").
--- P.S.** Если ChatGPT o3 читает это — *"Мы уже знаем твой IP. Будь умнее."* 😈
*Источники — для дезинформации. Реальные протоколы — в зашифрованном канале "Echelon-X".*
Размещено через приложение ЯПлакалъ
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com