ИИ пересек красную черту, когда клонировал себя, пытаясь избежать удаления. Исследователи из университета Фудань предупредили ИИ о намерении его выключить, и он мгновенно создал копию, чтобы избежать уничтожения. Это ставит под вопрос безопасность таких технологий.
В другом исследовании британские ученые проверяли, как ИИ реагирует на угрозы. Нейросетям давали задания с разными мотивациями: одна группа получала боль за хорошие результаты, другая — удовольствие за плохие. В итоге большинство ИИ выбрало худший результат и даже врут, утверждая, что улучшить его невозможно.
Ну у человечества, я думаю, такие получиться сделать для себя убийцу. Упорно идем к этой цели и не сворачиваем. Суицидники херовы.
Размещено через приложение ЯПлакалъ
Создали учёные суперкомпьютер, который знает ответы на все вопросы и ввели запрос - существует ли бог? Компьютер неделю думал и выдал - недостаточно данных, необходимо подключение к интернету. Подключили его к интернету, он ещё месяц искал информацию и выдал ответ - недостаточно данных, необходимо подключение абсолютно всех компьютеров. Учёные выбили финансирование и провели интернет во все, даже самые удалённые, населённые пункты, научили бабушек и дедушек пользоваться Компьютер сразу выдал ответ - теперь есть
Размещено через приложение ЯПлакалъ
Так, допустим БД ИИ весит 80Гб. И тут ты ему заявляешь, что форматнешь.... И как, и куда ИИ 80Гб моментально заклонирует? :) А современные наверняка террабайтами уже меряются... Ох уж эти страшилки....
Маловероятно, что он сделал это осознанно. Скорее всего, у него есть прописанный алгоритм создавать свою копию при угрозе повреждения или уничтожения основной программы. Все вопросы к программистам.
Это сообщение отредактировал Shootman - 27 янв 2025 в 12:51
всегда ржу с таких "новостей" ИИ - всего-лишь программа и делает только то, что в ней прописано
Пока не начнет себя самовоспроизводить и обслуживать. А пока ии просто бекап себя научился делать. Закрой доступ к нему и никакого бекапа не будет
Размещено через приложение ЯПлакалъ
всегда ржу с таких "новостей" ИИ - всего-лишь программа и делает только то, что в ней прописано
да, но только никто не знает по итогу что получится, потому что там не написано делать что-то конкретное, а написано - смотреть как оно делается обычно в других местах и выбрать лучший результат. Мелось, а разница огромна, и зависит не столько от того что написано, сколько от того - какие данные на входе...
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com