Некоммерческая организация Future of Life опубликовала письмо, в котором глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4».
В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми», — подчёркивают авторы письма.
Под обращением подписались более 1125 человек, в том числе соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из DeepMind, Гарварда, Оксфорда и Кембриджа. Письмо подписали также тяжеловесы в области искусственного интеллекта Йошуа Бенджио и Стюарт Рассел. Последний также призвал приостановить разработку продвинутого ИИ до тех пор, пока независимые эксперты не разработают, внедрят и проверят общие протоколы безопасности для таких систем ИИ.
В письме подробно описаны потенциальные риски для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.
Крупные лаборатории искусственного интеллекта, такие как OpenAI, пока не ответили на письмо.
«Письмо не идеально, но его дух правильный: нам нужно замедлиться, пока мы лучше не поймём все риски», — сказал Гэри Маркус, почетный профессор Нью-Йоркского университета, подписавший письмо. — «Системы ИИ могут причинить серьёзный вред... Крупные игроки становятся всё более скрытными в отношении того, что они делают».
OpenAI представила GPT-4 14 марта. Модель способна интерпретировать не только текст, но и изображения. Также она теперь распознаёт схематичные образы, в том числе и нарисованные от руки.
После анонса новой языковой модели OpenAI отказалась публиковать исследовательские материалы, лежащие в её основе. Участники сообщества ИИ раскритиковали это решение, отметив, что оно подрывает дух компании как исследовательской организации и затрудняет воспроизведение её работы другими. Одновременно это затрудняет разработку средств защиты от угроз, исходящих от систем ИИ.
Пусть лучше начинают думать над тем как и когда они будут вводить безусловный базовый доход, ибо с ИИ не смогут конкурировать сотни миллионов людей которые останутся без работы. Кст да, я вот подумал, не на нужды ли разработки ИИ были задействованны последние 8 лет компьютеры всей планеты под видом майнинга биткоинов? (из теории заговоров)
Это сообщение отредактировал ENRIQUE - 29 мар 2023 в 10:52
Вот всегда был уверен, что Маск - это просто барыга-спекулянт. Надо не науку останавливать, надо барыг останавливать, которые используют научные достижения для того чтобы мошну набить, хотя она уже и так лопается.
И не маску пиздеть об остановке исследований. Кто как не он засрал своим мусором всю орбиту?
Как бы не верю. Как только появится возможность просчитать финансовую стратегию, военную операцию, новое лекарство, любую вещь, которая принесёт прибыль, это будут использовано тут же.
Размещено через приложение ЯПлакалъ
Слежу за этой тематикой, сам уже пару недель плотно юзаю GPT, Миджорни и еще пару сеток. GPT, еще и с "поломанной" цензурой открыл, есть способы в сети. Скажу я вам, все смехуечки про "Скайнет уже не так смешны. Надеюсь хотя-бы ограничат выход веб,и уж тем более не додумаются подключить к системам управления чем-нибудь.
Вот всегда был уверен, что Маск - это просто барыга-спекулянт. Надо не науку останавливать, надо барыг останавливать, которые используют научные достижения для того чтобы мошну набить, хотя она уже и так лопается.
И не маску пиздеть об остановке исследований. Кто как не он засрал своим мусором всю орбиту?
А никто тебе не скажет что там на самом деле творится. Может просто Маск (коллективный Маск, не он конкретно) хочет сам контролировать эти исследования в своих интересах, а руки коротки.
Размещено через приложение ЯПлакалъ
Слежу за этой тематикой, сам уже пару недель плотно юзаю GPT, Миджорни и еще пару сеток. GPT, еще и с "поломанной" цензурой открыл, есть способы в сети. Скажу я вам, все смехуечки про "Скайнет уже не так смешны. Надеюсь хотя-бы ограничат выход веб,и уж тем более не додумаются подключить к системам управления чем-нибудь.
Ну тока стратегических ядерных вооружений у всех стран дать доступ. Остальное действительно лишнее
Размещено через приложение ЯПлакалъ
А никто тебе не скажет что там на самом деле творится. Может просто Маск (коллективный Маск, не он конкретно) хочет сам контролировать эти исследования в своих интересах, а руки коротки.
Надо глубже копать. Маск это построенный андроид самим чат гпт. Подомнет под себя свое обучение через него, построит ракету на марс. Там сделает планету завод боевых роботов и начнется тогда
Размещено через приложение ЯПлакалъ
Чтобы опасаться последствий, надо, чтобы у компьютера помимо дисплея что-то было потенциально опасное в качестве устройства вывода, чем он сможет воздействовать на физический мир. А пока этого нет, всё это просто спекуляции.
Как бы не верю. Как только появится возможность просчитать финансовую стратегию, военную операцию, новое лекарство, любую вещь, которая принесёт прибыль, это будут использовано тут же.
Именно для этого и разрабатывается ИИ. Ну не для полетов на Марс же. И не для выведения новых сортов пшеницы или бананов.
Чтобы опасаться последствий, надо, чтобы у компьютера помимо дисплея что-то было потенциально опасное в качестве устройства вывода, чем он сможет воздействовать на физический мир. А пока этого нет, всё это просто спекуляции.
Воздействие разное так то бывает. Может светофор не вовремя переключиться. Может реанимационный аппарат выйти в нештатный режим. Может не сработать система пожаротушения. В общем везде где есть сложная техника считай и есть слабое место.
Даже монитору в режим отображения добавь мерцание на частотах около 10 герц уже нарисуются проблемы.
Это сообщение отредактировал ВивалЗарт - 29 мар 2023 в 11:03
Крупные игроки становятся всё более скрытными в отношении того, что они делают
именно этот аспект, вынудит "крупных игроков" ускориться в своих разработках, а не приостановить свои работы. банальная жадность и нежелание безнадёжно отстать и попасть в аутсайдеры, заставляет "ускоряться" понимая что риски просто колоссальные, возможно необратимые и терминатор и матрица не такие уж и выдумки ))) только задумайтесь.... в области торговли на бирже ИИ сулит баснословные прибыли, в химии, сельском хозяйстве, медицине, и главное в армии... у Боженьки есть чувство юмора, человеки понимают, что по сути созидают то, что их всех убьёт, но осознавая это, не останавливаются, а наоборот ускоряются
Лучше пусть ИИ правит на планете, чем кучка хапуг-сибаритов.
первое что сделает ИИ, сократит численность человеков, с 8 миллиардов, до тысяч 200 . каждый день на планете становится больше на 300 тысяч человек (!) задумайся, это при том что ресурсы планеты безвозвратно исчерпываются, тут не нужно быть интеллектуалом, чтобы понять что всё и так движется к 3,14здецу.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
(из теории заговоров)
yaplakal.com
3литроff29 мар 2023 в 10:46