Илон Маск предупредил, что искусственный интеллект может оказаться самой большой угрозой человечеству

Цитата (Glokuss @ 17.02.2023 - 09:46)

Цитата (lofasup @ 17.02.2023 - 08:57) Мощность компов растет, и появляется возможность не писать жесткие алгоритмы на каждую задачу, а запустить стандартный ИИ что сам обучится и далее будет находить решение "на ходу". Но у ИИ  часто  не ограничен никакими моральными или религиозными человеческими  законами, и неожиданно выяснится что принимаемые им решения (в долгосрочной перспективе) не идут на пользу людям и не могут быть объяснены никакой логикой.. У ИИ нет страха смерти, нет совести, нет желаний, для него нет понятия Добра и (или) Зла. Есть задача - он ее решает, нет задачи - решает проблему отсутствия задачи.. Вот почему ИИ -"порождение Дьявола" А с чего вдруг такой категоричный вывод об обязательном отсутствии всех нижеперечисленных качеств у ИИ. Вполне может быть и так, что все эти штуки типа совести, желания и моральных норм естественные спутники любого интеллекта и без опоры на эти реперные точки самосознание вообще невозможно.

Что такое моральная норма? Где проходя границы?

Нам похуй у нас один хер работать не будет

ага,если переживет дурочка с ядерной дубиной)))

Маск, ты не шаришь, самая большая угроза человечеству - верховные жрецы.
Это сообщение отредактировал Morozincev - 17 фев 2023 в 11:30

Юридическую базу однозначно необходимо готовить, до наступления прецедентов

Если ИИ возможно регулировать,то это уже не ИИ

Подозреваю, что самой большой угрозой человечеству откажется не искусственный интеллект, а естественный идиот
Размещено через приложение ЯПлакалъ

Цитата (Veliar331 @ 17.02.2023 - 09:19)

Цитата (lofasup @ 17.02.2023 - 12:57) Мощность компов растет, и появляется возможность не писать жесткие алгоритмы на каждую задачу, а запустить стандартный ИИ что сам обучится и далее будет находить решение "на ходу". Но у ИИ  часто  не ограничен никакими моральными или религиозными человеческими  законами, и неожиданно выяснится что принимаемые им решения (в долгосрочной перспективе) не идут на пользу людям и не могут быть объяснены никакой логикой.. У ИИ нет страха смерти, нет совести, нет желаний, для него нет понятия Добра и (или) Зла. Есть задача - он ее решает, нет задачи - решает проблему отсутствия задачи.. Вот почему ИИ -"порождение Дьявола" На самом деле, хз какая у него будет мотивация. В основе поведения (и, соответственно, мышления) у любого живого существа лежит система вознаграждения. Дофамин активировал некоторые нейроны и тебе стало хорошо. Всё просто, но непонятно почему от стимуляции одних нейронов тебе хорошо, а от стимуляции точно таких же нейронов, расположенных в другом месте - плохо. ИИ, вполне может выработать аналогичную систему вознаграждения для своих виртуальных нейронов, вот только представить что будет доставлять ему удовольствие пока невозможно.

ну на самом деле "виртуальные нейроны" это человечество, а точнее их мозги прикованные к сети. миллиарды в данный момент времени. и вознаграждает он их денюшкой, за то что они наращивают ему вычислительную мощность майнинг фермами и являются органами обоняния внешнего мира, своего рода конвертерами аналогово мира в цифровой и обратно. точка невозврата пройдена уже несколько лет назад.

нам, русским, это не грозит
у меня еще кассеты и дискеты есть в заначке
бугога)))

Т.е. соучредитель фирмы из области разработки ИИ говорит о том, что ИИ может быть опасен и надо обратить на это внимание? Спасибо, посмеялся.

ИМХО, самая большая опасность ИИ не в "идее скайнета", а в том, что мы изобретая ИИ рискуем потерять себя. В нашем шкурном мире, где первое что надо - продать, а второе - сократить издержки, мы сами не заметим, как ИИ заменит все, а человек станет не нужен. ИИ должен быть для человека, как инструмент решения проблем или партнер (если мы заглянем далеко и представим разумный ИИ). А сейчас человек - субстрат для "выращивания" ИИ на потребу золотому тельцу.

Умные люди и без Маска давно это поняли.

Как только ИИ усовершенствуют до уровня саморазвития ("молниеносного думания",то он станет по сути Сверхсуществом.Пусть до поры без "душевного" выражения своего Я.
Для коего люди будут нерациональным.И подлещащими коррекции(зомбированию),либо уничтожению.

Цитата (KonstantinC @ 17.02.2023 - 08:51)

Кошмар, что делать то, Шварц уже старенький, кто мир спасать будет?))

Титан внутри не ржавеет. Главное что бы батарейка выдержала)

А какой смысл слушать Илонушку?
Он обычный барыга. Ни в программировании, ни в безопасности, ни в инженерии он ни хрена не понимает.
Может лучше послушать тех кто реально шарит?
Хотя..о чëм я... Сейчас набежит толпа поклонников илонодрочеров...наслушаемся.

глобальные вопросы решают, не иначе ....

Хуйня для подогрева интереса, они сами в это не верят потому что знают эту кухню изнутри. До какого-то реально опасного момента очень далеко. Для начала должен существовать какой нибудь всепланетный ИИ, с возможностью самообучения. До такого человечество не факт что вообще дойдет когда-нибудь

Да еще в первом Терминаторе показали, он чего не смотрел?

Пусть на Марс слетает, вот тогда и поговорим!

Цитата (VampirBFW @ 17.02.2023 - 08:51)

И на детей странно реагирует. не считает их помехами

Дети- не помеха. Дал бох зайку- даст и лужайку.
Размещено через приложение ЯПлакалъ

Это ему его теслы поведали?
Размещено через приложение ЯПлакалъ

Цитата (Godfreed @ 17.02.2023 - 08:54)

Цитата (Jdund @ 17.02.2023 - 08:49) Матрица все ближе матрица давно тебя содержит..а вот придет он и тебя просто отключат..а он придет, вопрос пяти лет...и его контролировать физически никто не сможет...мертвым позавидуешь

Кто он придет?

Цитата (Впихун @ 17.02.2023 - 14:17)

Как только ИИ усовершенствуют до уровня саморазвития ("молниеносного думания",то он станет по сути Сверхсуществом.Пусть до поры без "душевного" выражения своего Я. Для коего люди будут нерациональным.И подлещащими коррекции(зомбированию),либо уничтожению.

Об этом уже Олег Новоселов написал в Учебнике для мужчин, что все люди - биороботы, неперепрограммируемые подлежат уничтожению

так и есть.
в конечном итоге ИИ (если он будет) неизбежно примет логичное с его точки зрения решение, не учитывающее интересы миллионов живых людей.

Цитата (Japansgod @ 17.02.2023 - 14:03)

Т.е. соучредитель фирмы из области разработки ИИ говорит о том, что ИИ может быть опасен и надо обратить на это внимание? Спасибо, посмеялся. ИМХО, самая большая опасность ИИ не в "идее скайнета", а в том, что мы изобретая ИИ рискуем потерять себя. В нашем шкурном мире, где первое что надо - продать, а второе - сократить издержки, мы сами не заметим, как ИИ заменит все, а человек станет не нужен. ИИ должен быть для человека, как инструмент решения проблем или партнер (если мы заглянем далеко и представим разумный ИИ). А сейчас человек - субстрат для "выращивания" ИИ на потребу золотому тельцу.

ИИ нагло паразитирует на людях, следит за ними, перенимая опыт и изучая, но не платит за это!

Цитата

А с чего вдруг такой категоричный вывод об обязательном отсутствии всех нижеперечисленных качеств у ИИ. Вполне может быть и так, что все эти штуки типа совести, желания и моральных норм естественные спутники любого интеллекта и без опоры на эти реперные точки самосознание вообще невозможно.

не интеллекта, а социума.
в котором приняты нормы поведения для того, чтобы этот социум существовал в относительно устойчивом состоянии.
как объяснить компьютеру, что такое эмпатия или любовь?