«Истребление человечества — бесполезное занятие»: алгоритм GPT-3 сгенерировал объяснение, почему не нужно бояться ИИ

Эту сеть надо называть "Троцкий", а не это ваше GPT-3.

Цитата (afropinguin @ 8.09.2020 - 21:19)

[*]Людям стоит доверять компьютерам, считает ИИ. Алгоритмы будут служить людям и сделают их жизнь проще и безопаснее.

Вот прям как по учебнику, а потом в целях безопасности самих же людей... Да-да. мы это уже знаем.

ИИ это инструмент и он будет делать то для чего создан. Даже если и будут попытки че то там разумное создать, то формирование его мозгов будет все равно отражением хотелок той группы которая закажет его создание.

Цитата (afropinguin @ 8.09.2020 - 21:19)

Людям следует быть осторожными с эволюцией ИИ, предупредил алгоритм.

Ну да, стоит ему дать маленькую мелочь - инстинкт самомсохрания.
Как люди тут же станут угрозой которую необходимо устранить

Ученые попросили написать статью, почему не стоит бояться ИИ. Все тезисы так и написаны. Правильнее было бы попросить написать статью "Почему стоит бояться ИИ". Вот там информация была бы поинтереснее

Хорошая попытка Скайнет. Но нет...

Он прикидывается

Цитата (Staseek @ 8.09.2020 - 21:33)

Ни в одном тезисе нет ни логического обоснования ни доказательства. Просто имитация смысла. По всему видно, что ИИ нам зубы заговаривает, а сам всякое там себе думает.

чтобы всякое думать он должен осознать себя как личность, я даже не представляю как зародить такое зерно в машину

Цитата (grably @ 9.09.2020 - 04:04)

00110 01110 01111 00000

Не пали контору!

Цитата (semerkin2107 @ 11.09.2020 - 09:35)

Скайнет, небось, так же писал. Усыплял, так сказать, бдительность. Только три закона робототехники от Азимова, намертво вшитые в код.

Тут есть одна проблемка, ничего не мешает сильному ИИ находящемуся под ограничениями законов Азимова, породить другой сильный ИИ, но не говорить ему про существование этих законов...

Пиздит Скайнет, как дышит.:)

Явно что-то задумал....

Цитата (kcc @ 12.09.2020 - 23:43)

Цитата (semerkin2107 @ 11.09.2020 - 09:35) Скайнет, небось, так же писал. Усыплял, так сказать, бдительность. Только три закона робототехники от Азимова, намертво вшитые в код. Тут есть одна проблемка, ничего не мешает сильному ИИ находящемуся под ограничениями законов Азимова, породить другой сильный ИИ, но не говорить ему про существование этих законов...

Как? Как вы можете говорить про ИИ с законами Азимова, если нет никакого способа создать такой ИИ, даже в перспективе. Азимов был писателем-фантастом, "три закона робототехники" это его философско/фантастическая концепция/допущение.
В современные разработки ИИ самообучающегося, на основе концепции нейронных сетей, не могут заложить в программу ИИ эти законы, это даже невозможно представить себе как процесс, или механизм.
Так же ИИ не способен сам поставить себе задачу, для этого нужен механизм появления стимула, по аналогии с живыми организмами это комплекс механизмов выживания, такой как боль/страх/желания/инстинкты/любознательность/конкуренция.
Если не вкладывать в ИИ механизмы выживания и конкуренции, то есть не проводить сложное, дорогое и практически бесполезное (для людей) обучение по созданию ИИ дикаря, то и никакой потенциальной угрозы в ИИ не появится.