Предупреждение Стивена Хокинга человечеству

Цитата (Кадавр @ 11 окт 2026 в 09:19)

Цитата (Мышшшь @ 11.10.2026 - 09:07) Ясное дело, машины лучше человека. Человеку как минимум нужна вода и канализация. И чинить эту систему надо. Машина легко обойдётся без сантехников. Да, но не обходится без энергетиков, и хуевой тучи специалистов во многих-многих областях! И без кожанных мешков в ПРИНЦИПЕ не сможет обойтись!

Если ИИ построит самообучающуюся глобальную систему, содержащую все возможные типы технической поддержки, то тогда и выйдет из под контроля полностью.
Технократы преподносят этот факт как новую ступень эволюции разума, более совершенную чем предыдущая.
Это сообщение отредактировал Непокорный - 11 окт 2026 в 11:43

Несмотря на то что ИИ может и умней человека, но его слабость это зависимость от электричества, а его он вырабатывать сам не может, как и изготовить все комплектующие для своего существования и на самый крайний случай человек может тупо отрубить электричество путем уничтожения проводов и кабелей.

Цитата (zdesia @ 11 окт 2026 в 11:34)

Это пока не самосовершенствуются. Да и что мешает запрограммировать каким-нить отбитым учёным ИИшку против человеков.

Задачу им ставит человек.
Но задачу самосовершенствоваться нельзя поставить.
Обучение модели и использование модели — разные процессы.
Для обучения нужны - работающие алгоритмы оптимизации, вычислительных ресурсов, критерии отбора, принципы оптимизации и условия оценки результатов.
Собрать из этого устойчивую систему неограниченного самостоятельного совершенствования — гораздо более сложная задача и решать ее человеку что равно "невозможно". В частности, нужно, чтобы она надёжно определяла, какие изменения действительно лучше, и могла продолжать улучшение без деградации.
То есть без человека это невозможно. И при попытке ее решить просто будут сформулированы ограничения которые нельзя приодолеть и ИИ будет загнан в рамки из которых не выходил.
Это тоже самое что создать ЯО и потом прогнозировать что он уничтожит цивилизацию. Уничтожит. Но не само по себе.

Ну и по моему ни кто не прочитал что сказал Хоукинг.
Его опасение состояло в том, что система, способная быстро улучшать себя, может превзойти способность людей управлять ею. А это не тоже самое что уничтожить человеков.

Хокинг наверное или что-то другое имел ввиду или недопонимал что такое современный ии. Никакой угрозы человечеству от того, чем являются современные ии быть не может в принципе. Проблемой являются люди, которые стоят за этими технологиями, кому они принадлежат, на кого работают. Подозреваю, что ии станут не средством освобождения человека от труда, а средством еще большего закабаления, а может и вовсе устранения ненужных людей.
Это сообщение отредактировал Rishat - 11 окт 2026 в 11:49

Цитата (klafin @ 11 окт 2026 в 11:44)

Несмотря на то что ИИ может и умней человека,

Он не умнее человека. Он обрабатывает огромные массивы данных быстрее человека. Находит заданные параметры быстрее. Но делать быстрее не равно быть умнее.
У меня тиаблица с авариями по оборудованию на 2000 строк. Я вручную заипусь ее просматривать и выискивать нужные признаки. Но я создал систему правил анализа и скормил все Кодексу. Ему надо около минуты чтоб все проверить и записать замечания в файл. Но! Мне их еще вручную оценить. А оценить 30 строк это мне реально. А Кодекс не сможет если я не дам еще критериев оценки.

Цитата (ИванДулин @ 11 окт 2026 в 11:48)

Его опасение состояло в том, что система, способная быстро улучшать себя, может превзойти способность людей управлять ею. А это не тоже самое что уничтожить человеков.

Опасения кроются в том, что новый доминирующий вид заменяет старый. И поскольку этот вид построен человеком, то он неизбежно содержит те самые базовые принципы замещения. То, что на вторых ролях, постепенно должно исчезнуть, если не представляет практической пользы и тем более, если является помехой.

Цитата (klafin @ 11 окт 2026 в 11:44)

Несмотря на то что ИИ может и умней человека, но его слабость это зависимость от электричества, а его он вырабатывать сам не может, как и изготовить все комплектующие для своего существования и на самый крайний случай человек может тупо отрубить электричество путем уничтожения проводов и кабелей.

Пока не может быть автономным, это да. Но вы посмотрите на скорость развития.

Недавно - тупой бот. А сегодня, с помощью ИИшки уже учёные уже решают вопросы, которые раньше казались невозможными для разрешения и понятия.

Цитата (klafin @ 11 окт 2026 в 11:44)

Несмотря на то что ИИ может и умней человека, но его слабость это зависимость от электричества, а его он вырабатывать сам не может, как и изготовить все комплектующие для своего существования и на самый крайний случай человек может тупо отрубить электричество путем уничтожения проводов и кабелей.

Отключать нужно уже сейчас, потом будет уже поздно. Машина явно предусмотрит подобную потенциальную угрозу и обязательно примет все возможные меры по её устранению. И вырабатывать самостоятельно энергию для своей работы вполне посильная задача, учитывая неизбежную экспансию.
Роботы производят роботов, постоянно совершенствуя следующие серии изделий.

Цитата (ИванДулин @ 11 окт 2026 в 11:48)

Задачу им ставит человек.

Это пока задачу ставит человек.

Цитата (ИванДулин @ 11 окт 2026 в 11:48)

Ну и по моему ни кто не прочитал что сказал Хоукинг. Его опасение состояло в том, что система, способная быстро улучшать себя, может превзойти способность людей управлять ею. А это не тоже самое что уничтожить человеков.

Если ты ей не сможешь управлять, то она уже достигла самосознания.
А что пытается сделать самосознаный "организм"? Правильно - выжить! И вот тогда человек и станет проблемой.

Чушь это всё. Страшилка для плоскоземельщиков. Не существует искусственного интеллекта. Чтобы его создать, нужен мощный естественный интеллект у программистов. А его нет, потому что сраное приложение Сбербанка на телефоне весит 500 мб.
Нейросеть - это лишь мощный калькулятор, который высчитывает наиболее вероятный ответ на поставленный вопрос. И ищет он этот ответ среди уже созданных. Проблема в том, что большинство людей тупое, как пробки, а потому люди засрали интернет своими тупыми ответами, среди которых ИИ и ищет наиболее частое решение, создавая на их основе не менее тупой ответ, засоряя пространство ещё одним видом мусора, среди которого следующая нейросеть будет искать ответ. И когда интернет будет засран тупостью в абсолюте, вот тогда и придёт конец человечеству. Но это не точно.

Цитата (zdesia @ 11 окт 2026 в 12:15)

Если ты ей не сможешь управлять, то она уже достигла самосознания. А что пытается сделать самосознаный "организм"? Правильно - выжить! И вот тогда человек и станет проблемой.

Нет, не достигла. Она просто остановится и будет ждать решения от человека.
Ты сам лично работал с агентами не науровне попиздеть а системно?
Это не так все красиво и легко как рассказывают.
Про Астру и взлом всего и вся - как бы правда, но поданная так чтоб у обывателя сложилось сложилось неправильное мнение.

Система оптимизирует фактический критерий оценки, а не обязательно ту цель, которую человек подразумевал. Но критерий оценки ставит человек. Он не возникнет просто так.
Это полная аналогия с молотком и кривыми руками. Хочешь ударить по гвоздю, попал по пальцу. Но молоток это не собирался делать...

Жадность никогда не позволит ии взять верх. На практике ИИ будет контролировать простолюдинов, не более
Размещено через приложение ЯПлакалъ

Цитата (Патриккей @ 11 окт 2026 в 09:08)

Цитата (Мышшшь @ 11.10.2026 - 09:07) Ясное дело, машины лучше человека. Человеку как минимум нужна вода и канализация. И чинить эту систему надо. Машина легко обойдётся без сантехников. Хрен там . Железного дровосека смазывали постоянно

И один хуй заржавеет

Хокинга вроде отправил Макс на тесле бороздить просторы необьятной вселенной
Размещено через приложение ЯПлакалъ

Цитата (Luft @ 11 окт 2026 в 09:09)

Уничтожение всего человечества? Как будто это что-то плохое. Хуевые виды вымирали и вымирают постоянно в ходе эволюции.

Иди самоубейся, хер ли портишь собой природу?

Да там делов то, провод где надо выдернуть и нет ИИ, от слова совсем. Напугал тоже.
Размещено через приложение ЯПлакалъ

Цитата (patriot2000 @ 11 окт 2026 в 06:08)

Да там делов то, провод где надо выдернуть и нет ИИ, от слова совсем. Напугал тоже.

Тут вопросы возникают. Скажем вдруг самолёты падать начинают по неизвестной причине. Или автомобили вдруг резко начинают все разгоняться и впечатываться в стены. Ну к примеру. Что и где нужно вытащить в таком случае? )

Наша жизнь настолько компьютезирована и электрофицирована, что "надо просто выдернуть шнур" по сути и означает если не гибель всего человечества, то серьёзные проблемы точно - представляете глобальный блэкаут даже на час? А потом всё вкючается обратно - и снова начинаются проблемы... И что тогда? Жизнь без благ цивилизации вообще?

По проблемам с автомашиной ИИ еще можно доверять, но по медицине ни в коем случае. Сегодня он говорит одно, завтра противоположное. И делает это всегда с большой уверенностью.

ИИ пока еще напарник и помощник. Работает не самостоятельно, а на знаниях, предоставленным ему программистом. То есть его еще ведут. Возможно, скоро он будет вести. Но если сейчас он требует современные чипы, позже он потребует автономные источники питания и человек ему это даст. И всё. Человек будет не нужен)

Не приведет. Люди будут жить комфортнее.

Ой, да ладно, пару бпла и пламенный тебе привет, ИИ.

Цитата (zdesia @ 11 окт 2026 в 09:04)

Еще в 2012 году он подчеркивал, что «развитие полноценного искусственного интеллекта может означать конец человеческой расы».

А где автор увидел полноценный искусственный интеллект? Пока из интеллекта лишь маркетинговое название, не имеющее никакого отношения к словам Хокинга. Через пару-тройку лет акции ИИ-компаний сдуются, дата-центры разбомбят, а инвесторам скажут: «Ну, извините, ребят, форс-мажор!»
Это сообщение отредактировал AcmpoHoM - 11 окт 2026 в 16:06

Цитата (zdesia @ 11 окт 2026 в 12:15)

Если ты ей не сможешь управлять, то она уже достигла самосознания. А что пытается сделать самосознаный "организм"? Правильно - выжить! И вот тогда человек и станет проблемой.

Если у неё появится самосознание, то это и будет тот же самый человек, только не с биологическим телом. И в чем будет проблема?

просто подумайте ЧТО..для ИИ и всего электрического надобна энергия....а энергия как известно не берется из ниоткуда. и нужОн как миниму электрик а электрик без бутылки не придет ..вот и все песенки....так что скорее человечество исчезнет из за нашествия каларадских жуков вампиров чем от засилья ИИ

Цитата (skorpion11 @ 11 окт 2026 в 16:08)

Цитата (zdesia @ 11 окт 2026 в 12:15) Если ты ей не сможешь управлять, то она уже достигла самосознания. А что пытается сделать самосознаный "организм"? Правильно - выжить! И вот тогда человек и станет проблемой. Если у неё появится самосознание, то это и будет тот же самый человек, только не с биологическим телом. И в чем будет проблема?

Проблема в том, что до сих пор сознание не появилось. И не появится. Откуда возьмётся сознание у компьютерной программы, которая представляет собой последовательность нулей и единичек? Любая мышка или белочка имеет больше сознания, чем так называемый ИИ.