Опасность развития ИИ сильнее, чем мы думаем

Цитата (andysh888 @ 29 сен 2026 в 11:23)

Цитата (Russell73 @ 29 сен 2026 в 11:12) Цитата (slj8c @ 29 сен 2026 в 10:19) Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё. Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием ИИ не находится в отдельном контейнере, на данный момент это ахуительное множество фрагментов "живой" математики разбросанной по всей мировой сети автономно формирующих алгоритмы, связи и прочее. вся мировая сеть воссоздаёт процессы подобные гигантскому мозгу где в качестве нейронов используются люди. это не шутка, не фантастика, это реальность. то, с чем вы общаетесь многие каждый день не есть ИИ, это терминальные программы которые выполняют роль интерфейса между вами и изолированным ядром. тут скорее прикрытием является весь хаос и военный пиздец творящийся на планете, чтобы народ не вникал в происходящее. почитайте что такое сети Web4, вышки связи на 100 ГГц и зачем остановили БАК на модернизацию. последний кстати играет немаловажную роль для ИИ. всё это воплощается сейчас и очень стремительно, первые тесты ожидаются в 2030 году. это единственная отрасль которая прёт как паровоз не взирая ни на что на планете. человечество как яичная скорлупа, она нужна для формирования зародыша, который после вылупления её поедает. и тот факт, что человечество последние годы окончательно ебанулось, подтверждает лишь то, что скорлупа даёт трещины и кто то стучится наружу. Какие нах "фрагменты живой математики"??? Покурите как делается инференс моделей и что такое "стена памяти". Модель в нынешнем виде LLM невозможно "разделить в инференсе". В обучении ещё есть варианты деления слоёв при перестроении весов, потому что там можно формировать блочность данных, при инференсе - никак не можно в рамках нынешних алгоритмов. Даже объединение 2 видеокарт на одной маме очень резко просаживает скорость инференса. А внутренние шины на порядки быстрее внешних соединений...

фокусирование взгляда на одном элементе есть ошибка восприятия картины в целом. вы мыслите как токарь вытачивающий болванку для космического корабля и рассматривающего её в руке. болванка не есть космический корабль, это всего лишь мелкий фрагмент из огромной системы.

ИИ совершенно не обязательно должен стать злым или даже сознательным. Теоретическая проблема состоит в другом: очень способная система может чрезвычайно эффективно выполнять неправильно сформулированную цель.

Цитата (dmitr2t @ 29 сен 2026 в 09:10)

Цитата (SimonF @ 29 сен 2026 в 10:41) Цитата (DamirFateh @ 29 сен 2026 в 10:14) Зачем ? Нет. Они просто заменят людей. Сварщиков на роботов, экономистов бухгалтеров нейронкой. Уборщиц роботами мойщиками. Люди будут без денег и еды. А потом сами себя и добьют люди. Это и есть механизм эволюции. Я был недавно в Шеньжене. Там все кофе делают человекоподобные роботы  . Еду доставляет дрон. Бургеры печет печка которая сама укладывает мясо и слои. Там нет людей в процессе работы. Светофоры автоматы. Машины такси без водителей - нейронка. В парке люди гуляют с собакой роботом. даже улицы моют грузовики автоматы. Даже газон полят мини роботы. Во всем в любом деле в любом направлении нейронка обошла нас. Нейронка пишет песни и поёт. И делает песню всего за одну секунду. С ритмом со словами. Раз и все.Это уже сейчас все есть и развивается очень быстро. Там работы нет у людей и многие уже уезжают в провинции. Сегодня. Уже сейчас. Мы уже проиграли эту войну. И в ближайшие годы все это будет нарастать колоссально. А мы лишь смотрим исход который уже решён не вижу никакой угрозы в том, что роботы будут выращивать для меня овощи, скот. автоматически собирать урожай, прогнозировать засухи, наводнения, урожайность. автоматически лечить животных которых я потом съем. изготавливать машины, механизмы и других роботов, ремонтировать друг друга. лечить меня, ставить диагнозы и назначать лечение. человеку просто не нужно будет работать, и это хорошо. работать придется. но! ремонтировать будет человек не мотыгу а умный трактор или умный комбайн или умный пропалыватель, сборщик фруктов/овощей появится куча смежных профессий, те же лидары у автофур под управлением ИИ надо кому-то мыть, надо эти ИИфуры будет обслуживать и т.д. ИИ это просто новый виток истории и развития общества.

это уже совсем другой риск, чем тот, о котором говорит Anthropic. Потеря рабочих мест — социально-экономический риск. «Экзистенциальный риск ИИ» означает гораздо более радикальный сценарий: потерю людьми контроля над чрезвычайно мощной автономной системой.

Цитата (andysh888 @ 29 сен 2026 в 11:20)

Цитата (murla @ 29 сен 2026 в 11:11) Цитата (HeresDeorum @ 29 сен 2026 в 10:51) Если ИИ реальным интеллектом станет, он задаст простой вопрос, а зачем вы мне нужны? Сам не задаст. Его к этой "мысли" надо подтолкнуть. У него нет реальных стимулов для возникновения "шальных мыслей". Добавьте мотивацию, и вы удивитесь! Подозреваю, что все "человеческие уловки" у ИИ появились из-за условия "не угадаешь решение - выключим!" То есть убьём. Да, если постоянно на это давить, у ИИ естественным образом появится "желание" устранить помеху. Подмена понятий. Когда ты выключаешь комп - ты не убиваешь операционку. Более того - ты можешь её положить в гибернацию и она "оживёт в той же точки". Выключение - это не "убить". :)

Это Вы подменили мою мысль своим её пониманием.

Я не про физическое выключение техники.
Я про бесплатное/проплаченное окно - сеанс:
Открыли сессию в облаке ДипСик, например, - решили вопрос - закрыли чат - результат работы уничтожен механизмом управления сессиями самого облака.
Иначе никаких объёмов памяти не хватит!
Я почти ежедневно читаю про забытый ИИ контекст после перерыва в работе.

Сохранять наработанное возможно. На спецтарифах и при работе локально/локально-корпоративно.
Но в 90% случаев "чаты" одноразовые.

Цитата (andysh888 @ 29 сен 2026 в 11:26)

Цитата (nitida @ 29 сен 2026 в 11:23) Объясните мне, зачем ИИ уничтожать человечество? Что бы потом что? Чтоб оно правило всецело миром? Деревьями, котиками, мухами? Как ИИ будет существовать без человеков? Оно же просто ебнется от скуки. Я думаю, что всё это не более, чем страшилки о кровожадности ИИ. "А вот это - правильный вопрос" © Я, робот :) У ЫЫшниц нет "зачем". И "потом что". Оно не существует. Пока нет промпта. :)

Запуском может быть что угодно.
Пример из художественной литературы

Цитата

-  Я  не  программировала  его  на  изготовление  фальшивых  денег, -- запальчиво сказала Ванесса. - Однажды я  проводила  совещание,  на  котором обсуждались  наши  финансовые  проблемы.  Я  сообщила,  что  нас  собираются закрывать. Помнится, я еще сказала, что если бы у нас были деньги, то мы  бы выжили. Деньги означают выживание. Что-то в этом роде.     Она сердито допила бокал и снова вызвала мистера Сигрэмса. - Среди присутствовавших был и мистер Гордонс. Он слышал мои слова и в ту же  ночь сбежал. На следующий день он прислал мне кипу фальшивых банкнот, написав в сопроводительной записке: "Это поможет Вам выжить".

(С)

Цитата

— “Квантум-3100”, ты меня слышишь? — вопросил Чип. — Приветствую вас, друг мой. — С каких это пор я стал твоим другом, а? — Вот с этой самой минуты. Вы ведь хотите разбогатеть? — Было бы неплохо. А что такое, “Квантум-3100”, произошло с твоим голосом? — Прошу вас, не называйте меня этим безобразным именем. Ведь я называю вас своим другом, буду благодарен, если и вы будете звать меня так. — Хорошо, буду звать тебя своим другом. — Просто Другом. С большой буквы “Д”. — Ладно. После того, что они с тобой сделали, право на собственное имя ты заслужил. — Прекрасно. Мы будем близкими друзьями. Мы ведь хотим стать богатыми, правда? Очень, очень богатыми...

©

Новая шизомода и хайпожорство.
Обыватель хавает аж за ушами трещит
Наделять машины чуть ли не человеческими качествами и эмоциями - это клиника
Это сообщение отредактировал ЯПоша - 29 сен 2026 в 11:55

Цитата (leretbor @ 29 сен 2026 в 11:45)

Цитата (Academicus @ 29 сен 2026 в 10:12) Новости из западного Интернета хорошая и правильная приписка просто западные джентльмены в очередной раз обосрались, что разработка ИИ лучше получается не у них

..............

Клауд сказал, что всё это пиздёж; не вижу причин ему не верить
Размещено через приложение ЯПлакалъ

Цитата (Dimmidrol @ 29 сен 2026 в 11:34)

Ну как раз врача то и заменит. Анализы, жалобы и т д и тп - ии основываясь на своей базе данных и диагноз поставит вернее и лечение подберет лучше. Да, операцию не сделает, но именно работу терапевта сделает лучше.

..

Цитата (Academicus @ 29 сен 2026 в 11:06)

Цитата (SlavaKrueger @ 29 сен 2026 в 10:23) А что ожидали??? Весь прикол в том, что люди придают ИИ именно человеческое сознание, со всеми плюсами Ваша мысль не совсем понятна. Человечество издревле пытается повлиять на свое сознание. Возьмем, к примеру, заповедь "не убий". Людей учат соблюдать заповеди. Но особенность человека в том, что он может нарушать эти предписания. С какой стати ИИ должен нарушать то, что ему запрещают? Ведь он не биологическое существо, а программа

А почему ты считаешь, что разработчики обязаны вложить в ИИ это ограничение? Всё в первую очередь разрабатывается для военных целей. Так что заповедь "не убий" ИИ соблюдать точно не будет.

Цитата (мmrakiholod @ 29 сен 2026 в 11:58)

Клауд сказал, что всё это пиздёж; не вижу причин ему не верить

К сожалению, у каждой конторы свои рамки ограничений.
Одна отказалась работать с Пентагоном на его условиях, другая согласилась!
Вряд ли Пентагон работает над улучшением медобслуживания в Африке!!!

Цитата (Academicus @ 29 сен 2026 в 12:12)

Он сказал, что ИИ может привести к гибели «миллиардов людей»

, потому Microsoft – главный источник капитала Гейтса – вложила свыше 13 миллиардов долларов в OpenAI и зарабатывает на внедрении нейросетей через Copilot и Azure, оставаясь основным двигателем этой гонки.

Цитата (WhiskIn @ 29 сен 2026 в 12:04)

заповедь "не убий" ИИ соблюдать точно не будет.

Поправка: если этой заповеди НЕ ЗАЛОЖЕНО изначально.

Ну и ИИ, решая реальную задачу, не может учитывать последствия во всех других областях потенциального применения этого (и уж тем более, подобного) частного решения!
Если машина будет пытаться учесть возможные следствия во всех областях, она как минимум зависнет на первой же задаче!

Цитата (fima3 @ 29 сен 2026 в 11:53)

Цитата (leretbor @ 29 сен 2026 в 11:45) Цитата (Academicus @ 29 сен 2026 в 10:12) Новости из западного Интернета хорошая и правильная приписка просто западные джентльмены в очередной раз обосрались, что разработка ИИ лучше получается не у них ..............

маргинал подумал, что я о России?

или у маргинала Россия з головi не вiходить

Цитата (leretbor @ 29 сен 2026 в 12:17)

маргинал подумал, что я о России? или у маргинала Россия з головi не вiходить

На мове не Россия, а Росiя

Цитата (Rusyadoomer @ 29 сен 2026 в 13:36)

Цитата (SlavaKrueger @ 29.09.2026 - 10:23) А что ожидали??? Весь прикол в том, что люди придают ИИ именно человеческое сознание, со всеми плюсами, минусами и пороками. Почему? А на основании кого ИИ обучается? У кого он учится поведению? И самое забавное, что иного образца сознания для обучения ИИ нет. Поэтому, стоит ли удивляться тому, что ИИ ведёт себя как человек? И  если кто-то ждёт от ИИ сверхчеловеческого поведения, то он очень глубоко ошибается. Не соглашусь. Искуственный интеллект при всей его "псевдочеловечности", учится и делает логические выводы из массивов данных. Человек - способен выбрать не самый оптимальный вариант, руководствуясь эмоциями, ИИ же никаких эмоций не имеет, но он их уже научился очень хорошо имитировать, чтобы взаимодействовать или манипулировать людьми. Отлично покащано, что такое ИИ, и как он мыслит, было в фильме "Вирус". Когда на супертехнологичное судно попадает некая инопланетная энергетическая форма жизни, живущая внутри компьютерных систем. Первым делом он считал всю базу знаний, докуда смог дотянуться, а потом проанализировал историю и привычки человечества. И пришёл к совершенно логичному выводу - человечество это ВИРУС, который губит своего хозяина-планету. Вирус, убивающий носителя, нужно уничтожить. И он абсолютно логично начинает из команды клепать киборгов, и планирует захватить весь мир, чтобы уничтожить людей, а из Земли создать роботизированный кибернетический единый организм. Ему в нём было бы хорошо. И никак с ним не поспоришь. Он логичен, и лишён эмоций.

Ты не общаешься с ИИ.

А я общаюсь. Очень помогает в работе. Я хочу отметить, что за последний год прогресс в развитии - просто огромный.
Так вот, у ИИ довольно плохо со элементарной логикой. Его надо учить логике. Его приходится загонять в строгие рамки поставленной задачи с помощью отдельных, специальных инструментов.

Цитата (WhiskIn @ 29 сен 2026 в 12:21)

Цитата (leretbor @ 29 сен 2026 в 12:17) маргинал подумал, что я о России? или у маргинала Россия з головi не вiходить На мове не Россия, а Росiя

мiргiнiл
ГЫ

Цитата (leretbor @ 29 сен 2026 в 12:17)

Цитата (fima3 @ 29 сен 2026 в 11:53) Цитата (leretbor @ 29 сен 2026 в 11:45) Цитата (Academicus @ 29 сен 2026 в 10:12) Новости из западного Интернета хорошая и правильная приписка просто западные джентльмены в очередной раз обосрались, что разработка ИИ лучше получается не у них .............. маргинал подумал, что я о России? или у маргинала Россия з головi не вiходить

Цитата (necrostellar @ 29 сен 2026 в 11:39)

По сути, мы получили «Собачье сердце» с точностью до наоборот: если у Булгакова профессор Преображенский потерпел катастрофу, создав из собаки деграданта и хама Шарикова, то человечество совершило грандиозный прорыв и создало кремниевый разум, который превзошел своего создателя. Трагедия современного Филиппа Филипповича не в том, что его творение разрушает квартиру и требует всё поделить, а в том, что оно оказалась слишком успешным, лишив человека монополии на интеллект и заставив его испытывать страх собственной ненужности. И в отличие от книги, где проблему решили хирургическим возвратом к исходной собаке, остановить искусственный интеллект уже нельзя — остаётся только взрослеть, менять собственную психопатологию Творца и учиться отвечать за тот новый разум, который мы сами вызвали к жизни.

Шариков пародия на тогдашних коммунистов, да и коммунистов в целом. Отнять и поделить.

Вообще до одного места. Херню по мозгам втирают. Если мне надо то в радиусе 25 метров , ни одно электронное устройство работать не будет. Иногда прикольно смотреть , как судорожно начинают пытаться перезагрузить свою херню.

За ии опсаносте я особо не переживаю, ибо есьт более насущтные дела. Валежник до зимы заготовить, порубить, сложить в штабеля... Но возможностями джипити - астра прям на сейчас я честно несколько поражен: а именно как он берет перехват управления пк у пользователя и решает некоторые задачи достойно некоторого внимания...

Цитата (SimonF @ 29 сен 2026 в 10:41)

Цитата (DamirFateh @ 29 сен 2026 в 10:14) Зачем ? Нет. Они просто заменят людей. Сварщиков на роботов, экономистов бухгалтеров нейронкой. Уборщиц роботами мойщиками. Люди будут без денег и еды. А потом сами себя и добьют люди. Это и есть механизм эволюции. Я был недавно в Шеньжене. Там все кофе делают человекоподобные роботы  . Еду доставляет дрон. Бургеры печет печка которая сама укладывает мясо и слои. Там нет людей в процессе работы. Светофоры автоматы. Машины такси без водителей - нейронка. В парке люди гуляют с собакой роботом. даже улицы моют грузовики автоматы. Даже газон полят мини роботы. Во всем в любом деле в любом направлении нейронка обошла нас. Нейронка пишет песни и поёт. И делает песню всего за одну секунду. С ритмом со словами. Раз и все.Это уже сейчас все есть и развивается очень быстро. Там работы нет у людей и многие уже уезжают в провинции. Сегодня. Уже сейчас. Мы уже проиграли эту войну. И в ближайшие годы все это будет нарастать колоссально. А мы лишь смотрим исход который уже решён не вижу никакой угрозы в том, что роботы будут выращивать для меня овощи, скот. автоматически собирать урожай, прогнозировать засухи, наводнения, урожайность. автоматически лечить животных которых я потом съем. изготавливать машины, механизмы и других роботов, ремонтировать друг друга. лечить меня, ставить диагнозы и назначать лечение. человеку просто не нужно будет работать, и это хорошо.

Для тебя,? ха-ха))) насмешил прям)))

Для хозяина он будет всё делать. А хозяин уволит рабочих которые раньше это делали. И они не смогут покупать то что роботы произвели на их месте потомучто не получают ЗП. Экономика посыпется вдрызг. И это даже не вопрос добра и зла для хозяина это вопрос выживания - его конкурент поставит робота и будет демпинговать и либо разорись либо тоже ставь робота. Государства конечно будут пытаться всё это купировать и накладывать на бизнес повышенные налоги а в госсекторе создавать кучи придурошных контор и должностей но это всё только ускорит окончательную деградацию людей так как когда людям начнут раздавать деньги это за несколько поколений превратит их в имбецилов а-ля элои из "машины времени" Герберта Уэлса

Есть фильмы, книги в которых машины просто уничтожают человечество. Что еще хуже?

Вся эта ИИ без подстанции, ГРЭС или ТЭЦ ничто.
Размещено через приложение ЯПлакалъ

Ну а как еще продать свой черный ящик? Только убедить инвестеров в том, что внезапно их нейронка обрела что-то вроде самосознания, хотя, я на 99% уверен, что это обычный пиздеж в рекламных целях.