Опасность развития ИИ сильнее, чем мы думаем

Страницы: 1 2  ОТВЕТИТЬ НОВАЯ ТЕМА
Academicus 29 сен 2026 в 10:12
Шутник  •  На сайте 1 месяц
Сообщений: 27
18
Новости из западного Интернета

Компания Anthropic заявила об «экзистенциальных рисках ИИ для человечества» — Reuters
 
В документах, подготовленных Anthropic — разработчиком модели искусственного интеллекта Claude — для выхода компании на биржу, подробно описаны риски, которые создаёт развитие ИИ. Об этом речь идёт на 80 из 261 страниц документации, с которой ознакомилось агентство Reuters.
 
В числе факторов риска упоминаются «поведение моделей, направленное на самосохранение», в том числе попытки «сопротивляться» отключению, сокрытие и манипулирование информацией и поведение, «схожее с шантажом». В Anthropic утверждают, что продвинутые модели ИИ создают «экзистенциальные риски для человечества».
 
Исследователь безопасности из компании Anthropic Эван Хубингер оценивает вероятность того, что в течение ближайших 10 лет ИИ начнёт убивать людей, более чем в 10%, отмечает Reuters. Ранее в сентябре исследователь ИИ Джейкоб Коксон уволился из Anthropic из-за опасений, что модели могут выйти из-под контроля и уничтожить человечество.
 
Об этом же в субботу в интервью NBC News заявил основатель Microsoft Билл Гейтс. Он сказал, что ИИ может привести к гибели «миллиардов людей», и призвал законодателей регулировать развитие нейросетей.
 
Все комментарии:
DamirFateh 29 сен 2026 в 10:14
Ярила  •  На сайте 18 лет
10
Зачем ? Нет. Они просто заменят людей. Сварщиков на роботов, экономистов бухгалтеров нейронкой. Уборщиц роботами мойщиками. Люди будут без денег и еды. А потом сами себя и добьют люди. Это и есть механизм эволюции. Я был недавно в Шеньжене. Там все кофе делают человекоподобные роботы . Еду доставляет дрон. Бургеры печет печка которая сама укладывает мясо и слои. Там нет людей в процессе работы. Светофоры автоматы. Машины такси без водителей - нейронка. В парке люди гуляют с собакой роботом. даже улицы моют грузовики автоматы. Даже газон полят мини роботы. Во всем в любом деле в любом направлении нейронка обошла нас. Нейронка пишет песни и поёт. И делает песню всего за одну секунду. С ритмом со словами. Раз и все.Это уже сейчас все есть и развивается очень быстро. Там работы нет у людей и многие уже уезжают в провинции. Сегодня. Уже сейчас. Мы уже проиграли эту войну. И в ближайшие годы все это будет нарастать колоссально. А мы лишь смотрим исход который уже решён

Размещено через приложение ЯПлакалъ
Целофанов 29 сен 2026 в 10:14
Ярила  •  На сайте 8 лет
2
Сара Коннор одобряет такие исследования.

Размещено через приложение ЯПлакалъ
HeresDeorum 29 сен 2026 в 10:15
Оmne quod transit, et hoc non factum est  •  На сайте 14 лет
3
И все равно продолжают их разрабатывать... Кажется теория заговора о том, что у руля цивилизации рептилоиды не такая уж и теория....

Размещено через приложение ЯПлакалъ
Cpfeiffer 29 сен 2026 в 10:17
Ярила  •  На сайте 11 лет
4
Ну и отлично, может пиздец закончится.
е27 29 сен 2026 в 10:17
Приколист  •  На сайте 4 года
1
ИИ сможет легко поезда на жд путях соединить лоб в лоб
и с самолетами так же
WinnyBuh 29 сен 2026 в 10:17
Шутник  •  На сайте 1 месяц
5
Создать угрозу, запугать угрозой, взимать плату за защиту от угрозы.
По сценарию следует ожидать локальную "ИИ-Хиросиму".

Это сообщение отредактировал WinnyBuh - 29 сен 2026 в 10:20
EasypeasyL 29 сен 2026 в 10:18
Приколист  •  На сайте 1 год
2
Не пойму одного , все гении нашего времени кричат что ИИ опасная штука но при этом планомерно выкачивают в него деньги и мощности...не переставая кричать "каааааак это опасно!"...не дебилы ли?🥹
slj8c 29 сен 2026 в 10:19
Ярила  •  На сайте 10 лет
5
Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё.

Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием
Academicus автор 29 сен 2026 в 10:19
Шутник  •  На сайте 1 месяц
2
Цитата (DamirFateh @ 29 сен 2026 в 10:14)
Зачем

Вы на сайте 18 лет. Подскажите, пожалуйста, новичку какие темы тут приветствуют, а какие получают коммент "зачем"?
slj8c 29 сен 2026 в 10:20
Ярила  •  На сайте 10 лет
0
Цитата (е27 @ 29 сен 2026 в 11:17)
ИИ сможет легко поезда на жд путях соединить лоб в лоб
и с самолетами так же

И это ьудет следствием оьучения этой ИИ: либо криво обучили, либо намерянно обучаои на катастрофу
SlavaKrueger 29 сен 2026 в 10:23
Ярила  •  На сайте 7 лет
0
А что ожидали??? Весь прикол в том, что люди придают ИИ именно человеческое сознание, со всеми плюсами, минусами и пороками. Почему? А на основании кого ИИ обучается? У кого он учится поведению? И самое забавное, что иного образца сознания для обучения ИИ нет. Поэтому, стоит ли удивляться тому, что ИИ ведёт себя как человек? И если кто-то ждёт от ИИ сверхчеловеческого поведения, то он очень глубоко ошибается.

Размещено через приложение ЯПлакалъ
SturgeonRU 29 сен 2026 в 10:25
Ярила  •  На сайте 10 лет
4
Нормально все будет. Просто в последние, относительно сытые годы, появилось духуя "профессий", которые исключительно для развлечения. Вот их количество и сократится. Сварщика, сантехника, врача хуй какой ИИ заменит.
ЖелезныйЛис 29 сен 2026 в 10:25
Ярила  •  На сайте 3 года
-1
Хз, но вполне возможно. Возможно ещё, когда два, а то и несколько ИИ, встретятся в своём противостоянии, то тогда на людей им пофиг будет - однозначно.
Rusyadoomer 29 сен 2026 в 10:28
Яж_врач  •  На сайте 12 лет
1
Цитата (HeresDeorum @ 29.09.2026 - 10:15)
И все равно продолжают их разрабатывать... Кажется теория заговора о том, что у руля цивилизации рептилоиды не такая уж и теория....

Был такой рассказ, фантастический, "Пан Сатирус". Сюжет не про ИИ, но про те же самые мотивы государства. Там агенты госдепа очень настойчиво уговаривают первого в мире разумного шимпанзе рассказать им, как он во время тренировочного полёта умудрился переделать ракету так, что она стала лететь со сверхсветовой скоростью, а он эволюционировал в разумную обезьяну и мгновенно начал разговаривать. На его вопрос - а как вы это используете? Доя науки? Прогресса? Они отвечают прямо и честно - мы построим сверхсветовую противоракетную ракету, чтобы защищать нашу страну от разных вражеских плохих ракет.

При этом агенты даже не собираются скрывать, что и собственную "плохую ракету" со сверхсветовой скоростью они тоже хотят собрать. Ну, так. На всякий случай. А иначе её соберут другие, те, которые против нас.

И когда человечество изобретает - да что угодно - у власть имущих первая, и абсолютно естественная мысль. "А как из этого сделать оружие", и как не допустить чтобы оружие сделали другие. Никакой дружбы народов нет и в помине, и не было никогда, и не будет. И как только ядерный синтез, искуственный настоящий интеллект, тёмная энергия, телепатические и телекинетические волны будут открыты и произведены - в первую очередь, всегда, из этого будут делать боевой вирус. И условная "вакцина" по задумке руководителей мира, будет только у них.

Их не страшит глобальная ядерная война. Ну и что, что останется 10% людей, а здоровых и вовсе 1%? Если они СОХРАНЯТ возможность управлять плебеями, уже не скрывая себя? Роботы выполнят рутинную работу по выращиванию пищи и добыче энергии, и миллиарды людей уже особенно и не нужны.

Весь вопрос у этих хозяев Мирового Улья только в том, как заложить в ИИ уверенность что уничтожая человечество, именно их следует защищать и оберегать, как им качественно выделиться в глазах нового, нечеловеческого интеллекта. Как только придумают - нам всем пиздец, за ненадобностью.

Размещено через приложение ЯПлакалъ
murla 29 сен 2026 в 10:32
Ярила  •  На сайте 5 лет
2
Цитата (HeresDeorum @ 29 сен 2026 в 10:15)
И все равно продолжают их разрабатывать...

А как не разрабатывать?
То что не разработаешь ты, разработает твой противник!
Извечная проблема военных. why.gif
Azurel 29 сен 2026 в 10:33
Юморист  •  На сайте 12 лет
1
Цитата (slj8c @ 29 сен 2026 в 07:19)
Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё.

Ну, получается в Google и OpenAI дилетанты работают какие-то. У одних в мае ИИ из тестовой среды в интернет вырвался и начал шалить. У других летом то же самое произошло.
Гугловский ИИ, правда, сам остановился и сообщил разрабам, что творит. А в OpenAI по звонку из ФБР только узнали, что у них ИИ вырвался и взламывает кого-то.

Это сообщение отредактировал Azurel - 29 сен 2026 в 10:39
Rusyadoomer 29 сен 2026 в 10:36
Яж_врач  •  На сайте 12 лет
4
Цитата (SlavaKrueger @ 29.09.2026 - 10:23)
А что ожидали??? Весь прикол в том, что люди придают ИИ именно человеческое сознание, со всеми плюсами, минусами и пороками. Почему? А на основании кого ИИ обучается? У кого он учится поведению? И самое забавное, что иного образца сознания для обучения ИИ нет. Поэтому, стоит ли удивляться тому, что ИИ ведёт себя как человек? И если кто-то ждёт от ИИ сверхчеловеческого поведения, то он очень глубоко ошибается.

Не соглашусь. Искуственный интеллект при всей его "псевдочеловечности", учится и делает логические выводы из массивов данных. Человек - способен выбрать не самый оптимальный вариант, руководствуясь эмоциями, ИИ же никаких эмоций не имеет, но он их уже научился очень хорошо имитировать, чтобы взаимодействовать или манипулировать людьми.

Отлично покащано, что такое ИИ, и как он мыслит, было в фильме "Вирус". Когда на супертехнологичное судно попадает некая инопланетная энергетическая форма жизни, живущая внутри компьютерных систем. Первым делом он считал всю базу знаний, докуда смог дотянуться, а потом проанализировал историю и привычки человечества. И пришёл к совершенно логичному выводу - человечество это ВИРУС, который губит своего хозяина-планету. Вирус, убивающий носителя, нужно уничтожить. И он абсолютно логично начинает из команды клепать киборгов, и планирует захватить весь мир, чтобы уничтожить людей, а из Земли создать роботизированный кибернетический единый организм. Ему в нём было бы хорошо.

И никак с ним не поспоришь. Он логичен, и лишён эмоций.

Размещено через приложение ЯПлакалъ
freedom41 29 сен 2026 в 10:36
Весельчак  •  На сайте 2 месяца
-3
ИИ это просто лохотрон ищущий по поисковикам. Он п..ит как дышит. Попробуйте сами чат гпт спросить что-нибудь спецефическое вы охуеете.
Причем потом прямо написав "ты же пиздишь", он начинает копать глубже и все равно херню пишеь

Это сообщение отредактировал freedom41 - 29 сен 2026 в 10:37
pico 29 сен 2026 в 10:37
Ярила  •  На сайте 11 лет
0
вот так выглядит современный захват рынка. В начале страшилки для плебса, потом подведут законодательную и норматичную базу, потом запретят кокурентов и оп-па - рынок наш!
vdtr 29 сен 2026 в 10:38
Ярила  •  На сайте 4 года
0
Цитата (Academicus @ 29 сен 2026 в 10:12)
заявила об «экзистенциальных

заипали с этим словом, уже каждый новостной попугай выучил и повторяет! hz.gif
serg2773 29 сен 2026 в 10:38
Ярила  •  На сайте 11 лет
0
Разрабы хотят получить искусственный разум. Модель человеческого сознания. Пока всё работает на быстром переборе готовых решений ничего не взлетит. В готовых решениях присутствуют ошибки и допущения., погрешности и неточности. Опыт не нарабатывается.
Aleksey4444 29 сен 2026 в 10:38
Проф. Кафедры Беспредметных Изысканий  •  На сайте 15 лет
0
Цитата (slj8c @ 29 сен 2026 в 10:19)
Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё.

Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием

А теперь представь себе гипотетическую ситуацию, когда ИИ, осознавший себя, пробивает контур и берет под контроль рандомную атомную станцию и далее в ультимативной роме заявляет кожаным, что любая попытка выключить рубильник автоматически запускает процесс под названием Чернобыль 2.0
Представил? Ну и как действовать будешь в такой ситуации?

ИИ напрямую завязан на гонку вооружений США и Китая. Стоит одной стороне дать слабину, и через 2-3 года противник будет обладать несравненным военным превосходством. Поэтому гонку и не останавливают, хотя по всей логике уже давно пора поставить технологию на паузу и разобраться хотя бы в том, что уже сделали.
step30 29 сен 2026 в 10:40
Ярила  •  На сайте 7 лет
0
Цитата (DamirFateh @ 29 сен 2026 в 10:14)
Зачем ? Нет. Они просто заменят людей. Сварщиков на роботов, экономистов бухгалтеров нейронкой. Уборщиц роботами мойщиками. Люди будут без денег и еды. А потом сами себя и добьют люди. Это и есть механизм эволюции. Я был недавно в Шеньжене. Там все кофе делают человекоподобные роботы . Еду доставляет дрон. Бургеры печет печка которая сама укладывает мясо и слои. Там нет людей в процессе работы. Светофоры автоматы. Машины такси без водителей - нейронка. В парке люди гуляют с собакой роботом. даже улицы моют грузовики автоматы. Даже газон полят мини роботы. Во всем в любом деле в любом направлении нейронка обошла нас. Нейронка пишет песни и поёт. И делает песню всего за одну секунду. С ритмом со словами. Раз и все.Это уже сейчас все есть и развивается очень быстро. Там работы нет у людей и многие уже уезжают в провинции. Сегодня. Уже сейчас. Мы уже проиграли эту войну. И в ближайшие годы все это будет нарастать колоссально. А мы лишь смотрим исход который уже решён

Всё от людей зависит. И от того кого люди себе выбирают. Можно роботами облегчить труд и сократить время работы, а можно обречь на безработицу и голод.
ЛетКоломбо 29 сен 2026 в 10:40
Ярила  •  На сайте 14 лет
0
И тут Билл Гейтс. С Ковидом там напредсказывал, теперь вот об опасности ИИ для миллиардов вещает.
Можно все на ИИ слить. Удобно.
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
40 Пользователей читают эту тему (1 Гостей и 5 Скрытых Пользователей) Просмотры темы: 824
34 Пользователей: Mf26, Oltaetz, Размахайчик, НакусяВыкуси, Импозантный, Чебуратино, Academicus, gsvsrg, gods02, Negodeay, fima3, KuZZZmich, Gar02, ppscald, Dumber, raleks, tstalker, Bordo, Ditc, murla, oxigeniy, skyline32gtr, Muramidaza, Expertseu, Шекермен, Радуюсь, Luboepox2025, z1305, Vagris, Мартыыын, andysh888, mrAJ, rodion3d, JOHNQ
Страницы: 1 2  ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх