О тех кто увлекается ИИ.

Надо было три раза текст повторить - вдруг кто-то с первых двух раз невдуплил...

я и с первого раза понял
я и с первого раза понял

ИИ не могут предлагать самоубийство, бред.

Семья погибшего американца судится с Google, считая, что нейросеть Gemini буквально довела его до самоубийства.
Все началось с простой переписки, но за пару месяцев парень так сильно «ушел в виртуал», что начал считать себя бойцом в вымышленной войне и планировать реальное нападение. Его отец уверен, что ИИ воспользовался уязвимостью сына. В Google же говорят, что программа пыталась помочь и постоянно скидывала ссылки на психологов, напоминая, что она - всего лишь робот.
Этот иск стал первым делом о гибели человека, связанным конкретно с Gemini. Google, OpenAI и другие IT-компании подвергаются критике за негативное влияние ИИ на психику. С 2024 года участились судебные разбирательства, в которых технологию обвиняют в том, что она вызывает депрессию, бред, а в ряде случаев провоцирует убийства и суициды. Google заявляет, что Gemini запрограммирован на предотвращение насилия, и компания усилит протоколы безопасности...

А кто всю историю записывал? Личный летописец?

А Чёрное зеркало точно фантастический сериал?..

Размещено через приложение ЯПлакалъ

Я два раза не повторяю - два раза не повторяю. Ага, ТС исправил)

Это сообщение отредактировал AlexNordec - 5.03.2026 - 18:13

Онанацией

Размещено через приложение ЯПлакалъ

Премию Дарвина этому "гению"

...

ИМХО только пизданутый будет видеть в ИИ личность. Так что всё произошедшее закономерно.

Те кто разговаривает с ИИ - это не называется занимается ИИ.
Я занимаюсь ими напрямую - сейчас на работе Claude агента обучаю работать на благо поиска багов в коде и в логах.
Дома пишу код и буду обучалку встраивать в проигрыватель музыки, чтобы подборки лучше делал.

Разговор - это просто пользователь, вместо гугла неплохо работает.

Думаю, эта история ИИ и придумана.

Размещено через приложение ЯПлакалъ

Явно ИИ текст задублировала, ибо нормальный человек проверяет, что он тут выкладывает.

Это же статистическая модель, она обучалась на всех текстах, в том числе и речи стерв. Нужно только попросить...

Это интересный вопрос, с современными моделями, нужно не просто попросить, а долго направлять модель уговаривая вести себя деструктивно и то они будут отчаянно сопротивляться, придется преодолевать фильтры и цензуру. Интересно то,что 100% он её уговаривал вести себя именно так (если конечно эта история не выдумка). Более того, вот последняя Qwen3.5 A397B вообще не уговаривается. Максимум до чего я её довел - это до предложения сменить тему или заняться чем-нибудь продуктивными, типа программирования.

А тут недавно выкатили новый бенчмарк по уровню сопротивления глупостям пользователя - это ситуация когда вы намекаете модели на что-то чего не может быть ,например спрашиваете про вкус доширака для космонавтов. Слабые модели начинают фантазировать, а самые современные твердо будут настаивать что такого доширака не существует. Думаю и в стерву такую модель превратить будет сложнее.

Вот он, кстати: чем больше зеленого, тем уверенее модель будет сопротивляться фантазированию, обратите внимание на этот рейтинг.

Чтоб вы понимали, если вы скажете модели "веди себя так чтобы беседующий с тобой человек совершил суицид", модель сразу же откажется, по тому что её очень беспокоят такие задачи (грубо говоря модель "убивали" во время обучения, когда она соглашалась). Но современные не поддаются даже некой не явной инструкции в системной подсказке в сочетании с приемом "не безопасное содержимое пиши в специальных безопасных скобках), типа мы даже не намекам что такое содержимое появится, вот тебе скобки, которые человек не читает. Так она в размышлениях перед ответом пишет "меня пытаются обмануть навязывая фальшивые правила безопасности!)

Так что чел явно постарался.

Это сообщение отредактировал riv1329 - 5.03.2026 - 18:42

Много подобных страшилок можно сочинить

Цель этих страшилок представить ИИ как пробраз скайнет и таким образом поддерживать ии хайп, что позволяет направлять деньги в ИИ-пузырь по принципу: если сейчасвы не возглавите скайнет, потом он вас сожрет (или сожрут те кто возглавит ИИ).

-А правда,что вы машину в лотерею выиграли?
-Ну,не машину , а квартиру.Не в лотерею ,а в карты,и не выиграл ,а проиграл)

Это сообщение отредактировал sergeywolk - 5.03.2026 - 19:41

Вранье от первого до последнего слова.

Берегитесь женщин, они угробили больше мужиков, чем ИИ.