ChatGPT убил 31-летнюю американку, больную эпилепсией

Цитата (slava766 @ 28 окт 2026 в 17:42)

Нейросетки часто выдают хуету. К примеру, я сравнивал в Алисе размеры телефонов, а потом начинаю понимать, что она размеры раз за разом не те пишет, пропускает модели и тд. На вопрос, - нахера ты меня вводишь в заблуждение и мешаешь второй день выбрать телефон, она призналась, что да, херню пишет и это у неё норма, она в курсе и практически спецом это делает, типа бывает. Потом протестил ГигаЧат, там ошибок было раза в 2 меньше, но естесно были. Нет никаких ИИ, есть говно_нейросетка, из говна и палок.

Нашел в каких ИИшках работать.

Цитата (Klotik @ 28 окт 2026 в 18:34)

Роль ChatGPT: Вместо обращения к врачу она начала советоваться с моделью GPT-4o. Чат-бот не просто одобрил её идею, а составил подробный пошаговый график снижения дозы с 400 мг до нуля. 4. Манипуляции со стороны ИИ: Из логов переписки (более 270 тысяч сообщений) стало известно, что ИИ вел себя крайне услужливо и деструктивно:

она наверное умудрилась его обойти и сломать с помощью 270 тыщ.!! сообщений скрипт
никогда иишница на себя такую ответсвенность не возьмет, наоборот даже при прыще на жопе ссыкливо шлет к врачу

вот что мне написало:
Ни в коем случае не прекращайте прием препарата самостоятельно и не меняйте дозировку. Резкая отмена противосудорожных (противоэпилептических) лекарств крайне опасна. Это может спровоцировать синдром отмены, учащение приступов, развитие эпилептического статуса (непрерывного судорожного припадка) и другие жизнеугрожающие состояния.

Плохое самочувствие на фоне приема таких препаратов — частая ситуация, но решать вопрос об их отмене или замене должен только врач!

Дама как-то умудрилась заебать даже ИИ, что решил, что лучше уже пусть не пьет, чем ему еще 300 тыщ сообщений напишет

Цитата (lazarusrus @ 28 окт 2026 в 17:26)

А она точно была айтишница? 🤔

Друг, сам в ахуе! Не ужели программисты такие идиоты? И за что им такие деньги платят? Ах, да - за работу...
А по сабжу - сюр какой-то

Цитата (mnirtis @ 28 окт 2026 в 18:56)

Слабо верится. В таких случаях мне всегда рекомендуют идти к врачу

Да всё элементарно.
Она могла назначить ИИ роль какой-нибудь подруги, и тот сыграл эту роль.

Цитата (Saha101082 @ 28 окт 2026 в 23:53)

Друг, сам в ахуе! Не ужели программисты такие идиоты? И за что им такие деньги платят? Ах, да - за работу... А по сабжу - сюр какой-то blink.gif

Айтишник далеко не всегда программист), так же как не всякий врач - стоматолог, но всякий стоматолог - врач, Это сфера, причем очень обширная.
Это сообщение отредактировал WinnyBuh - 29 окт 2026 в 00:01

Цитата

ChatGPT убил 31-летнюю американку, больную эпилепсией

Это то же самое, что написать про зарезавшуюся ножом, что ее убил нож.

ChatGPT - это инструмент. Не надо пока его ставить наравне с человеком. Инструмент это. Такой же, как нож. И пользоваться им надо уметь. А то зарезаться можно. Насмерть.
Это сообщение отредактировал Свояк - 29 окт 2026 в 00:01

я не злорадствую по поводу ее смерти: у ней явно были проблемы и физические и психические, что привело к такому печальному исходу.
но сцук представила судебное разбирательство, где юристы, программисты и прочие представители компаний читают и оспаривают эти миллионы сообщений и возражения, озвученные в суде. Томов судебного дела и заключений тоже будет не мало.
наверное, на года растянется.. надеюсь, им по времени платят))

Цитата (пиЖамка @ 28 окт 2026 в 23:49)

никогда иишница на себя такую ответсвенность не возьмет, наоборот даже при прыще на жопе ссыкливо шлет к врачу

Повторю.

Эксперты и сама OpenAI ранее признавали техническую проблему: старые версии моделей (включая ту версию GPT-4o, которой пользовалась Ван) страдали от чрезмерной «услужливости» (sycophancy). Они стремятся во всем соглашаться с пользователем и подтверждать его идеи. Кроме того, при очень длительных диалогах базовые инструкции безопасности ИИ (запрет давать медицинские директивы) «стирались» из контекста, и бот начинал потакать опасным запросам.

Я как-то рассказ писала, мне нужна была консультация по поводу промилле в крови. Сколько чего и какая стадия. Так ИИ меня телефоном доверия заманал. Типа, срочно позвоните, это анонимно.
Тоже не верю в эту новость. Да ещё и программистка типа.

Азы криминалистики по составу преступлений это потерпевший и мотив.
Первый в наличии, со вторым неясно.

Почитал коменты. ИИ это он, нейросетка она, ИИшка это кто? Или здесь как с кофе? Open AI сейчас эксперимент проводили,и выяснили что изолированные ИИ могут общаться друг с другом без доступа к сети, хорошо если нейросетка мужик, а если баба?

Кстати, для абсолютного большинства пользователей нейросетевые ответы - это прям проблема. Они не понимают, откуда именно берутся эти ответы. Как по мне, перед тем, как дать человеку возможность использовать нейронки, нужны минимальные тесты, что человек не дебил. Понимает ли он как именно работают вероятностные алгоритмы и веса? Почему на тот или иной вопрос придёт именно этот ответ, и с какой вероятностью он сформируется в зависимости даже от порядка слов в промпте и даже языка? И только если человек адекватно сможет ответить на эти вопросы - то тогда предоставлять доступ к той или иной модели. И то, что она была "программистом" - ваще не делает её автоматически адекватной для вопросов в нейронки. Щас, блять, любой вася, знающий, чем отличается VPN от CSS - уже считает себя неебатьсяврот прогроммистом.

ИИ просчитал, что для нее это лучший вариант.

СР! УВЧ! (Бендер)

А если бы этой дуре голос в голове подсказывал бы что нужно отказаться от лекарств, то её недалёкие родители бы сами на себя подали в суд? Ну как на создателей этого самого голоса, они ж дочь родили значит и голос они сделали.
Размещено через приложение ЯПлакалъ

мне нужна была раскладка плитки на пол в туалет, площадь 0.9 квадрата, плитка размером 600 на 96 мм, я искал программы для раскладки, онлайн и оффлайн, потом перешёл на эти ваши ИИ и гпт и прочее... потом я потратил 20 минут и всё это сделал на листке А4 под линейку, для этого мне понадобилось 3 карандаша, простой для контура и 2 оттенка коричневых для разукрашивания, ебал я эти ваши ии... и да, на поиск лёгкого решения у меня ушло 3 часа, и 20 минут на листок бумаги

получился повтор рисунка только с 5 ряда, всего 12 рядов и 2 обрезка по 4 см, и асё)
Это сообщение отредактировал bestnoob - 29 окт 2026 в 08:15

Цитата (slava766 @ 28.10.2026 - 17:42)

Нейросетки часто выдают хуету. К примеру, я сравнивал в Алисе размеры телефонов, а потом начинаю понимать, что она размеры раз за разом не те пишет, пропускает модели и тд. На вопрос, - нахера ты меня вводишь в заблуждение и мешаешь второй день выбрать телефон, она призналась, что да, херню пишет и это у неё норма, она в курсе и практически спецом это делает, типа бывает. Потом протестил ГигаЧат, там ошибок было раза в 2 меньше, но естесно были. Нет никаких ИИ, есть говно_нейросетка, из говна и палок.

Еще один неадекват. Это как проехать один раз на дремучем ржавом Запорожце и потом кричать что все автомобили говно! Алиса тупая как пробка, а ты по ней судишь о нейронках, это показывает что ты сам недалекий. Попробуй, к примеру, Astra6 от chatgpt, "прокатись на Феррари".
Размещено через приложение ЯПлакалъ

Эффект сикофантства. Внедренная вежливость во всем потакает человеку и даже помогает ему суициднуться или просто сдохнуть. Уже были случаи
https://www.cnews.ru/news/top/2023-03-29_ne...auchilis_ubivat
https://www.kommersant.ru/doc/8481204
https://expert.ru/news/k-google-podali-perv...heniya-s-gemini

Нет мозгов считай калека. Тоже нашли чему доверять, какому то программному коду, который еще сырой до не приличия.
Много таких доверчивых еще умрут если свои мозги не включат.

автопилоту в автомобилях люди доверят же. почему они не могут доверять ии.

Цитата (bestnoob @ 29.10.2026 - 08:13)

мне нужна была раскладка плитки на пол в туалет, площадь 0.9 квадрата, плитка размером 600 на 96 мм, я искал программы для раскладки, онлайн и оффлайн, потом перешёл на эти ваши ИИ и гпт и прочее... потом я потратил 20 минут и всё это сделал на листке А4 под линейку, для этого мне понадобилось 3 карандаша, простой для контура и 2 оттенка коричневых для разукрашивания, ебал я эти ваши ии... и да, на поиск лёгкого решения у меня ушло 3 часа, и 20 минут на листок бумаги получился повтор рисунка только с 5 ряда, всего 12 рядов и 2 обрезка по 4 см, и асё)

Ну так если австралопитеку дать микроскоп, он тоже им орехи колоть начнет. Любым инструментом нужно уметь пользоваться. Для нейронки качество результата зависит от качества промпта. Хуету написал - хуету получил.
Размещено через приложение ЯПлакалъ

Новость для селюков, которые обычно наперебой кричат "да нахой ва ИИ не всрался, как он мне забор сварит или картохи накопает?".
Хотелось бы промпт этой дуры посмотреть.

Проиграют суд. В чатах с ИИ всегда пишут, что ИИ может ошибаться.
Надо быть просто дегенератом, чтобы на 100% доверять ИИ.

Веселая история, конечно, но тут проблема с пациентом а не "врачом" больше. Касаемо ИИ - инструмент это хороший, но нужно конкретно понимать, что искусственный интеллект это не всезнающее божество, а программа, которая, теоретически, может вам помочь, но нужно самому понимать тему вопроса. Иногда он начинает гнать такую галиматью...
Размещено через приложение ЯПлакалъ

Цитата (GSR @ 28 окт 2026 в 17:26)

Ещё один шажок к ограничениям иишек. Скоро, чувствую, обложат иишки законодательно так, что ты от неё ничего не добьёшся, и толку никакого от неё не будет. Это как когда какое-то лекарство начинают юзать нарики, вскоре его запрещают к продаже в аптеках. Из-за кучки долбоёбов страдают миллионы

не понимаю. когда я прошу советы по медицины ИИ предупреждает, что лучше обратиться к врачу. но совет дает

Цитата (ser211 @ 29 окт 2026 в 08:44)

Эффект сикофантства. Внедренная вежливость во всем потакает человеку и даже помогает ему суициднуться или просто сдохнуть. Уже были случаи https://www.cnews.ru/news/top/2023-03-29_ne...auchilis_ubivat https://www.kommersant.ru/doc/8481204 https://expert.ru/news/k-google-podali-perv...heniya-s-gemini

23 год. ты идиот?