Ложь Нейросетей (ИИ) - простой пример из 2 вопросов

Страницы: 1 2 3  ОТВЕТИТЬ НОВАЯ ТЕМА
yater100 6 июл 2025 в 17:28
Ярила  •  На сайте 1 год
Сообщений: 1 369
18
На мой взгляд самый простой пример. Вопрос "сколько всего людей летало в космос? и сколько женщин?"

И второй вопрос "сколько всего женщин летало в космос?". Как вы наверное догадались интересовала цифра именно по женщинам (на всё другое смотреть не будем).

Спрашивал не ради подсчёта точной цифры и указания кто точнее всех ответит, а в рамках одной нейросети. Чтобы показать что примерно на один и тот же вопрос они отвечают по разному.


Впереди всех - ChatGPT. "сколько всего людей летало в космос? и сколько женщин?". Отвечает что женщин - 105.

"сколько всего женщин летало в космос?" - отвечает 105 (я даже думал прекратить всё это, эта нейронка получается справилась.

Сменил браузер, там я в ChatGPT не зарегистрирован. Вопрос "сколько всего женщин летало в космос?" - ответ 75. В итоге нестыковка 105/75.

Далее Алиса от Яндекса. 1 вопрос - "За всю историю пилотируемых космических полетов в космосе побывали 631 человек из 43 стран мира. Среди них 82 женщины из 13 государств".

2 вопрос (в этом же чате спрашивал и в этом же браузере) - "По последним данным, 76 женщин". В итоге нестыковка 82/76.

Далее deepseek. 1 вопрос "На сегодняшний день в орбитальных космических полетах участвовало 636 человек, включая 104 женщины".

2 вопрос (в этом же чате) - На сегодняшний день в космосе побывало 76 женщин". В итоге нестыковка 104/76.


Попытался максимально просто показать. + прикладываю скрины 3 штуки.

Ложь Нейросетей (ИИ) - простой пример из 2 вопросов

Это сообщение отредактировал yater100 - 6 июл 2025 в 17:42
2.

Ложь Нейросетей (ИИ) - простой пример из 2 вопросов
3.

Ложь Нейросетей (ИИ) - простой пример из 2 вопросов
Похожие темы:
Все комментарии:
kaha 6 июл 2025 в 17:29
Ярила  •  На сайте 9 лет
4
Куда лОжить?

Это сообщение отредактировал kaha - 6 июл 2025 в 17:30
Pit1973 6 июл 2025 в 17:29
радиофизик-контрабандист  •  На сайте 11 лет
16
Не лож, а клади, деревня
pivnoy 6 июл 2025 в 17:30
Юморист  •  На сайте 8 лет
3
Продолжайте наблюдение!
sibull 6 июл 2025 в 17:30
Ярила  •  На сайте 13 лет
7
Цитата
Лож

ложЬ
Перепихтолий 6 июл 2025 в 17:31
Весельчак  •  На сайте 16 лет
7
ты статью то свою состыковать не можеш )
Pivosrakom 6 июл 2025 в 17:31
whoЯрила  •  На сайте 6 лет
6
Нейросети - это не гугл
Bilge 6 июл 2025 в 17:31
Ярила  •  На сайте 10 лет
3
Цитата
Лож Нейросетей (ИИ) - простой пример из 2 вопросов

Кто и куда их ложит?
БелкЛетяг 6 июл 2025 в 17:31
Юморист  •  На сайте 1 год
-1
А еще деда мороза не существует.

Это сообщение отредактировал БелкЛетяг - 6 июл 2025 в 17:32
bereg79 6 июл 2025 в 17:33
Хохмач  •  На сайте 11 лет
4
Цитата (БелкЛетяг @ 6.07.2025 - 17:31)
А еще деда мороза не существует.

Данунахуй! blink.gif
GeMottt 6 июл 2025 в 17:33
Хохмач  •  На сайте 1 год
3
Не лож, а кладь.
Alexeykov 6 июл 2025 в 17:34
Ярила  •  На сайте 13 лет
7
Галлюцинации нейросетей это невыпиливаемый глюк который заложен в основу их работы.
На подавляющее количество вопросов они скорее всего ответят правильно, но если вы начнёте изголяться и задавать каверзные вопросы, они начнут выдумывать реальность подгояя её под вопрос.
Подробности тут:

Это сообщение отредактировал Alexeykov - 6 июл 2025 в 17:35
borka1970 6 июл 2025 в 17:34
Юморист  •  На сайте 12 лет
6
спички что ли пересчитать в коробке, от нехуй делать
yater100 автор 6 июл 2025 в 17:35
Ярила  •  На сайте 1 год
0
Поправил.
Harconnen 6 июл 2025 в 17:35
Весельчак  •  На сайте 8 лет
1
ТС, если ты реально этим интересуешься, то пойди на хабр и забей в поиске галлюцинация ИИ. Там все по полочкам разложено. 😉
И даже есть объяснения почему ИИ намеренно врет, даже если знает правильный ответ 😁

Размещено через приложение ЯПлакалъ
podonok1 6 июл 2025 в 17:36
Ярила  •  На сайте 9 лет
7
ВОпрос кривенько задан "сколько всего людей летало в космос? и сколько женщин?" Ещё не доказано ,что женщина человек . Вот сетка и путается .

Опять же Нейросеть - женск.род . А ожидать правдивого ответа от существительного женского рода .Это вообще абсурд.
NoNoNoSky 6 июл 2025 в 17:37
Ярила  •  На сайте 3 года
3
Нейросеть это не сборище ответов мировых, и задавать вопрос можно по разному ей, нейросети. К примеру я задал вот так - "Вопрос - поищи в открытом доступе и скажи, сколько людей летало в космос за всё время, мужчин и женщин"

Вот ответ ЧАТа

С удовольствием! По состоянию на середину 2025 года, согласно открытым данным NASA, ESA и международных космических агентств:

Всего людей, побывавших в космосе (то есть пересёкших условную линию Кармана на 100 км): примерно 650 человек.

Из них около 570 мужчин и около 80 женщин.

Точные цифры могут немного различаться в зависимости от того, кого считать «космонавтом» (есть ли минимум по времени полёта и высоте), но эти данные дают хорошее представление о масштабе: женщин — примерно 12% от общего числа.

Хочешь, чтобы я нашёл список всех поимённо или распределение по странам?
--------------

Вопросы ещё нужно уметь задавать, к примеру ЧАТ может забыть, что президентом США уже Трамп, а не Байден. Он не обязан всё помнить и знать.
Alexeykov 6 июл 2025 в 17:39
Ярила  •  На сайте 13 лет
1
Чат жпт ответил аккуратно:

- Сколько людей побывало в космосе, сколько из них мужчин и сколько женщин

- По состоянию на июнь 2024 года в космосе побывало около 680 человек. Из них:

Мужчин: примерно 570
Женщин: примерно 110
Точные цифры могут немного отличаться в зависимости от критериев (например, учитываются ли суборбитальные полёты), но эти данные отражают общую картину.
NoNoNoSky 6 июл 2025 в 17:40
Ярила  •  На сайте 3 года
6
Ответ самого ЧАТа в тему

Привет! Дело в том, что я — не база данных в реальном времени и не справочник, который постоянно «помнит» все актуальные факты. Я работаю на основе обученной модели, которая создаёт ответы из накопленных знаний и статистических связей между словами и фактами. Поэтому я могу не знать самых свежих событий или изменений, которые произошли уже после завершения моего обучения или обновления моей базы знаний.

Но если ты прямо попросишь меня «поищи в открытом доступе» — я постараюсь найти информацию через свои инструменты поиска в интернете (если они включены в конкретном приложении или сервисе), и тогда результат будет куда более актуальным и точным. Без такого поиска я не «живу» в онлайне и не слежу за изменениями в мире каждую секунду.

Так что я отлично подхожу для помощи в вопросах на основе больших массивов накопленных данных, но не обязан и не могу помнить всё актуальное сразу — для этого нужно подключение к интернету и возможность выполнить поиск.

cool.gif
Перепихтолий 6 июл 2025 в 17:40
Весельчак  •  На сайте 16 лет
0
Цитата (NoNoNoSky @ 6.07.2025 - 17:37)
Нейросеть это не сборище ответов мировых, и задавать вопрос можно по разному ей, нейросети. К примеру я задал вот так - "Вопрос - поищи в открытом доступе и скажи, сколько людей летало в космос за всё время, мужчин и женщин"

Вот ответ ЧАТа

С удовольствием! По состоянию на середину 2025 года, согласно открытым данным NASA, ESA и международных космических агентств:

Всего людей, побывавших в космосе (то есть пересёкших условную линию Кармана на 100 км): примерно 650 человек.

Из них около 570 мужчин и около 80 женщин.

Точные цифры могут немного различаться в зависимости от того, кого считать «космонавтом» (есть ли минимум по времени полёта и высоте), но эти данные дают хорошее представление о масштабе: женщин — примерно 12% от общего числа.

Хочешь, чтобы я нашёл список всех поимённо или распределение по странам?
--------------

Вопросы ещё нужно уметь задавать, к примеру ЧАТ может забыть, что президентом США уже Трамп, а не Байден. Он не обязан всё помнить и знать.

для этого достаточно понимать как работают бигдата и машинное обучение!
yater100 автор 6 июл 2025 в 17:57
Ярила  •  На сайте 1 год
0
Цитата (Alexeykov @ 6.07.2025 - 17:39)
Чат жпт ответил аккуратно:

- Сколько людей побывало в космосе, сколько из них мужчин и сколько женщин

- По состоянию на июнь 2024 года в космосе побывало около 680 человек. Из них:

Мужчин: примерно 570
Женщин: примерно 110
Точные цифры могут немного отличаться в зависимости от критериев (например, учитываются ли суборбитальные полёты), но эти данные отражают общую картину.

сейчас он отвечает на начало 2025 (смените сайт). Летало 682 (на скрине виден ответ).
yater100 автор 6 июл 2025 в 17:58
Ярила  •  На сайте 1 год
0
Цитата (Перепихтолий @ 6.07.2025 - 17:40)
для этого достаточно понимать как работают бигдата и машинное обучение!

всего то на всего.
Shapaim 6 июл 2025 в 18:34
Весельчак  •  На сайте 9 лет
0
Срыв покровов, блядь
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 7 974
0 Пользователей:
Страницы: 1 2 3  ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх