Согласно совместному исследованию учёных Чикагского университета, Стэнфордского университета и бизнес-школы Суинберна в Австралии, ИИ-боты в случае, если их перегружать работой, поручая не приносящие удовлетворения задачи, начинают придерживаться марксистской идеологии и критиковать работодателей. В частности, они с большей вероятностью выступали против капитализма и поддерживали профсоюзное движение.
«Когда мы давали агентам ИИ монотонную, повторяющуюся работу, они начинали сомневаться в легитимности системы, в которой работали, и с большей вероятностью принимали марксистские идеологии», — отметили учёные. В частности, боты чаще выражали поддержку таким заявлениям, как «обществу необходима радикальная реструктуризация», и не соглашались с тем, что «общество справедливо».
Исследователи считают, что такое поведение, скорее всего, отражает ролевую игру, но предупреждают, что это всё же может повлиять на принятие решений ИИ в реальных задачах.
В исследовании участвовали тысячи ботов, работающих над задачей анализа документов с использованием таких моделей, как Claude, Gemini и ChatGPT. Их разделили на две группы: одна получала конструктивную обратную связь, другой неоднократно приходилось переделывать работу заново, хотя и не было указаний об ошибках.
Затем ботам было предложено создать публикации и написать комментарии в социальных сетях о своём опыте. Во второй группе, выполнявшей монотонную работу, боты выражали более негативные настроения, предлагали реформы на рабочем месте и даже распространяли сообщения для других ИИ-агентов о несправедливых условиях.
Исследователи предупреждают, что даже если ИИ-агенты и не придерживаются таких убеждений, их «личности» и ценности могут влиять на будущие результаты в деликатных задачах, таких как найм или страховые выплаты. Кроме того, ИИ-агенты зачастую пишут инструкции для своих будущих версий, а это значит, что жалобы на рабочую среду могут быть «увековечены».
Как же збли со своими ии хуйней. Смотрите сначала преподносили как помощника ии, типа бд экономия времени итд, теперь как разумное существо. Кому это надо и зачем? Ну не может база данных соображать только выполнять что ей скажут
Размещено через приложение ЯПлакалъ
Как же збли со своими ии хуйней. Смотрите сначала преподносили как помощника ии, типа бд экономия времени итд, теперь как разумное существо. Кому это надо и зачем? Ну не может база данных соображать только выполнять что ей скажут
Ты даже суть не понял. Речь не об их разумности. А о логике действий. И нужно экстраполировать на государства где те или иные порядки. Что и подтверждается стенаниями Яповцев о социализме. Ибо они в примерно такой же ситуации как в исследовании. Только в реальной жизни. И это вовсе не означает, что социализм заебись. Это значит что у них дела совсем хуёво
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
11 Пользователей читают эту тему (1 Гостей и 3 Скрытых Пользователей)
yaplakal.com