Сценарий уже не фантастика. Человек быстро собирает через ChatGPT аналитическую статью или большой обзор. Текст гладкий, уверенный, начальство довольно, коллеги кивают: вот это скорость, вот это современный подход. Автор получает плюс к репутации. А потом через несколько месяцев кто-то проверяет источники. И выясняется, что часть ссылок не существует, часть не подтверждает тезис, а часть похожа на аккуратно собранную нейросетевую фантазию. И проблема уже не в учебе. Проблема в доверии.
ИИ опасен не стилем, а уверенностью
Плохой стиль можно переписать. Кривой абзац можно сократить. Гораздо хуже, когда нейросеть уверенно создает видимость доказательности: фамилии похожи на настоящие, названия статей звучат научно, цифры выглядят убедительно. До ручной проверки все это похоже на нормальную базу. Вот почему люди попадаются не только от лени. Они видят приличный текст и решают, что раз он выглядит умно, значит, фундамент тоже нормальный.
Репутацию ломает подпись под мусором
Когда фейковый источник всплывает, окружающие обычно не спорят о том, какая модель виновата. Они думают проще: человек проверял то, что подписал своим именем, или просто вынес наружу красивый мусор?
В дипломе такая ошибка бьет по оценке. В рабочей среде она бьет по будущим задачам. После одного такого текста начальство начинает перепроверять и другие материалы. Коллеги меньше верят. Автор из "быстрого и умного" превращается в человека, которому опасно отдавать чувствительную тему.
Самое неприятное, что ошибка часто всплывает поздно. Текст уже прочитали, на него сослались, его использовали в решении. А потом кто-то открыл DOI, поискал статью и понял, что фундамент нарисован.
Проверка скучная, но спасает лицо
Никакой волшебный промпт не заменяет простую привычку: считать любой источник неподтвержденным, пока он не проверен руками.
Минимум такой:
- найти точное название; - проверить автора и площадку; - открыть хотя бы аннотацию; - сверить, подтверждает ли источник именно ваш тезис; - выкинуть все сомнительное, даже если текст после этого стал слабее.
О том, как карьерный плюс от ChatGPT может потом обернуться ударом из-за липовых источников, хорошо показывает эта история.
Главный вывод неприятный. ИИ помогает выглядеть увереннее, чем человек успел стать на самом деле. Но счет приходит не за использование нейросети, а за доверие, которое не проверили собственными руками.
Как было: перелопатил источники, написал текст, сдал.
Как стало: написал промт для ЫЫ размером в полтекста, дождался генерации, полез проверять все источники, половина из которых липовая, перелопатил источники, написал текст, сдал.
У меня хорошая знакомая бизнес так потеряла. Доверилась аналитику, который не сам сделал анализ и прогноз, а наковырял в chatgpt. Клиенты ушли, когда начали терять доходы.
Размещено через приложение ЯПлакалъ
Зря минусите. Проблема действительно существует. Когда ты даешь ии несложные задачи, очевидные, он с ними успешно справляется повышая таким образом уровень доверия к себе. А в определенный момент, на сложносоставной задаче, которую ты не можешь слёту считать и увидеть ошибки, эта мразь безбожно пиздит. И реально самое печальное что он делает это с очень уверенным видом.
Размещено через приложение ЯПлакалъ
Зря минусите. Проблема действительно существует. Когда ты даешь ии несложные задачи, очевидные, он с ними успешно справляется повышая таким образом уровень доверия к себе. А в определенный момент, на сложносоставной задаче, которую ты не можешь слёту считать и увидеть ошибки, эта мразь безбожно пиздит. И реально самое печальное что он делает это с очень уверенным видом.
А можно по-подробнее про "уверенный вид"? Это типа нейронка такая: "Братан! Бля буду, всё так и было!", или как?
Размещено через приложение ЯПлакалъ
Зря минусите. Проблема действительно существует. Когда ты даешь ии несложные задачи, очевидные, он с ними успешно справляется повышая таким образом уровень доверия к себе. А в определенный момент, на сложносоставной задаче, которую ты не можешь слёту считать и увидеть ошибки, эта мразь безбожно пиздит. И реально самое печальное что он делает это с очень уверенным видом.
Зато когда указываешь ему на ошибки, он их признаёт и извиняется.
А можно по-подробнее про "уверенный вид"? Это типа нейронка такая: "Братан! Бля буду, всё так и было!", или как?
Да. Чтото вроде того. Я недавно поставил задачу рассчитать корпуса для катамарана. И этот ИИ рассчитал и даже таблицу с координатной сеткой сделал. Все четко описал как оно должно быть. Как надо делать, какие размеры и почему. А потом лезешь в эти размеры а они нихуя не верные. Или скажем парус который он обсчитывал нифига не становится на данную мачту. И при этом эта тварь такая, вот, надо так то, потому что вот так. И слова его очень убедительны.
Размещено через приложение ЯПлакалъ
Зато когда указываешь ему на ошибки, он их признаёт и извиняется.
Да. Он этим подкупает но и бесит тоже. Он не отстаивает свою точку зрения или делает это крайне редко. Он тебя хвалит, какой ты молодец и какая интересная задача. Бесит, короче.
Размещено через приложение ЯПлакалъ
А можно по-подробнее про "уверенный вид"? Это типа нейронка такая: "Братан! Бля буду, всё так и было!", или как?
Да. Чтото вроде того. Я недавно поставил задачу рассчитать корпуса для катамарана. И этот ИИ рассчитал и даже таблицу с координатной сеткой сделал. Все четко опилал как оно должно быть. Как надо делать, какие размеры и почему. А потом лезешь в эти размеры а они нихуя не верные. Или скажем парус который он обсчитывал нифига не становится на данную мачту. И при этом эта тварь такая, вот, надо так то, потому что вот так. И слова его очень убедительны.
Как я понял, любой ИИ основан на попытке угадать что-то, и между реальной информацией и своими догадками он ставит знак равенства. Это тоже самое, как студент на экзамене отвечает по билету ответы на который он не знает, и начинает нести любую ахинею с умным видом, в надежде, что прокатит. Понятно, что за ним надо проверять не только сложные расчёты, а вообще всё что угодно. Я как-то сказал ему описать сюжет одной старой игрушки (из трёх эпизодов), так вот один из эпизодов он просто сам выдумал, чего там уж про расчет корпуса для катамарана говорить, если он в таких мелочах обманывает.
Еще с давних времен у многих есть уверенность, что в интернете можно найти все. ИИ поддержал это и находит все обо всем, но в 90 % это редкая дичь отдаленно похожая на правду. В научных работах ссылки на материалы из интернета имеют самый низкий вес, думаю вскоре, после ИИшных выкрутасов, их вообще не будут принимать во внимание.
У меня хорошая знакомая бизнес так потеряла. Доверилась аналитику, который не сам сделал анализ и прогноз, а наковырял в chatgpt. Клиенты ушли, когда начали терять доходы.
Ну да, конечно, в том что нанайский бизнес прогорел виноват аналитик. Сама успешная бизнесменка конечно де всё делала правильно. Аналитик виноват.
Зато когда указываешь ему на ошибки, он их признаёт и извиняется.
Да. Он этим подкупает но и бесит тоже. Он не отстаивает свою точку зрения или делает это крайне редко. Он тебя хвалит, какой ты молодец и какая интересная задача. Бесит, короче.
Отстаивает и ещё как. Ему пишешь, например, нет такого закона или устарела норма права. Уссывается спорит, что есть.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
7 Пользователей читают эту тему (1 Гостей и 1 Скрытых Пользователей)
yaplakal.com