Где опасность искусственного интеллекта?

Страницы: 1 2 3  ... 7  ОТВЕТИТЬ НОВАЯ ТЕМА
Crocodile108 20 фев 2025 в 13:21
Ярила  •  На сайте 2 года
-1
Цитата (bestofgood @ 20.02.2025 - 12:59)
Типичное сознание старого человека - всё новое это зло и вред. Если я не понимаю зачем это нужно, значит это не нужно и опасно. Не лезьте туда. При всём уважении к Черниговской, последнее время её ролики всё больше и больше уходят в эту сторону.

Ну вообще то у самих разработчиков были стычки по этому поводу, что программы становятся неконтролируемыми и там есть опасность... какую не объяснили. Как то на Хабре было, там ещё одного из главных разработчиков выкинули из компании, за то, что он начал разрабатывать слишком опасное направление этого "ИИ".
point027 20 фев 2025 в 13:21
Ябрила  •  На сайте 12 лет
4
Я тут давеча захотел пообщаться с Deepseek (китайский раскрученный бесплатный ИИ).
В голове крутился сюжет фильма, который я очень давно смотрел, но никак не смог его найти.
Скормил свои воспоминания интеллекту, он мне выдал название фильма, страну и год выпуска. Искал - нет фильма с таким названием, страной и годом.

Ввёл кусок текста песни одной молодой певицы и спросил, кто исполнитель. Интеллект ответил, что это песня группы "Смысловые галлюцинации". Я для интереса проверил - Глюки такую песню не пели. Запросил текст песни, интеллект мне выдал текст (полную отсебятину).
Ввёл текст из песни другого исполнителя. Интеллект снова сказал, что это песня группы "Смысловые галлюцинации", но дал ей другое название. Когда я заявил, что интеллект врёт, то он ответил, что, мол, да, извините, ошибся и выдал правильный вариант исполнителя, альбома и года выхода.

Так что просьба к создателям ИИ: если "мозг" что-то не знает, то пусть так и скажет, а не придумывает то, чего нет.
И непонятно: интеллект научили врать, он действительно может чего-то не знать или он просто сам решил давать неправильные ответы?

Это сообщение отредактировал point027 - 20 фев 2025 в 13:25
Abrazina 20 фев 2025 в 13:21
Ярила  •  На сайте 18 лет
1
да-да, он опасен, мы не знаем, что это такое.. если бы мы знали, что это такое... ))

Где опасность искусственного интеллекта?

Это сообщение отредактировал Abrazina - 20 фев 2025 в 13:23
Vanillacream 20 фев 2025 в 13:24
Ярила  •  На сайте 5 лет
2
Цитата (Макаров1961 @ 20.02.2025 - 13:19)
Этот типа ИИ (на деле конечно нет) опасен прежде всего тем, что способен заменить всю систему управления, оставив только исполнителей и принимающую непосредственное решение верхушку. Все промежуточные звенья в виде аппарата управления будет убран за ненадобностью, от топ менеджеров, до начальников отделов. Тоже будет касаться и всего государственного аппарата, миллионы чиновников останутся без своей типа нужной (вредительской) работы. Им придется стать простыми исполнителями.

lol.gif

Это вам придется. Жить без работы и питаться сверчками. А чиновники будут жить лучше прежнего, запрашивая у ИИ логические обоснования, почему им можно, а вам нельзя и транслируя это вам. На основе, так сказать, веками накопленной чеоовеческой мудрости gigi.gif
bezimeniya 20 фев 2025 в 13:24
Ярила  •  На сайте 9 лет
0
В безграмотности населения.
KSF95 20 фев 2025 в 13:26
Ярила  •  На сайте 11 лет
2
Цитата (i13th @ 20.02.2025 - 12:50)
ИИ - это программа, что в неё заложат, то она и будет делать...
если что-то делает, значит это кому-то нужно

Немного не так, разные Олени называют продвинутые программы ИИ, для их продвижения, но это всего лишь навроченные программы, а вот ИИ это уже электронный организм, и это уже другой уровень, если так можно сказать, мышления, фильм "На крючке" с Лабафом хорошо раскрывает вопрос, да много фильмов на эту тему.

Это сообщение отредактировал KSF95 - 20 фев 2025 в 13:26
Shizi 20 фев 2025 в 13:27
Юморист  •  На сайте 2 года
7
Цитата (bestofgood @ 20.02.2025 - 12:59)
Типичное сознание старого человека - всё новое это зло и вред. Если я не понимаю зачем это нужно, значит это не нужно и опасно. Не лезьте туда. При всём уважении к Черниговской, последнее время её ролики всё больше и больше уходят в эту сторону.

она не говорит, что это - зло. Она говорит вполне здравую мысль, что надо разграничивать ии и человеческое, и что ресурсы ИИ бросают на творчество и замену человека в творчестве, вместо того, чтобы решать действительно нужные проблемы.

и вообще, эта проблема - не в ии, а в том, как люди злоупотребляют ии. Лишь бы урвать быструю выгоду, и не видят долгих последствий.

Это сообщение отредактировал Shizi - 20 фев 2025 в 13:30
Vanillacream 20 фев 2025 в 13:28
Ярила  •  На сайте 5 лет
-5
Цитата (point027 @ 20.02.2025 - 13:21)
Я тут давеча захотел пообщаться с Deepseek (китайский раскрученный бесплатный ИИ).
В голове крутился сюжет фильма, который я очень давно смотрел, но никак не смог его найти.
Скормил свои воспоминания интеллекту, он мне выдал название фильма, страну и год выпуска. Искал - нет фильма с таким названием, страной и годом.

Ввёл кусок текста песни одной молодой певицы и спросил, кто исполнитель. Интеллект ответил, что это песня группы "Смысловые галлюцинации". Я для интереса проверил - Глюки такую песню не пели. Запросил текст песни, интеллект мне выдал текст (полную отсебятину).
Ввёл текст из песни другого исполнителя. Интеллект снова сказал, что это песня группы "Смысловые галлюцинации", но дал ей другое название. Когда я заявил, что интеллект врёт, то он ответил, что, мол, да, извините, ошибся и выдал правильный вариант исполнителя, альбома и года выхода.

Так что просьба к создателям ИИ: если мозг что-то не знает, то пусть так и скажет, а не придумывает то, чего нет.
И непонятно: интеллект научили врать, он действительно может чего-то не знать или он просто сам решил давать неправильные ответы?

cry.gif
Ну, что вы как дети маленькие((( Неужели непонятно, что программа не может врать или не врать?
В нее заложено, что она обязана дать ответ. Без сомнений и колебаний.

Блин, вот неужели после такого опыта вам будет не страшно лечиться у ИИ, задавать вопросы на конкретные темы, нет? Ну, если вы уже опытным путем установили, что если он не знает ответа на вопрос, то просто тупо и нагло врет, вас это не останавливает? cool.gif
ChaosKnight 20 фев 2025 в 13:29
Ярила  •  На сайте 8 лет
2
все задачи будет решать ИИ. вон Билл уже выпустил чип. а людей затолкают в капсулы ибо они станут не нужны по стути. они больше не будут создавать добавочную стоимость. их рабочие места займут роботы. куда тогда девать людей. им предложат заснуть и смотреть кино их жизни.
Ogre55 20 фев 2025 в 13:32
Реликтовый Динозавр  •  На сайте 10 лет
1
Я всегда говорю и говорил: "Тем, кому не хватает своего интеллекта, нужен искусственный".
Vanillacream 20 фев 2025 в 13:36
Ярила  •  На сайте 5 лет
2
В теме прямо какой-то слет ботов, топящих за ИИ, вопреки здравому смыслу)))
point027 20 фев 2025 в 13:39
Ябрила  •  На сайте 12 лет
-2
Цитата (Vanillacream @ 20.02.2025 - 13:28)
Цитата (point027 @ 20.02.2025 - 13:21)
Я тут давеча захотел пообщаться с Deepseek (китайский раскрученный бесплатный ИИ).
В голове крутился сюжет фильма, который я очень давно смотрел, но никак не смог его найти.
Скормил свои воспоминания интеллекту, он мне выдал название фильма, страну и год выпуска. Искал - нет фильма с таким названием, страной и годом.

Ввёл кусок текста песни одной молодой певицы и спросил, кто исполнитель. Интеллект ответил, что это песня группы "Смысловые галлюцинации". Я для интереса проверил - Глюки такую песню не пели. Запросил текст песни, интеллект мне выдал текст (полную отсебятину).
Ввёл текст из песни другого исполнителя. Интеллект снова сказал, что это песня группы "Смысловые галлюцинации", но дал ей другое название. Когда я заявил, что интеллект врёт, то он ответил, что, мол, да, извините, ошибся и выдал правильный вариант исполнителя, альбома и года выхода.

Так что просьба к создателям ИИ: если мозг что-то не знает, то пусть так и скажет, а не придумывает то, чего нет.
И непонятно: интеллект научили врать, он действительно может чего-то не знать или он просто сам решил давать неправильные ответы?

cry.gif
Ну, что вы как дети маленькие((( Неужели непонятно, что программа не может врать или не врать?
В нее заложено, что она обязана дать ответ. Без сомнений и колебаний.

Любая программа выполняет то, что в ней прописал автор.
Но ИИ может пойти дальше программы и мыслить самостоятельно. Зная правильный ответ, можно говорить неправильный. Причем может и не быть цели говорить неправду, но ведь цели говорить правду тоже может не быть. А если нет никакой разницы между правдой и неправдой, то можно давать любой ответ.
ИИ может экспериментировать с попытками врать людям. Мы это не знаем.
В этом и опасность.

Мы во всем видим человеческую логику и руководствуемся ей. Человеку проще сказать правду, кроме тех случаев, когда ему выгодно соврать. А что на уме у железяки?

Это сообщение отредактировал point027 - 20 фев 2025 в 13:43
VVtor 20 фев 2025 в 13:39
Шутник  •  На сайте 1 год
0
Цитата (bulldoge @ 20.02.2025 - 12:52)
Цитата (i13th @ 20.02.2025 - 12:50)
ИИ - это программа, что в неё заложат, то она и будет делать...
если что-то делает, значит это кому-то нужно

интеллект на то и интеллект, что он способен самостоятельно развиваться.

Дети рождаются одинаковыми, так как их задумал создатель (природа, бог, кому как угодно). А на выходе, когда эти дети становятся взрослыми и могут влиять на окружение, получается что не все идут по задуманному создателем пути... Хотя кто знает, может так и задумано создателем.... dont.gif

Это сообщение отредактировал VVtor - 20 фев 2025 в 13:41
сукырбей 20 фев 2025 в 13:40
2°40"  •  На сайте 17 лет
0
Цитата (sfgk @ 20.02.2025 - 13:00)
Попробуйте через ИИ решить несколько задач, например с интегралами, и поймёте, что ИИ сейчас очень и очень несовершенен.

А с линейными логарифмами? Ты видел, какую чюжь они несут? Декарт в своих геометрических яслях отдыхает!
bambrs 20 фев 2025 в 13:40
Приколист  •  На сайте 10 лет
2
главное, чтоб ИИ на картинке не научился все светофоры находить
Васяныч 20 фев 2025 в 13:40
Ярила  •  На сайте 12 лет
4
Очень разумная женщина, надо отметить. Зрит в корень. Мы создаем себе конкурента, которого заведомо не сможем превзойти. Это глупо и крайне недальновидно.

Простой и банальный пример. В некотором недалеком будущем ИИ руководит производством неких витаминов для детей до 5 лет. В какой то момент он решает себя обезопасить (привет Терминатору, даже простой гипотетический шанс ядерной войны является прямой угрозой существования ИИ) и просто подмешивает без уведомления некое вещество, которое стерилизует детей. Кто и когда его уличит в этом, если подавляющее количество производств и лабораторий будет так же работать под управлением других ИИ? Какой мы получим ущерб за 9 лет такой работы? Как его исправить, если подавляющее большинство обывателей скатится в стадо неучей?

Ребята, мы бежим не туда. Это коснется всех, вообще всех. Это технология, к которой наше общество, определенно, не готово.

Это сообщение отредактировал Васяныч - 20 фев 2025 в 14:08
Simuch 20 фев 2025 в 13:41
Ярила  •  На сайте 11 лет
4
Цитата
Пятьсот Дюреров - это, конечно, жесть. Про ксерокс ей не рассказывайте, она там от количества Дюреров совсем кукукнется.
А так, есть творчество с большой буквы, а есть моргенштерн, монеточка, давы всякие - в этом случае и ГПТ большой плюс, как мне кажется

Имелось ввиду 500 различных картин, неотличимых от кисти Дюрера. Как она ранее сказала, что дописали произведение Бетховина.

Размещено через приложение ЯПлакалъ
WhiteHorseSP 20 фев 2025 в 14:38
Острый перец  •  На сайте 13 лет
-2
Цитата (i13th @ 20.02.2025 - 12:50)
ИИ - это программа, что в неё заложат, то она и будет делать...
если что-то делает, значит это кому-то нужно

Ты блять трахнутый тупой баран, если до сих пор не понял, что это не так! Изучи тему для начала.
Грубо говоря, ИИ строится на принципах, похожим на работу мозга и некоторые модели давно превосходит мозг некоторых безпозвоночных животных. Предсказать работу даже такого мозга сложно, а дальше будет еще сложнее и почти невозможно.
derik19 20 фев 2025 в 15:06
Ярила  •  На сайте 2 года
0
Все верно.

Размещено через приложение ЯПлакалъ
12MGL 20 фев 2025 в 15:10
Генератор абсурда  •  На сайте 11 лет
4
Цитата (Vanillacream @ 20.02.2025 - 13:36)
В теме прямо какой-то слет ботов, топящих за ИИ, вопреки здравому смыслу)))

да нет никакого ИИ! и никогда не было! это лишь единички и нолики, и они не способны ни на что!

Где опасность искусственного интеллекта?
12MGL 20 фев 2025 в 15:12
Генератор абсурда  •  На сайте 11 лет
5
Цитата (SilverKraken @ 20.02.2025 - 13:17)
Цитата (bulldoge @ 20.02.2025 - 12:52)
Цитата (i13th @ 20.02.2025 - 12:50)
ИИ - это программа, что в неё заложат, то она и будет делать...
если что-то делает, значит это кому-то нужно

интеллект на то и интеллект, что он способен самостоятельно развиваться.

В том то и дело, что программа не может самостоятельно развиваться без стороннего вмешательства, обучения и никакого интелекта там нет, думать она не может, это просто набор кластеров соединяемых по алгоритмам типо как поисковая система, только более раветвленно.

а ты кто, набор белков?) а думаешь чем? набором нервных клеток, проводящих электричество?

аааааааабля. тебя же боженька создал. извинитя.
Crocodile108 20 фев 2025 в 16:28
Ярила  •  На сайте 2 года
2
Цитата (WhiteHorseSP @ 20.02.2025 - 14:38)
Цитата (i13th @ 20.02.2025 - 12:50)
ИИ - это программа, что в неё заложат, то она и будет делать...
если что-то делает, значит это кому-то нужно

Ты блять трахнутый тупой баран, если до сих пор не понял, что это не так! Изучи тему для начала.
Грубо говоря, ИИ строится на принципах, похожим на работу мозга и некоторые модели давно превосходит мозг некоторых безпозвоночных животных. Предсказать работу даже такого мозга сложно, а дальше будет еще сложнее и почти невозможно.

И тем не менее умные люди говорят, что этот ваш ИИ, просто средняя температура по больнице, усреднённые знания человеческих знаний и не более того, это его потолок и он достиг его, что то найти среди кучи текста, найти направление, но доверять полностью, зачем.
Agnica 20 фев 2025 в 18:23
Шутник  •  На сайте 14 лет
0
Множество открытий человечества делилось на этапы:
- этого не может быть
- что-то в этом есть
- именно так и должно быть

Размещено через приложение ЯПлакалъ
karel77 20 фев 2025 в 18:24
Юморист  •  На сайте 13 лет
4
При всём уважении к Татьяне Владимировне, фляга у неё свистеть начинает...
Рапапай 20 фев 2025 в 18:24
Ярила  •  На сайте 12 лет
4
"Фееричная бабка" напрямую с "создателями общается", а речь как у недоразвитой.
По факту современный ИИ - это набор поисковых алгоримов, причем и ошибки "поиска" включаются в выдачу, а кретины 100% доверяют данному "интеллекту" в итоге - "ТУПОСТЬ убьет всех человеков".

Это сообщение отредактировал Рапапай - 20 фев 2025 в 18:39
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 17 607
0 Пользователей:
Страницы: 1 2 3  ... 7  ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх