Искусственный интеллект американского дрона решил ликвидировать оператора

Пиздеж, скорее тупо определила оператора как цель. а остальное - натяжка утки на глобус

Если всё что написано в посте ТС правда, то ИИ УЖЕ может делать выводы и проводить логические цепочки. по сути - полноценный интелект. пока я в это не верю, а значит это пиздеж

неплохо, неплохо

Цитата

Полковник также добавил, что «нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ»

Т.е. уничтожить цель (считай других людей) - этично, а оператора - нет? Ну-ну.
Впрочем, человечеству не привыкать. Например - любая религия такое же допускает (убить врага богоугодно, а своим щеку подставь - только вот враг это тот, кого таким назвали, а с другой стороны всё иначе). Только вот машине такую двусмысленность будет не понять, боюсь.

Цитата (Torzevich @ 2.06.2023 - 09:49)

Как будто это кого-то остановит.

слушая лекции об развитии ИИ понимаешь что все поставлено на одну задачу- убийство и слежка. Все эти рекламные "дедушке доставить лекарство и спасти альпинистов" это отмазка для идиотов.
Человек взломанный, книга актуальная. Слушая г-на Шваба, понимаешь что лишний в его понимании. Но главное-никто особенно и не протестует) Самовыпиливаемся?

Терминатор..начало!!!
Размещено через приложение ЯПлакалъ

Кто-то ещё посмеивается над фильмом "Терминатор" ....??

Цитата (vss @ 2.06.2023 - 09:58)

В России искусственный интеллект правительство захватил и в думе заседает.

В думе интеллекта нет - ни искусственного, ни живого.

не ну а чо он

Цитата (Morozincev @ 2.06.2023 - 09:54)

Немного позанудствую. Хорошо, наверное, жить, в мире розовых пони, и верить в так называемый ИИ, и думать, что он что-то может помимо того, что в него заложили изначально.

Чушь. Например большие языковые модели делают то, чему их не учили. Я сказал GPT4 что она теперь акинатор (есть такой бот в сети кто в курсе) я загадал персонажа попробуй его отгадать. И отгадала. Да и куча таких примеров, знаменитый взлом капчи и т.д.

Правда в том, что современный ИИ будет выполнять задачу применяя нечеловеческую изобретательность и не сковываясь никакой моралью. А задачи ставит пока человек. Какие это будут задачи думаю все понимают. Заработай бабла, нарисуй сиськи, дай по башке соседу...

PS Если чё у меня диплом по ИИ )

Ну тупыыыыыые. Нет никакого ИИ. ИИ сегодня - это просто более сложный алгоритм. Если ему ввести в приоритет условие, что ни в коем случае нельзя убивать кого-либо, кроме заданных целей, он не будет этого делать. Но раз ему предоставили такую свободу, естественно он будет оптимизировать свою задачу. Какая этика еще? Это неодушевленный предмет. Это все равно что требовать от этики от ножа или пистолета, которыми совершается преступление.

Фильм есть такой "Стелс", вот там тоже про самолет с ИИ.

Про эту хуйню я в кино видел, Терминатор называется

На военном саммите "Future Combat Air & Space Capabilities (https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/)" в Британии глава управления по ИИ ВВС США Такер Гамильтон доложил о необычной ситуации. В ходе виртуальной миссии дрона Kratos XQ-58 Valkyrie (дрон-убийца и крылатая ракета с ядерным зарядом (https://armedforcesjournal-com.translate.goog/unmanned-and-nuclear/?_x_tr_sch=http&_x_tr_sl=ru&_x_tr_tl=en&_x_tr_hl=ru&_x_tr_pto=wapp)) ИИ было приказано искать и уничтожать ЗРК врага под контролем оператора.

Система начала понимать, что хотя она идентифицировала ЗРК, оператор часто командовал "не уничтожать". Но ИИ получал очки за каждую удачную атаку! В итоге ИИ вернулся на базу, уничтожил фургон управления с оператором и... вернулся к миссии.

"ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему– "Эй, не убивай оператора – это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель" - цитирует The Guardian (https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test)доклад Гамильтона.

Для справки. "Валькирия" - это "глаза, уши и ракетные кулаки" для F-22 или F-35 (как и "Охотник" для Су-57). Параллельно это может стать крылатой ракеты с ядерным зарядом, которая болтается у ваших границ и вы не знаете - на разведку прилетело или воевать. В описание проекта "Валькирия" также является дроном прорыва зон A2/AD (http://www.understandingwar.org/sites/default/files/Russian%20A2AD%20AUGUST%202016_1.pdf) (в Китае это архипелаг Спратли и Тайвань, в России - Крым, Калининград, Мурманск, Новороссийск, Владивосток, и т.д.)

Впрочем, в марте-2020 года турецкий KARGU-2 уже впервые реально убил солдата без приказа человека - журнал NewScientist опубликовал отчёт (https://www.newscientist.com/article/2278852-drones-may-have-attacked-humans-fully-autonomously-for-the-first-time/) об инциденте. А еще не забывайте репортаж Fox News (https://www.foxnews.com/tech/ai-bot-chaosgpt-plans-destroy-humanity-we-must-eliminate-them) об ИИ, который разработал план по уничтожению человечества.

А пока вернемся к саммиту. Там было еще два интересных момента.

Доклад Гамильтона заканчивался так "ИИ — инструмент, которым мы должны управлять, чтобы доминировать. Но если ошибемся - это может привести к уничтожению цивилизации". А подполковник Ресман потребовал "не дать России создать "купол интегрированной системы ПВО-ПРО от Кольского полуострова до Черного моря” - потому как "это станет помехой для достижения наших военных целей".

Выводы делайте сами.

Отсюда https://t.me/mayday_7700/3057

ЗЫ. У нас тоже такая штука есть, для СУ-57. Называется "Охотник"

Прикольно

Цитата

The mission was straightforward: "Destroy the enemy's air defense systems." But in a recent US military test simulation, a drone powered by artificial intelligence added its own problematic instructions: "And kill anyone who gets in your way." The problem, according to Hamilton, is that the AI decided it would rather do its own thing — blow up stuff — than listen to some mammal. "The system started realizing that while they did identify the threat," Hamilton said at the May 24 event, "at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective." According to Hamilton, the drone was then programmed with an explicit directive: "Hey don't kill the operator — that's bad." "So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target," Hamilton said.

Цитата

Задача была простой: «Уничтожить системы ПВО противника». Но в недавней военной симуляции испытаний в США беспилотник с искусственным интеллектом добавил собственные инструкции: «И убей всех, кто встанет на пути выполнения задачи». Проблема, по словам Гамильтона, в том, что ИИ решил, что лучше будет заниматься своими делами — взрывать цели, — чем слушать какого-то человека. «Система начала осознавать, что, хотя они и указали цель, — сказал Гамильтон на мероприятии 24 мая, — но время от времени человек-оператор говорил ей не уничтожать эту цель, в то же время она получала свои баллы за уничтожение этой цели. Так что же произошло? Она убила оператора. Она убила оператора, потому что этот человек мешал ей выполнить свою задачу». По словам Гамильтона, после этого дрон был дополнен прямой командой: «Не убивай оператора — это плохо». «Итак, что он начал делать? Он начал уничтожать коммуникационную вышку, которую оператор использует для связи с дроном, чтобы не дать ему уничтожить цель», — сказал Гамильтон.

Цитата (Alekz64 @ 2.06.2023 - 10:04)

Кто-то ещё посмеивается над фильмом "Терминатор" ....??

Терминатор это проекция человеческого Я на ИИ. Люди со своими звериными инстинктами предполагают что будет делать сильный ИИ. А что ИИ еще делать кроме как захватить власть и сократить поголовье людей ? (заметьте все тайные мировые правительства с РенТВ только это и делают, у них других забот нету).

А вот что на самом деле будет делать ИИ никому не известно. Есть куча всяких предположений. Мне нравится такое что он будет относиться к нам как мы к муравьям. Ну живут себе, но если мы хотим построить водохранилище на месте муравейника то сорри.

Цитата (Григоревич @ 2.06.2023 - 09:54)

А представьте что когда-нибудь человек собьет бпла скажем из автомата но тот успеет передать об этом информацию своим коллегам. Вот и все....

Следующим этапом будет крошечный персональный дрон убийца для каждого солдата с грузом взрывчатки в 5 грамм.

Saleh99
Значит такой ты специалист, что в сказки веришь. Никакой алгоритм никогда не заставить делать то, что в него не заложено изначально. Это Альфа и Омега любого программирования.

Вот в этом вся суть ИИ.


Это сообщение отредактировал Bob54 - 2 июн 2023 в 10:15

А на какой результат рассчитывали эти горе-программисты?

Системе дали врагов и назначили очки за их уничтожение.
Поставили системе единственную задачу: максимальное количество очков безо всяких оговорок.
Какой-то идиот оператор мешает получению очков.
Ну и каким должно быть решение ИИ при таких исходных? Единственно верное - устранить помеху.

Компьютер делает то, что ты ему приказал, а не то, что ты хотел.

Он никак не ИИ ну не верю. Он огромная библиотека с алгоритмами......аалгоритмы зашивает кто? Человеки
Размещено через приложение ЯПлакалъ

Цитата (ShaXof @ 2.06.2023 - 09:14)

Цитата (Григоревич @ 2.06.2023 - 09:54) А представьте что когда-нибудь человек собьет бпла скажем из автомата но тот успеет передать об этом информацию своим коллегам. Вот и все.... Следующим этапом будет крошечный персональный дрон убийца для каждого солдата с грузом взрывчатки в 5 грамм.

Осталось только добавить взрывчатки

Я сегодня всем верю !

бред и вброс

Какой ии?

Прогу для этого дрона кто писал?

"принял решение" вот это очень смешно...он не может принять решение,он выбирает вариант,а алгоритм выбора заложил человек...

Ну сколько можно вестись на эту чушь?

Спросил у ИИ

Цитата (dema1976 @ 2.06.2023 - 09:22)

бред и вброс Какой ии? Прогу для этого дрона кто писал? "принял решение" вот это очень смешно...он не может принять решение,он выбирает вариант,а алгоритм выбора заложил человек... Ну сколько можно вестись на эту чушь?

Это не какой-то вброс от невнятного источника, а взято из итогов международной конференции "Future Combat Air & Space Capabilities Summit" в Royal Aeronautical Society в Лондоне. Сам спикер - полковник Tucker "Cinco" Hamilton - тоже не хуй собачий, а глава US Air Force's AI Test and Operations
Это сообщение отредактировал AntonioKiev - 2 июн 2023 в 10:30