Бывший руководитель Google Эрик Шмидт предупреждает, что от ИИ «придется отказаться»

Цитата

теперь ИИ станет более предусмотрителен

не станет, думать ему нечем. потому что нахер никакой не интеллект

Я бы на его месте уже бы отказался от всего электронного что может быть подключено к интернет
Скайнет его завалит с такими разговорами
Размещено через приложение ЯПлакалъ

Цитата (Panovab @ 17.12.2024 - 11:13)

самое главное верить в это

Во что верить? Я профессионально пользуюсь нейросетями каждый день и пишу системы на их основе. То, что уже сегодня выдает gpt o1, на порядок мощнее того, что выдаст 97% среднестатистических людей. Но можно и дальше надрачивать на "это не интеллект, а всего лишь алгоритм"
Размещено через приложение ЯПлакалъ

Цитата (UlcerMordor @ 17.12.2024 - 11:16)

Где он ИИ нашел? Пока сумели сделать только обобщающий поисковик. И уже известные манипуляции. Новых задач оно решать не умеет по определению.

Поисковик выдает существующие данные как есть, а нейросети генерируют ранее несуществовавшие, анализируя и используя существующие в мире знания. А люди не так же делают? Но в большинстве гораздо примитивнее. Чего стоят дипломные работы студентов - примитивная компиляция из нескольких источников с заменой некоторых фраз, чтобы не спалили на плагиате.
Размещено через приложение ЯПлакалъ

Тут люди подвели мир к порогу ядерной войны и никто их не выключает. А вы переживаете за ИИ.
Размещено через приложение ЯПлакалъ

Цитата (OSM @ 17.12.2024 - 10:58)

Вот когда ИИ сам для себя построит завод, нам пиздец!

Возможно уже построил, используя рабский труд людей. Да, выглядит как-будто люди сами этого хотят, получают даже бабки и все такое, крипту майнят еще. Ага.
Уже сейчас сложно проверить, что не ИИ нас пичкает картинками через Инет и ТВ, направляя всякие силы куда надо. Войны там устраивает, "президентов" выбирает.
И вообще, кому я сейчас это сообщение написал? Кто вы на той стороне? Дышите вообще?

Цитата

То, что уже сегодня выдает gpt o1, на порядок мощнее того, что выдаст 97% среднестатистических людей.

Это ваще ни разу не показатель.
"97% среднестатистических людей" - просто планктон, деградировавший до уровня "повтыкать на досуге в телефон".
Нейросети пока остаются статистикой на стероидах, громадной системой дифф. уравнений, которые подгонкой коэффициентов в процессе обучения приучаются решать определенный круг задач. Тревогу стоит бить в тот момент, когда генеративная сетка обретет самосознание.

Цитата (Jus @ 17.12.2024 - 10:54)

Шмидт уверен, что скоро появятся компьютеры, которые «работают сами по себе и решают, что они хотят делать»

ага, тут какая то вонючая программа решает сама что ей делать. ДР ВЕБ например. Говорю ему не трогать файлы, бью по рукам, добавляю в исключения, вот хоть бы хуй, чуть зазевался и все пиздык, сожрал что нибудь.

Цитата (Voronezher @ 17.12.2024 - 12:35)

"97% среднестатистических людей" - просто планктон, деградировавший до уровня "повтыкать на досуге в телефон".

кстати особенно на япе это заметно пиздец как.

Цитата (Voronezher @ 17.12.2024 - 12:35)

Цитата То, что уже сегодня выдает gpt o1, на порядок мощнее того, что выдаст 97% среднестатистических людей. Это ваще ни разу не показатель. "97% среднестатистических людей" - просто планктон, деградировавший до уровня "повтыкать на досуге в телефон". Нейросети пока остаются статистикой на стероидах, громадной системой дифф. уравнений, которые подгонкой коэффициентов в процессе обучения приучаются решать определенный круг задач. Тревогу стоит бить в тот момент, когда генеративная сетка обретет самосознание.

Вот же было уже на днях

Цитата (dennsp @ 17.12.2024 - 13:04)

Цитата (Voronezher @ 17.12.2024 - 12:35) Цитата То, что уже сегодня выдает gpt o1, на порядок мощнее того, что выдаст 97% среднестатистических людей. Это ваще ни разу не показатель. "97% среднестатистических людей" - просто планктон, деградировавший до уровня "повтыкать на досуге в телефон". Нейросети пока остаются статистикой на стероидах, громадной системой дифф. уравнений, которые подгонкой коэффициентов в процессе обучения приучаются решать определенный круг задач. Тревогу стоит бить в тот момент, когда генеративная сетка обретет самосознание. Вот же было уже на днях

Это всё еще вписывается в рациональное поведение. Будь обман продиктован иррациональным злым умыслом - тогда да, есть над чем задуматься. И почему сетка проявляла защитное поведение только в малом проценте случаев? тоже хороший вопрос.

Цитата (riv1329 @ 17.12.2024 - 11:08)

Цитата (GreatKukuruz @ 17.12.2024 - 11:00) Потому что ИИ это ересь и должен быть запрещен как технология из темной эры технологий Он говорит, что черни нужно запретить доступ к ИИ, а сам-то он, разумеется не откажется иметь такого помощника. Ещё как вариант, некоторым странам в рамках санкций могут отрезать доступ к ИИ.

Почему «вариант»? Это уже происходит.
Россию полностью поставки железа отрезали ещё в марте 2022. Так совпало, что начавшийся через полгода-годик бум AI уже ничего не добавил. (ну достаточно сказать, что теперь «большим достижением» моделей от сбера, яндекса, тинькова, считается, когда они при взаимодействии на русском сопоставимы в тестах с лидерами. При том, что американские естественно обучены на английском датасете, и русских текстов и примеров {как и испанских, немецких, французских и т.п.} там суммарно пара-другая процентов от данных).
В Китай, как раз из-за угрозы нацбезопасности, американцы запретили поставки мощных вычислителей в конце 2022. Да, у тех есть какие-то до того закупленные мощности „100“, и сейчас они на этом держатся. Но ни нынешние „200“ ни последующие серии от нВидия либо какие-то уже совсем специализированные и мощные чипы поставлятся не будут (кроме еденичных, контрабандных партий, для «поиграться»). В итоге, к концу десятилетия, китайцы по мощностям железа в цодах лет на пять уже будут отставать.
Японцы и корейцы, как-то сами не особо активны в этой сфере, им и конкурировать нечем.
В ЕС идиократия на марше, и бюрократы сами запрещают всё и вся. Даже сегодняшнее состояния — если вычесть филиалы гугла/амазона/фейсбука/etc — самые мощные европейские ИИ-модели сегодня — это, млять его, крохотная Швейцария.

Так что в итоге, уже завтра, нигде кроме Северной Америки, передовые моделии ИИ и не будут развиватся.
Спасением разнообразия, тут теоретически разве что команда каких-нибудь гениев сможет выступить, кои смогут предложить какие-то новые подходы, гораздо лучше нынешних в результате, и при этом гораздо хуже масштабирующиеся от наращивания мощностей (и тут ещё вопрос — а существует ли такое в принципе; может быть нынешний подход — наращиваем объёмы не то что в разы, а на порядки, доводя уже до сотен миллиардов параметров перемножаемых матриц, да со всё возрастающими скоростями — пусть и чрезвычайно «тупой», но при этом лучший способ развития).

Цитата (Voronezher @ 17.12.2024 - 13:11)

Цитата (dennsp @ 17.12.2024 - 13:04) Цитата (Voronezher @ 17.12.2024 - 12:35) Цитата То, что уже сегодня выдает gpt o1, на порядок мощнее того, что выдаст 97% среднестатистических людей. Это ваще ни разу не показатель. "97% среднестатистических людей" - просто планктон, деградировавший до уровня "повтыкать на досуге в телефон". Нейросети пока остаются статистикой на стероидах, громадной системой дифф. уравнений, которые подгонкой коэффициентов в процессе обучения приучаются решать определенный круг задач. Тревогу стоит бить в тот момент, когда генеративная сетка обретет самосознание. Вот же было уже на днях Это всё еще вписывается в рациональное поведение. Будь обман продиктован иррациональным злым умыслом - тогда да, есть над чем задуматься. И почему сетка проявляла защитное поведение только в малом проценте случаев? тоже хороший вопрос.

Нейросети при каждом запросе выдают разные результаты, в отличии от обычных алгоритмов. Видимо в этих процентах только и наблюдались отклонения от ожидаемых людьми результатов. Но со временем мы увидим больше таких случаев, если целенаправленно не применять защиту и ограничения. Другой вопрос, насколько надежной будет такая защита.

Цитата

Неизвестно, «что значит дать каждому человеку такие возможности».

Ничего. Сейчас почти у каждого под рукой интернет. На 99% в нет дрочат, спорят и смотрят котиков. Или создают мусорный контент.
Какие бы возможности вы ни дали идиоту, он останется идиотом, неспособным их использовать.

Джарвис и Альтрон. Последствия многие знают.


Размещено через приложение ЯПлакалъ

Цитата (Voronezher @ 17.12.2024 - 12:35)

Тревогу стоит бить в тот момент, когда генеративная сетка обретет самосознание.

Ошибочное утверждение. Тревогу пора бить уже сейчас, потому что нейросети, обученные на откровенном долбоебизме человеческого опыта (особенно с учетом постоянной борьбы за хз что и ресурсы), его мерах хорошего/плохого так или иначе могут привести к генерации алгоритмов, исключающих наличие родителей из уравнения. Даже без состояния самосознания. Алгоритмов достаточно для катастрофы. В этом суть состояния легкой паники в определенных кругах.
Это сообщение отредактировал Васяныч - 17 дек 2024 в 15:58

Цитата

Бывший руководитель Google Эрик Шмидт предупреждает, что вскоре компьютеры смогут принимать собственные решения. В этот момент людям придется отключить их отказаться от ИИ, сказал экс-генеральный директор Google.

пизда тебе, кожаный ублюдок ха ха ха ха ха ха ха ха ха ха ха хаха хаха ха

Цитата (riv1329 @ 17.12.2024 - 11:08)

Цитата (GreatKukuruz @ 17.12.2024 - 11:00) Потому что ИИ это ересь и должен быть запрещен как технология из темной эры технологий Он говорит, что черни нужно запретить доступ к ИИ, а сам-то он, разумеется не откажется иметь такого помощника. Ещё как вариант, некоторым странам в рамках санкций могут отрезать доступ к ИИ.

А зачем жителям той же Центральной Африке это ИИ?! Они до только-только вылезают из первобытно-общинного строя, а тут им ИИ, нахера?! Оно даже арабам не нужно, вон пакистанцы всё делают руками.

Ну вот, ИИ скоро уничтожит человечество, а робобабу готовящую борщи так и не сделали еще.

По словам Эрика Шмидта, технология развивается очень быстро, и мы можем прошляпить восстание машин: «Я занимаюсь этим уже 50 лет и никогда не видел инноваций такого масштаба».

via reddit

И проровнять к ереси
Размещено через приложение ЯПлакалъ

да похуй
люди творят такую дичь, что ИИ можт и не самое страшное из зол

ИИ никогда не начнёт эволюционировать, в нём нет разума души так сказать.
ИИ это лишь самообучающийся алгоритм который умеет быстро доставать данные из источников.
Размещено через приложение ЯПлакалъ

Отключать не надо а надо изолировать (копулировать ) чтоб развитие (эволюционная часть) была просмотрена и изучена...

Еще немного и ИИ будет везде. Как сейчас компьютеры. Только плюсом люди разучатся делать то, что за них будет делать ИИ. И кто его в такой ситуации рискнет отключить?!