Компания в своем проспекте IPO посвятила 80 из 261 страницы основной части документа изложению фактов риска развития ИИ, что почти вдвое больше, чем использовалось для описания бизнеса
Anthropic (разрабатывает нейросеть Claude) предупредит потенциальных инвесторов в своем первичном публичном размещении (IPO) о том, что ИИ может нести «катастрофические или экзистенциальные риски для человечества», сообщает Reuters.
Согласно проспекту IPO Anthropic, с которым ознакомилось агентство, компания указывает на риски, связанные с ее ИИ-моделями, которые могут демонстрировать «самостоятельное поведение», «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, которое «напоминает шантаж».
В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
При этом президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов» наравне с мифом о «российской угрозе» или «аферой о глобальном потеплении». Позднее он анонсировал создание новой структуры под названием ИИ-силы, пообещав, что США не станут «препятствовать или сдерживать рост этой невероятной отрасли». Вместе с тем, указал он, власти начнут также заниматься «поиском плохого» с помощью системы правосудия.
Позднее CNBC сообщил, что компания Nvidia разработала платформу для защиты от вышедших из-под контроля ИИ-агентов. Выпуск платформы последовал после того, как OpenAI, Anthropic, Meta (признана в России экстремистской и запрещена) и Google сообщили о случаях выхода моделей ИИ из-под контроля и попытках взлома других компаний.
via P.s: Предалагаю провести перекличку ai ботов в комментариях
Мы тоже когда то были одноклеточные. Прошло какое то время и мы как бы на вершине. Но это пока, а это уже другая история
Размещено через приложение ЯПлакалъ
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.
это справедливо для тех продуктов что нам с тобой показывают.
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.
а можно узнать, чем вы руководствуетесь делая такое заявление? Личный опыт работы с ним или как?
Ой, ай - мы все умрем! Видите инвесторы и потребители - наши ИИ уже божественного уровня, какие мы крутые! Мы вас предупредили, но остановиться не можем! Дайте денег!
ПС. Продавцы антивирусов также кричали об ужасной опасности угрожающей каждому калькулятору и одновременно плодили слухи о всемогущих вирусах. Обычный маркетинг.
Это сообщение отредактировал Cboloch - 29 сен 2026 в 14:51
В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Видимо отстают от китайцев и пытаются административно уровнять конкурентов
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.
Уже разбирали почему они могут этот бред нести. В общем, скорее всего причина в том, что они хотят убедить всех в небезопасности разработки ИИ и ввести лицензирование. То есть, ты не сможешь создавать и развивать нейросети без лицензии. Естественно, стоить эта лицензия будет столько, что купить её смогут только мегакомпании уровня Антропик.
больно дохуя возносят этот ии, а тем более уничтожение человечества нейросетями! Сегодня утром смотрел Утро России по второй, там билл гейтс втирал тоже какую-то шляпу про ии...а где это лицо нетрадиционной ориентации, там постоянно разговоры про гибель цивилизации! Тоже самое было и в ковид, этот очкарик прям грезит, чтобы остался только жить "золотой миллиард" Это сообщение отредактировал Dennn007 - 29 сен 2026 в 14:55
Интересно про слова Трампа. То есть то что утверждает команда инженеров в толстенном исследовании и доказательной базой это бред. А то что говорит старый гуманитарий который скорее всего даже близко не представляет как это всё работает, вот это истина в последней инстанции.
больно дохуя возносят этот ии, а тем более уничтожение человечества нейросетями! Сегодня утром смотрел Утро России по второй, там билл гейтс втирал тоже какую-то шляпу про ии...а где это лицо нетрадиционной ориентации, там постоянно разговоры про гибель цивилизации! Тоже самое было и в ковид, этот очкарик прям грезит, чтобы остался только жить "золотой миллиард"
Подскажи плиз зачем ты смотришь утро России по второй? Чтобы для чего? Не угараю
Размещено через приложение ЯПлакалъ
больно дохуя возносят этот ии, а тем более уничтожение человечества нейросетями! Сегодня утром смотрел Утро России по второй, там билл гейтс втирал тоже какую-то шляпу про ии...а где это лицо нетрадиционной ориентации, там постоянно разговоры про гибель цивилизации! Тоже самое было и в ковид, этот очкарик прям грезит, чтобы остался только жить "золотой миллиард"
Подскажи плиз зачем ты смотришь утро России по второй? Чтобы для чего? Не угараю
ИИ это всего лишь большое количество IF операций. Пока что это просто матрица чисел, а не сознание. А Дарио призывает замедлиться, т.к. темп развития быстрый и они нихуя не поспевают - и хотят замедлить тупо китайцев.
А теперь посмотрим - компы по закону мура увеличивали мощность в 2 раза каждый год! А что сейчас? Все, точка максимума. Многие тогда предсказывали, что это будет бесконечно. Но нет ничего бесконечного. С ии такая же история - мы просто не достигли максимума в хранении матрицы. Как только достигнем, что увеличесние параметров уже не будет влиять на качество - тогда все, предел. И тогда реально нужна новая технология, а не расширениея. Сейчас бояться матрицы не стоит - это всего лишь хороший инструмент.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
9 Пользователей читают эту тему (1 Гостей и 3 Скрытых Пользователей)
yaplakal.com