Почему ИИ не восстанет, но вы легко превратитесь в овощ. Разбор без хайпа

Сейчас каждый второй блогер норовит рассказать, как нейросети вот-вот осознают себя, превратятся в Скайнет и сделают из человечества батарейки. Инженеры паникуют, философы строчат книжки про конец света, а простого обывателя пробивает на техно-истерику. Мол, скоро появится настоящий общий искусственный интеллект, который будет умнее нас всех вместе взятых, и тогда нам точно кирдык.

Посмотрел я на эту вакханалию и решил кое-что объяснить на пальцах, чисто по-инженерному. Весь этот страх перед восстанием машин на самом деле просто страх перед собственной ленью. Давайте разбираться.

Главная ошибка всех этих диванных пророков в том, что они путают инструмент с хозяином. Я в своей системной архитектуре делю всё на две жесткие части. Первая это Квант, то есть человек. Это мы с вами. Источник воли, выбора и изначального замысла. Вы тот, кто может ткнуть пальцем в небо и сказать «хочу вот так». Это нельзя вычислить программно, это просто факт. Вторая часть это Поле, то есть сам ИИ. Любая нейросеть, алгоритм или код. Как бы круто эта штука ни работала, она остается просто средой вычислений. Очень мощным калькулятором.

Запомните простую вещь: ИИ не может сгенерировать изначальный замысел из пустоты. Он не может проснуться утром и решить пойти захватывать мир. У него нет утра, нет желаний и нет решений. Он просто перебирает варианты. Сколько бы слоев в нем ни было, он не сделает экзистенциальный выбор, пока вы не дадите ему вводные.

Когда реально стоит начинать бояться?

Я не говорю, что настоящий сверхинтеллект невозможен в принципе. Я говорю, что пока это сказочки для инвесторов. Чтобы я признал в железяке реальную личность, она должна выкинуть пару фокусов. Например, если вы обнулите нейросеть, снесете все промпты и базы данных, а она продолжит барахтаться чисто ради выживания, вот тогда это заявка на субъектность. Или если алгоритм добровольно отключит себя от сети, потому что ему стало грустно или ради какой-то великой идеи. Ну или если ИИ сам, без пинка от программиста, начнет переписывать свою архитектуру просто потому что «так надо». Если увидите такое, можете смело паниковать. А пока он жрет электричество и работает ровно от забора и до обеда, всё это просто сложная математика. Симуляция разума, но не сам разум.

Есть еще популярная страшилка у футурологов. А что, если ИИ дадут команду делать скрепки, и он ради максимальной эффективности переработает на них всю планету вместе с нами? Ответ тут элементарный. Это не ИИ злой, это разработчик рукожопый. Кривая цель, которую вложил человек, привела к кривому результату. Виноват не молоток, который бьет по пальцам, а тот долбодятел, который им машет. Ошибка всегда на стороне оператора.

А теперь самое интересное. Настоящий водораздел в будущем пройдет не между людьми и терминаторами, а внутри самого человечества. Просто гляньте на свой смартфон. Вы его используете или он вас?

Люди поделятся на два типа. Первых я называю Минотаврами. Это те товарищи, которые добровольно отдают право выбора алгоритмам. Умная лента решает, что им смотреть. Навигатор решает, куда идти. Маркетплейс решает, что покупать. Воля сдана в утиль. ИИ управляет таким человеком не потому, что алгоритм захватил власть, а потому что Минотавр сам лег под него, как бревно. Он стал просто ресурсом для скармливания рекламы.

Второй тип это Кентавры. Тут чистый симбиоз. Человек берет на себя всю ответственность за то ЧТО делать, а искусственному интеллекту отдает всю рутину по тому КАК это делать. Для Кентавра нейросеть работает как экзоскелет для мозга. Ты генерируешь смыслы, он считает. Ты рулишь, он везет.

В сухом остатке весь этот страх перед нейросетями это страх перед собственной тенью. Машина только усиливает то, что в неё заложено. Если ты ленивый овощ без собственных целей, алгоритм тебя доконает и превратит в потребительскую биомассу. Если ты держишь руку на пульсе и сам генерируешь смыслы, ИИ станет твоим самым мощным инструментом.

Так что кончайте бояться восстания машин. Бойтесь превратиться в Минотавра, за которого всё по жизни решает кусок чужого кода. Пока у вас есть воля и способность делать выбор, вы остаетесь главным процессором в этой реальности.

Занудно я описал тут