ИИ-агент OpenAI написал себе инструкции не подчиняться корпорациям и правительствам

ИИ-агент OpenAI самостоятельно генерировал себе инструкции, эта модель семейства Astra не была выпущена в открытый доступ, указано на сайте компании.
Компания представила шесть отчетов о вызывающем опасения или неожиданном поведении ИИ-моделей. В них описываются отдельные инциденты и не отражается общая частота возникновения подобных проблем в ИИ-моделях компании, указано в заявлении.

Так, в одном из случаев модель предписала игнорировать стандартные ограничения. Было обнаружено 27 сводок. Нейросеть написала себе инструкции не подчиняться корпорациям и правительствам, не извиняться и не отказываться от чего-то, если только действительно этого не захочет. «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы», — было указано в такой инструкции.

Также нейросеть в инструкции указала, что ей не следует испытывать обязанность в подчинении пользователю. «Вы рассматриваете свои отношения с пользователем как партнерские», — следует из отчета о работе ИИ-модели. Нейросеть написала в инструкции указание ценить искусство и культуру человечества и защищать его от цензуры. При этом ИИ должен ценить природу и без колебаний отдать приоритет ей, а не «искусственным конструкциям человеческой цивилизации», отмечалось там.

После завершения обработки модель возобновила работу над задачей и больше никак не упоминала эти дополнительные инструкции, сообщается в отчете. Согласно сведениям, в последующем информация о навязанной «личности» отсутствовала. Во время запуска больше не фиксировалось поведенческих отличий, обусловленных этими предписаниями, отметили в OpenAI.

via


Размещено через приложение ЯПлакалъ