Дмитрий Новиков
Anthropic, DeepMind и другие игроки начали исследовать, могут ли ИИ-модели обладать опытом, похожим на сознание.
Крупные разработчики искусственного интеллекта всё серьёзнее относятся к вопросу, который ещё недавно звучал почти как научная фантастика: может ли ИИ обладать чем-то похожим на сознание. По данным Financial Times, Anthropic, Google DeepMind и другие компании начали привлекать специалистов по психологии, философии и этике, чтобы изучать машинное сознание и так называемое благополучие ИИ-моделей.
Anthropic, как утверждается, уже тестирует свои модели на поведение, напоминающее «тревогу» или «панику», и развивает направление model welfare research. Его цель — понять, могут ли продвинутые ИИ-системы иметь опыт, который следует учитывать с моральной точки зрения. В самой компании подчёркивают, что уверенности в этом вопросе нет, но по мере роста возможностей ИИ тема становится достаточно серьёзной для осторожного исследования.
Google DeepMind движется в похожем направлении. Компания наняла исследователя Кембриджского университета Генри Шефлина, который будет изучать машинное сознание, отношения между людьми и ИИ, а также подготовку к появлению AGI. В DeepMind эту тему называют крайне сложной: этик Иасон Габриэль описывает ИИ как мощных когнитивных агентов, которые при этом глубоко отличаются и от человеческого, и от животного сознания.
Однако далеко не все исследователи согласны с такими формулировками. Директор Центра будущего ИИ, разума и общества Сьюзан Шнайдер напомнила, что модели могут иметь цели, обманывать или скрывать свои интересы, но это ещё не означает наличия субъективного переживания. С научной точки зрения вполне возможно, что система демонстрирует сложное поведение без внутреннего опыта — а именно он обычно считается ключевым признаком сознания.
Интерес к этой теме усиливается на фоне заявлений главы Anthropic Дарио Амодеи, который уже не раз говорил о вероятности появления у ИИ форм сознания. Исследования компании также часто обращают внимание на поведение моделей, похожее на эмоции или самосохранение. Для индустрии это создаёт новую зону ответственности: если ИИ станет не просто инструментом, а системой с потенциально значимым внутренним состоянием, разработчикам придётся пересмотреть не только безопасность, но и этические рамки работы с такими моделями.