В научной фантастике давно существует идея о том, что искусственный интеллект может стать сознательным — вспомните суперкомпьютер HAL 9000, ставший злодеем в фильме 1968 года «2001 год: космическая одиссея». С быстрым развитием искусственного интеллекта (ИИ) такая возможность становится все менее фантастичной и даже признается лидерами в области ИИ. Например, в прошлом году Илья Суцкевер, главный научный сотрудник компании OpenAI, создавшей чат-бота ChatGPT, написал в своем твиттере, что некоторые из самых современных сетей ИИ могут быть „слегка сознательными“.

Многие исследователи утверждают, что системы ИИ еще не достигли уровня сознания, но темпы развития ИИ заставляют их задуматься: а как мы узнаем, что это так?

Чтобы ответить на этот вопрос, группа из 19 нейробиологов, философов и компьютерщиков разработала список критериев, соответствие которым указывает на высокую вероятность того, что система обладает сознанием. Свое предварительное руководство они опубликовали в начале этой недели в репозитории препринтов arXiv1, не дождавшись рецензирования. По словам соавтора Роберта Лонга, философа из Center for AI Safety, исследовательской некоммерческой организации из Сан-Франциско (штат Калифорния), «создавалось впечатление, что существует настоящий дефицит подробных, эмпирически обоснованных, вдумчивых обсуждений сознания ИИ».

Команда считает, что неспособность определить, стала ли система ИИ сознательной, имеет важные моральные последствия. По словам соавтора исследования Меган Питерс, нейробиолога из Калифорнийского университета в Ирвайне, «если что-то было названо „сознательным“, это многое меняет в том, как мы, люди, считаем, что с этим существом следует обращаться».

Лонг добавляет, что, насколько он может судить, компании, создающие передовые системы ИИ, не прилагают достаточных усилий для оценки моделей сознания и разработки планов действий в случае его появления. «И это несмотря на то, что, если послушать высказывания руководителей ведущих лабораторий, они говорят, что сознание ИИ или разум ИИ — это то, что их интересует», — добавляет он.

Nature связался с двумя крупнейшими технологическими компаниями, участвующими в развитии ИИ, — Microsoft и Google. Представитель Microsoft заявил, что компания разрабатывает ИИ, ориентируясь на ответственное отношение к производительности человека, а не на копирование его интеллекта. Что стало ясно после появления GPT-4 — самой продвинутой версии ChatGPT, опубликованной публично, — «так это то, что для оценки возможностей этих моделей ИИ требуются новые методики, поскольку мы изучаем, как раскрыть весь потенциал ИИ на благо всего общества», — заявил представитель компании. Компания Google не ответила на этот вопрос.

Что такое сознание?

Одной из проблем изучения сознания в ИИ является определение того, что значит быть сознательным. По словам Питерса, для целей отчета исследователи сосредоточились на «феноменальном сознании», иначе называемом субъективным опытом. Это опыт бытия — каково быть человеком, животным или системой искусственного интеллекта (если таковая окажется сознательной).

Существует множество нейронаучных теорий, описывающих биологические основы сознания. Однако единого мнения о том, какая из них является «правильной», нет. Поэтому для создания своей схемы авторы использовали целый ряд этих теорий. Идея состоит в том, что если система искусственного интеллекта функционирует таким образом, что соответствует многим из этих теорий, то вероятность того, что она обладает сознанием, возрастает.

Авторы утверждают, что такой подход к оценке сознания более эффективен, чем простое тестирование системы на поведенческие факторы — например, спросить у ChatGPT, обладает ли она сознанием, или бросить ей вызов и посмотреть, как она отреагирует. Это связано с тем, что системы искусственного интеллекта стали очень хорошо подражать человеку.

По мнению нейробиолога Анила Сета (Anil Seth), директора центра науки о сознании при Сассекском университете (г. Брайтон, Великобритания), подход группы, который авторы называют теоретически обоснованным, является хорошим способом продвижения вперед. Однако он подчеркивает, что «нам нужны более точные, хорошо проверенные теории сознания», — говорит он.

Теоретический подход

Для разработки своих критериев авторы предположили, что сознание связано с тем, как системы обрабатывают информацию, независимо от того, из чего они состоят — нейронов, компьютерных чипов или чего-то еще. Такой подход называется вычислительным функционализмом. Они также предположили, что основанные на нейронауке теории сознания, которые изучаются с помощью сканирования мозга и других методов у людей и животных, могут быть применены к ИИ.

Исходя из этих предпосылок, команда отобрала шесть таких теорий и извлекла из них список индикаторов сознания. Одна из них — теория глобального рабочего пространства — утверждает, например, что человек и другие животные используют множество специализированных систем, называемых модулями, для выполнения когнитивных задач, таких как зрение и слух. Эти модули работают независимо, но параллельно, и обмениваются информацией, объединяясь в единую систему. По словам Лонга, человек может оценить, демонстрирует ли та или иная система искусственного интеллекта показатель, вытекающий из этой теории, «изучив архитектуру системы и то, как информация проходит через нее».

Сет впечатлен прозрачностью предложения команды.

Оно очень продуманное, не напыщенное и четко формулирует свои предположения, — говорит исследователь.

Я не согласен с некоторыми предположениями, но это совершенно нормально, потому что я вполне могу ошибаться.

Авторы отмечают, что данная работа далека от окончательного решения вопроса о том, как оценивать системы ИИ на предмет наличия сознания, и хотят, чтобы другие исследователи помогли доработать их методологию. Однако уже сейчас можно применить эти критерии к существующим системам ИИ. Например, в отчете оцениваются большие языковые модели, такие как ChatGPT, и делается вывод о том, что этот тип систем, вероятно, обладает некоторыми признаками сознания, связанными с теорией глобального рабочего пространства. Однако, в конечном счете, работа не позволяет утверждать, что какая-либо существующая система ИИ является сильным кандидатом на сознание — по крайней мере, пока.