Nature: Научная группа разработала критерии определения сознания ИИ

В этом может помочь контрольный список, составленный на основе шести нейронаучных теорий сознания. Зачем это вообще нужно и почему так важно?

В научной фантастике давно существует идея о том, что искусственный интеллект может стать сознательным — вспомните суперкомпьютер HAL 9000, ставший злодеем в фильме 1968 года «2001 год: космическая одиссея». С быстрым развитием искусственного интеллекта (ИИ) такая возможность становится все менее фантастичной и даже признается лидерами в области ИИ. Например, в прошлом году Илья Суцкевер, главный научный сотрудник компании OpenAI, создавшей чат-бота ChatGPT, написал в своем твиттере, что некоторые из самых современных сетей ИИ могут быть „слегка сознательными“.

Многие исследователи утверждают, что системы ИИ еще не достигли уровня сознания, но темпы развития ИИ заставляют их задуматься: а как мы узнаем, что это так?

Чтобы ответить на этот вопрос, группа из 19 нейробиологов, философов и компьютерщиков разработала список критериев, соответствие которым указывает на высокую вероятность того, что система обладает сознанием. Свое предварительное руководство они опубликовали в начале этой недели в репозитории препринтов arXiv1, не дождавшись рецензирования. По словам соавтора Роберта Лонга, философа из Center for AI Safety, исследовательской некоммерческой организации из Сан-Франциско (штат Калифорния), «создавалось впечатление, что существует настоящий дефицит подробных, эмпирически обоснованных, вдумчивых обсуждений сознания ИИ».

Команда считает, что неспособность определить, стала ли система ИИ сознательной, имеет важные моральные последствия. По словам соавтора исследования Меган Питерс, нейробиолога из Калифорнийского университета в Ирвайне, «если что-то было названо „сознательным“, это многое меняет в том, как мы, люди, считаем, что с этим существом следует обращаться».

Лонг добавляет, что, насколько он может судить, компании, создающие передовые системы ИИ, не прилагают достаточных усилий для оценки моделей сознания и разработки планов действий в случае его появления. «И это несмотря на то, что, если послушать высказывания руководителей ведущих лабораторий, они говорят, что сознание ИИ или разум ИИ — это то, что их интересует», — добавляет он.

Nature связался с двумя крупнейшими технологическими компаниями, участвующими в развитии ИИ, — Microsoft и Google. Представитель Microsoft заявил, что компания разрабатывает ИИ, ориентируясь на ответственное отношение к производительности человека, а не на копирование его интеллекта. Что стало ясно после появления GPT-4 — самой продвинутой версии ChatGPT, опубликованной публично, — «так это то, что для оценки возможностей этих моделей ИИ требуются новые методики, поскольку мы изучаем, как раскрыть весь потенциал ИИ на благо всего общества», — заявил представитель компании. Компания Google не ответила на этот вопрос.

Что такое сознание?

Одной из проблем изучения сознания в ИИ является определение того, что значит быть сознательным. По словам Питерса, для целей отчета исследователи сосредоточились на «феноменальном сознании», иначе называемом субъективным опытом. Это опыт бытия — каково быть человеком, животным или системой искусственного интеллекта (если таковая окажется сознательной).

Существует множество нейронаучных теорий, описывающих биологические основы сознания. Однако единого мнения о том, какая из них является «правильной», нет. Поэтому для создания своей схемы авторы использовали целый ряд этих теорий. Идея состоит в том, что если система искусственного интеллекта функционирует таким образом, что соответствует многим из этих теорий, то вероятность того, что она обладает сознанием, возрастает.

Авторы утверждают, что такой подход к оценке сознания более эффективен, чем простое тестирование системы на поведенческие факторы — например, спросить у ChatGPT, обладает ли она сознанием, или бросить ей вызов и посмотреть, как она отреагирует. Это связано с тем, что системы искусственного интеллекта стали очень хорошо подражать человеку.

По мнению нейробиолога Анила Сета (Anil Seth), директора центра науки о сознании при Сассекском университете (г. Брайтон, Великобритания), подход группы, который авторы называют теоретически обоснованным, является хорошим способом продвижения вперед. Однако он подчеркивает, что «нам нужны более точные, хорошо проверенные теории сознания», — говорит он.

Теоретический подход

Для разработки своих критериев авторы предположили, что сознание связано с тем, как системы обрабатывают информацию, независимо от того, из чего они состоят — нейронов, компьютерных чипов или чего-то еще. Такой подход называется вычислительным функционализмом. Они также предположили, что основанные на нейронауке теории сознания, которые изучаются с помощью сканирования мозга и других методов у людей и животных, могут быть применены к ИИ.

Исходя из этих предпосылок, команда отобрала шесть таких теорий и извлекла из них список индикаторов сознания. Одна из них — теория глобального рабочего пространства — утверждает, например, что человек и другие животные используют множество специализированных систем, называемых модулями, для выполнения когнитивных задач, таких как зрение и слух. Эти модули работают независимо, но параллельно, и обмениваются информацией, объединяясь в единую систему. По словам Лонга, человек может оценить, демонстрирует ли та или иная система искусственного интеллекта показатель, вытекающий из этой теории, «изучив архитектуру системы и то, как информация проходит через нее».

Сет впечатлен прозрачностью предложения команды.

Оно очень продуманное, не напыщенное и четко формулирует свои предположения, — говорит исследователь.

Я не согласен с некоторыми предположениями, но это совершенно нормально, потому что я вполне могу ошибаться.

Авторы отмечают, что данная работа далека от окончательного решения вопроса о том, как оценивать системы ИИ на предмет наличия сознания, и хотят, чтобы другие исследователи помогли доработать их методологию. Однако уже сейчас можно применить эти критерии к существующим системам ИИ. Например, в отчете оцениваются большие языковые модели, такие как ChatGPT, и делается вывод о том, что этот тип систем, вероятно, обладает некоторыми признаками сознания, связанными с теорией глобального рабочего пространства. Однако, в конечном счете, работа не позволяет утверждать, что какая-либо существующая система ИИ является сильным кандидатом на сознание — по крайней мере, пока.

26.08.2023


Подписаться в Telegram



Net&IT

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

ИИ помогает математикам находить закономерности
ИИ помогает математикам находить закономерности

Применение машинного обучения для поиска ...

Scientific Reports: Борьба с недоверием в Интернете может быть неэффективной
Scientific Reports: Борьба с недоверием в Интернете может быть неэффективной

Новое исследование, проведенное Университетом ...

JRCS: ChatGPT перегружает пользователей выбором
JRCS: ChatGPT перегружает пользователей выбором

За последние несколько лет в области...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Optica Quantum: Ученые разработали новый метод определения квантовых состояний
Optica Quantum: Ученые разработали новый метод определения квантовых состояний
Новая реалистичная компьютерная модель поможет роботам собирать лунную пыль
Новая реалистичная компьютерная модель поможет роботам собирать лунную пыль
С помощью GPT-4 создали видеоуроки по педиатрии для слабо обеспеченных больниц
С помощью GPT-4 создали видеоуроки по педиатрии для слабо обеспеченных больниц
Телескоп Джеймс Уэбб обнаружил следы нейтронной звезды в легендарной сверхновой
Телескоп Джеймс Уэбб обнаружил следы нейтронной звезды в легендарной сверхновой
Нервная анорексия у мужчин опасна для жизни
Нервная анорексия у мужчин опасна для жизни
Nicotine & Tobacco Research: Запрет сигарет с ментолом помогает бросить курить
Nicotine & Tobacco Research: Запрет сигарет с ментолом помогает бросить курить
Мальротацию кишечника новорожденных помогут распутать лягушачьи икринки
Мальротацию кишечника новорожденных помогут распутать лягушачьи икринки
Новое исследование роли дофамина поможет лечить болезнь Паркинсона
Новое исследование роли дофамина поможет лечить болезнь Паркинсона
Nature Comm: Младенцев с синдромом Дауна в древности почитали как особенных
Nature Comm: Младенцев с синдромом Дауна в древности почитали как особенных
Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее
Освоение космоса: остановить нельзя развивать
Освоение космоса: остановить нельзя развивать
Гигантские антарктические морские пауки удивили всех отношением к потомству
Гигантские антарктические морские пауки удивили всех отношением к потомству
Геномы бабочек и мотыльков практически не изменились за 250 млн лет эволюции
Геномы бабочек и мотыльков практически не изменились за 250 млн лет эволюции
Ученые намерены глубже понять жизнь на Земле благодаря имиджеомике
Ученые намерены глубже понять жизнь на Земле благодаря имиджеомике
Как выглядит работающий рекламный баннер
Как выглядит работающий рекламный баннер

Новости компаний, релизы

НАИРИТ объявит итоги Всероссийского инновационного конкурса 21 февраля
НАИРИТ объявит итоги Всероссийского инновационного конкурса 21 февраля
«Инструменты инновационного развития»
«Инструменты инновационного развития»
3 причины перехода с печатной рекламы на цифровую
3 причины перехода с печатной рекламы на цифровую
Виды резервирования серверов для задач АСУ ТП
Виды резервирования серверов для задач АСУ ТП
Выбор клиники и лечащего врача с помощью специализированного сервиса
Выбор клиники и лечащего врача с помощью специализированного сервиса