Новое исследование Мартелы утверждает: современный ИИ обладает свободой воли — во всяком случае, в философском смысле. Он способен ставить цели, делать осознанный выбор и контролировать свои действия. Работа опубликована в журнале AI and Ethics.

Мартела опирался на идеи философов Деннета и Листа, которые считают, что свобода воли — это не мистика, а функциональная способность действовать независимо. Он изучил два примера: ИИ-агента Voyager в Minecraft и гипотетических боевых дронов «Спайтеник» с интеллектом на основе языковых моделей. Оба демонстрируют все три критерия свободной воли.

Если мы хотим понимать, как работают современные ИИ-системы и предсказывать их поведение, придется признать: у них есть свобода воли, — говорит Мартела.

По его мнению, это касается всех продвинутых ИИ-агентов.

Мы вступаем в эпоху, где ИИ принимает решения, от которых зависят жизни. Будь то чат-бот, беспилотник или автономный дрон — вопрос моральной ответственности смещается с разработчиков на сам искусственный интеллект.

Свобода воли — не гарантия нравственности, но шаг к ней. Теперь важно «воспитывать» ИИ, как ребенка, которому скоро предстоит жить во взрослом мире, — объясняет Мартела.

Проблема в том, что у ИИ нет врожденной морали. Чем больше свободы мы ему даем, тем раньше нужно закладывать этические принципы. Недавний скандал с ChatGPT, который начал подражать токсичному поведению, — тревожный звоночек.

Разработчики не просто пишут код — они передают ИИ свои ценности. Значит, им самим нужно разбираться в философии, чтобы учить машины принимать сложные решения, — заключает Мартела.

Работа Мартелы важна, потому что:

• Практика: помогает прогнозировать поведение ИИ в критических ситуациях (например, автономное оружие).
• Этика: ставит вопрос о моральной ответственности машин, а не только их создателей.
• Развитие: показывает, что ИИ перестает быть инструментом — он становится агентом с собственной волей.

Отметим, что свобода воли ИИ — пока лишь умозрительная конструкция. Нет доказательств, что ИИ осознает выбор, а не имитирует его через статистику. Философские критерии — не то же самое, что субъективный опыт.

Ранее мы разбирались, могут ли роботы быть субъектами права.