Исследователи обнаружили неожиданное сходство между тем, как учатся люди и искусственный интеллект. Оказалось, что ключевую роль в этом процессе играет выпуклость — математическое свойство, которое помогает и мозгу, и алгоритмам структурировать знания.

Результаты опубликованы в издании Nature Communications.

Современные нейросети, будь то ChatGPT или системы распознавания изображений, учатся, преобразуя данные в сложные внутренние представления — так называемые латентные пространства.

Латентное пространство — это внутреннее представление данных в нейросети, где каждая точка соответствует определенному образу, звуку или слову. Например, все изображения кошек в обученной модели группируются в одной области этого пространства, а собаки — в другой.

Ученые из Технического университета Дании решили проверить, насколько эти области выпуклы.

Мы разработали инструменты для измерения выпуклости в латентных пространствах и протестировали их на разных моделях — от обработки изображений до анализа медицинских данных, — говорит Ленка Теткова, ведущий автор исследования.

Что такое выпуклость

• Евклидова выпуклость — если соединить две точки внутри понятия прямой линией, и все промежуточные точки тоже будут принадлежать этому понятию.
• Графовая выпуклость — если кратчайший путь между двумя точками в сети данных не выходит за границы понятия.

Оказалось, что чем лучше модель справляется с задачами, тем более выпуклыми становятся ее внутренние представления. Более того, уровень выпуклости предсказывает, насколько успешно модель можно дообучить для узких задач.

Если понятие «кошка» изначально образует четкую выпуклую область, модель легче научится распознавать кошек в дальнейшем, — объясняет профессор Ларс Кай Хансен.

Почему это важно

• Помогает понять, как ИИ обобщает информацию — возможно, так же, как и человек.
• Дает инструмент для создания более эффективных моделей, особенно когда данных мало.
• Укрепляет доверие к ИИ в критических сферах — медицине, образовании, госуслугах.

Этот прорыв может ускорить разработку ИИ, который:

• Быстрее адаптируется к новым задачам (например, в диагностике редких заболеваний).
• Требует меньше данных для обучения — критично для областей, где информация дорога или труднодоступна.
• Лучше согласуется с человеческой логикой, что снизит число ошибок вроде «галлюцинаций» ChatGPT.

Исследование не учитывает, что человеческие понятия часто не выпуклы. Например, «стул» может включать табуретку и кресло, но не все промежуточные формы будут однозначно отнесены к этому классу. Если ИИ жестко следует выпуклости, он может упускать нюансы.

Ранее эксперты рассказали, как нейроморфные технологии могут изменить мир.