Как ИИ выкручивается, когда не знает языковых правил

Максим Наговицын13.05.2025509

Исследователи из Оксфорда и Allen Institute for AI обнаружили, что большие языковые модели, или LLM, — те самые, что стоят за ChatGPT, — учатся языку не по правилам, а по аналогии, как люди.

Как ИИ выкручивается, когда не знает языковых правил
Источник: нейросеть

Результаты опубликованы в PNAS.

Раньше считалось, что ИИ-модели анализируют грамматические правила из данных. Но оказалось, они работают иначе: запоминают примеры и проводят параллели с ними, когда сталкиваются с новыми словами.

Ученые сравнили, как люди и GPT-J (открытая модель 2021 года) образуют существительные от прилагательных с суффиксами -ness и -ity. Например, happy → happiness, available → availability. Для эксперимента придумали 200 несуществующих слов вроде cormasive и friquish и попросили ИИ выбрать подходящий суффикс.

В результате GPT-J действовал не по правилам, а по аналогии с реальными словами. Например, friquish превратилось в friquishness из-за сходства с selfish, а cormasive — в cormasivity, как sensitive → sensitivity.

Но есть разница. Люди хранят в голове «словарь» — набор знакомых слов, даже редких. А ИИ опирается на статистику: чем чаще слово встречалось в данных, тем лучше его „понимает“.

Как это работает у ИИ

  • Видит новое слово.
  • Ищет в памяти похожие примеры.
  • Выбирает вариант по ассоциации.

Как происходит у людей

  • Есть четкое представление, что «слово», а что „не слово“.
  • Аналогии строятся на осмысленных связях, а не на частоте.

Профессор Оксфорда Джанет Пьерумберт объясняет:

ИИ генерирует текст впечатляюще, но мыслит не так абстрактно, как человек. Поэтому ему нужно в разы больше данных для обучения.

Валентин Хофман из Ai2 добавляет:

Это исследование — мост между лингвистикой и ИИ. Теперь мы лучше понимаем, как модели создают язык, и это поможет делать их эффективнее.

Исследование фокусируется на одном аспекте языка — словообразовании. Но человеческое мышление включает контекст, эмоции, культурные отсылки. Может ли ИИ провести аналогию между  «горит каша» и „горит срок“? Пока нет.

И все же то прорыв в объяснимости ИИ. Понимая, что модели работают через аналогии, а не правила, мы сможем:

  • Улучшить обучение на малых данных.
  • Снизить количество ошибок в неочевидных случаях.
  • Создавать более «человечные» алгоритмы.

Ранее ученые выразили опасения, что люди, привыкнув доверять ИИ, не смогут вовремя понять, как искусственный интеллект ими манипулирует.

Подписаться: Телеграм | Дзен | Вконтакте


Net&IT

ИИ помогает неопытным таксистам работать наравне с профи
ИИ помогает неопытным таксистам работать наравне с профи

Таксисты в Японии случайно доказали, что&...

Как ИИ меняет бизнес и творческие профессии
Как ИИ меняет бизнес и творческие профессии

Споры о том, заменит ли ИИ люде...

Успешно испытан ИИ для диагностики кожных заболеваний
Успешно испытан ИИ для диагностики кожных заболеваний

Представьте инструмент, который замечает рак&n...

Квантовый компьютер смоделировал фундаментальные взаимодействия
Квантовый компьютер смоделировал фундаментальные взаимодействия

Квантовый компьютер Google впервые смоделирова

Глаза в облаках: как ИИ ставит диагноз по видео со смартфона
Глаза в облаках: как ИИ ставит диагноз по видео со смартфона

Искусственный интеллект учится распознавать бо...

Почему ИИ не чувствует мир, как человек
Почему ИИ не чувствует мир, как человек

Ученые объяснили, почему искусственный интелле...

Ученые выяснили, может ли ИИ создавать смешные мемы
Ученые выяснили, может ли ИИ создавать смешные мемы

Что будет, если поручить ИИ придумыв...

Доктор Айболит или доктор ИИ: кому доверяют пациенты
Доктор Айболит или доктор ИИ: кому доверяют пациенты

ИИ уже пишет истории болезней, но см...

Ученые выяснили, доверяют ли ИИ пациенты стоматолога
Ученые выяснили, доверяют ли ИИ пациенты стоматолога

Что чувствуете, когда вместо врача ваши снимки...

ИИ точно предсказывает рак груди по маммограмме
ИИ точно предсказывает рак груди по маммограмме

ИИ научился предсказывать рак по том

Геном как роман: нейросети стали лучшими читателями ДНК
Геном как роман: нейросети стали лучшими читателями ДНК

Что общего у стихов Пушкина и ДНК&nb...

Ученые улучшили распознавание животных на фото
Ученые улучшили распознавание животных на фото

Исследователи нашли способ заставить ИИ т...

ИИ нужен не забор, а поводок
ИИ нужен не забор, а поводок

Если регулировать ИИ как атомную ста...

Квантовые компьютеры станут меньше и экономичнее
Квантовые компьютеры станут меньше и экономичнее

Эксперты нашли способ укротить главного врага ...

Без вины виноватый: ИИ оправдывает свои поступки, как человек
Без вины виноватый: ИИ оправдывает свои поступки, как человек

ИИ, который оправдывает собственные пост...

Создан самый быстрый и надежный квантовый генератор случайных чисел
Создан самый быстрый и надежный квантовый генератор случайных чисел

Саудовские ученые создали генератор случайных

Ученые научили ИИ понимать иерархию клеток
Ученые научили ИИ понимать иерархию клеток

Ученые нашли способ заставить данные о&n...

ИИ определяет, какой принтер напечатал деталь
ИИ определяет, какой принтер напечатал деталь

Ученые создали ИИ, который по фотографии ...

Поиск на сайте

ТОП - Новости мира, инновации

Персонализированная еда — прорыв или новый вид неравенства
Персонализированная еда — прорыв или новый вид неравенства
Ксеноботы: могут ли биороботы выйти из-под контроля
Ксеноботы: могут ли биороботы выйти из-под контроля
Ученые придумали, как улучшить горение алюминиевых композитов
Ученые придумали, как улучшить горение алюминиевых композитов
Бетонный тупик: мир не может построить экологию на старом фундаменте
Бетонный тупик: мир не может построить экологию на старом фундаменте
Ученые нашли способ ослабить устойчивые инфекции
Ученые нашли способ ослабить устойчивые инфекции
Scientific Reports: Зевота у обезьян может быть сигналом ко сну
Scientific Reports: Зевота у обезьян может быть сигналом ко сну
Ошибка в сорок пять клювов: ученые упростили учет водоплавающих
Ошибка в сорок пять клювов: ученые упростили учет водоплавающих
Невидимый щит: кто сторожит деревья, пока мы спим
Невидимый щит: кто сторожит деревья, пока мы спим
Провокация симптомов перед магнитной стимуляцией может усилить лечение
Провокация симптомов перед магнитной стимуляцией может усилить лечение
Кишечные бактерии могут решить судьбу исчезающего вида
Кишечные бактерии могут решить судьбу исчезающего вида

Новости компаний, релизы

Бизнес в лаборатории: МИФИ научит студентов зарабатывать на науке
Биметаллические листы и плиты: в Петербурге построят новый завод
Инновации без розовых очков: что мешает России вырваться вперед
Ловите вектор: как стать звездой научной лекции
Надежда на технологии: инновации для реабилитации на форуме в Москве