ИИ становится носителем всех пороков человечества, включая расизм и сексизм

Языковые движки, на которых работает генеративный искусственный интеллект, сталкиваются с широким спектром проблем, которые могут нанести вред обществу, в первую очередь из-за распространения дезинформации и дискриминационного контента, включая расистские и сексистские стереотипы.

В значительной степени эти недостатки популярных систем искусственного интеллекта, таких как ChatGPT, связаны с недостатками языковых баз данных, на которых они обучаются.

Чтобы решить эти проблемы, исследователи из Бирмингемского университета разработали новую структуру для лучшего понимания больших языковых моделей (LLM), интегрировав принципы социолингвистики — изучения языковых вариаций и изменений.

Опубликовав свое исследование в журнале Frontiers in AI, специалисты утверждают, что благодаря точному представлению различных «разновидностей языка» можно значительно повысить производительность систем искусственного интеллекта, решив важнейшие проблемы ИИ, включая социальную предвзятость, дезинформацию, адаптацию к домену и соответствие общественным ценностям.

Исследователи подчеркивают важность использования социолингвистических принципов для обучения LLM, чтобы лучше представлять различные диалекты, регистры и периоды, из которых состоит любой язык. Это открывает новые возможности для разработки систем ИИ, которые будут более точными и надежными, а также более этичными и социально ориентированными.

Ведущий автор работы профессор Джек Грив сказал:

Генеративные ИИ, такие как ChatGPT, могут с большей вероятностью создавать негативные образы представителей определенных этнических групп и полов, но наше исследование предлагает решения, как обучать LLM более принципиальным образом, чтобы смягчить социальные предубеждения.

Подобные проблемы обычно можно отследить по данным, на которых обучался LLM. Если учебный корпус содержит относительно частое выражение вредных или неточных представлений об определенных социальных группах, LLM неизбежно будет воспроизводить эти предубеждения, что приведет к появлению потенциально расистского или сексистского контента.

Исследование предполагает, что тонкая настройка LLM на наборах данных, предназначенных для представления целевого языка во всем его многообразии — как это подробно описано в десятилетиях исследований в области социолингвистики — может в целом повысить общественную ценность этих систем ИИ. Исследователи также считают, что, сбалансировав обучающие данные из разных социальных групп и контекстов, можно решить проблемы, связанные с объемом данных, необходимых для обучения этих систем.

Мы считаем, что увеличение социолингвистического разнообразия обучающих данных гораздо важнее, чем простое расширение их масштабов, — добавил профессор Грив.

По всем этим причинам мы считаем, что существует явная и срочная необходимость в социолингвистическом анализе при разработке и оценке LLM.

Понимание структуры общества и того, как эта структура отражается в моделях использования языка, имеет решающее значение для максимизации преимуществ LLM для обществ, в которые они все больше внедряются». В более широком смысле, включение знаний из гуманитарных и социальных наук имеет решающее значение для разработки систем ИИ, которые будут лучше служить человечеству.

Ранее ученые сообщили о том, как ИИ прошел тест Тьюринга.

13.01.2025


Подписаться в Telegram



Net&IT

Удаленка навсегда: как бизнес адаптируется к новым реалиям
Удаленка навсегда: как бизнес адаптируется к новым реалиям

Тренд на цифровизацию и удаленную ра...

Ритейл на скорости: почему серверы стали must-have для крупных сетей
Ритейл на скорости: почему серверы стали must-have для крупных сетей

Международный облачный провайдер и систем...

Облака над Средней Азией: как регион становится IT-гигантом
Облака над Средней Азией: как регион становится IT-гигантом

Средняя Азия активно развивает IT-сферу и ...

ИИ знает, кем ты станешь: как соцсети помогают выбрать профессию
ИИ знает, кем ты станешь: как соцсети помогают выбрать профессию

Ученые из Санкт-Петербургского государств...

Риски квантовой эры: как защитить интернет от новых угроз
Риски квантовой эры: как защитить интернет от новых угроз

Квантовые вычисления больше не являются д...

Представлены новейшие разработки в области квантовых вычислений
Представлены новейшие разработки в области квантовых вычислений

Квантовые вычисления находятся в авангард...

TheInnovator: Роботы с искусственным интеллектом изменят рынок труда
TheInnovator: Роботы с искусственным интеллектом изменят рынок труда

Если компании и ИИ-стартапы, стремящиеся ...

В КАИ оснащают беспилотники компьютерным зрением
В КАИ оснащают беспилотники компьютерным зрением

Ученые университета разработали специальные пр...

Разработан реалистичный тест для оценки навыков клинического общения ИИ
Разработан реалистичный тест для оценки навыков клинического общения ИИ

Инструменты искусственного интеллекта, такие к...

Сети Wi-Fi-избавили от лишней «информационной нагрузки»
Сети Wi-Fi-избавили от лишней «информационной нагрузки»

Ученые придумали, как сделать информацию ...

Nature Human Behaviour: Заблуждение ИИ усиливает наши собственные заблуждения
Nature Human Behaviour: Заблуждение ИИ усиливает наши собственные заблуждения

Системы искусственного интеллекта склонны пере...

Новую модель для графической нейросети сделают доступной для смартфонов
Новую модель для графической нейросети сделают доступной для смартфонов

Среди множества моделей искусственного интелле...

В ННГУ научились восстанавливать функции биологических нейросетей
В ННГУ научились восстанавливать функции биологических нейросетей

Новую технологию, которая работает подобно кле...

Scientific Reports: Разработано подвижное навигационное устройство для незрячих
Scientific Reports: Разработано подвижное навигационное устройство для незрячих

Новаторская навигационная технология, использу...

Nature Communications: Аналоговые машины тоже могут обучаться
Nature Communications: Аналоговые машины тоже могут обучаться

Все думают, что машинное обучение &m...

Nature Communications: ИИ изучает язык расположения атомов в твердых телах
Nature Communications: ИИ изучает язык расположения атомов в твердых телах

Новую модель искусственного интеллекта, котора...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Невидимые враги: как ароматизаторы превращают ваш дом в угрозу для здоровья
Невидимые враги: как ароматизаторы превращают ваш дом в угрозу для здоровья
Легкие и прочные: как Al-Sc сплавы покоряют промышленность
Легкие и прочные: как Al-Sc сплавы покоряют промышленность
Cell Reports: Голодание приносит пользу взрослым, но создает риск для подростков
Cell Reports: Голодание приносит пользу взрослым, но создает риск для подростков
69 ученых, которые меняют мир: история успеха из Нижнего Новгорода
69 ученых, которые меняют мир: история успеха из Нижнего Новгорода
Как взрываются звезды: открытия, которые меняют наше представление о Вселенной
Как взрываются звезды: открытия, которые меняют наше представление о Вселенной
Спасти жизнь за минуты сможет кетамин в борьбе с эпилептическим статусом
Спасти жизнь за минуты сможет кетамин в борьбе с эпилептическим статусом
Как получить инструмент будущих инженеров бесплатно, если ты студент
Как получить инструмент будущих инженеров бесплатно, если ты студент
От шахт до чистой энергии: путь австралийской горнодобывающей промышленности
От шахт до чистой энергии: путь австралийской горнодобывающей промышленности
Больничные раковины и невидимый враг, который в них живет
Больничные раковины и невидимый враг, который в них живет
Цикорий и кобальт: дуэт против рака, бьющий точно в цель
Цикорий и кобальт: дуэт против рака, бьющий точно в цель
Без капитана, но с комфортом: в Нижнем Новгороде строят судно без экипажа
Без капитана, но с комфортом: в Нижнем Новгороде строят судно без экипажа
Лазер, графен, полимер: как создают электронику, которую можно сгибать
Лазер, графен, полимер: как создают электронику, которую можно сгибать
Ученые объединили два прибора в один, чтобы лучше анализировать газы
Ученые объединили два прибора в один, чтобы лучше анализировать газы
Световые качели: физики открыли новый способ управлять светом
Световые качели: физики открыли новый способ управлять светом
Удаленка навсегда: как бизнес адаптируется к новым реалиям
Удаленка навсегда: как бизнес адаптируется к новым реалиям

Новости компаний, релизы

Более 200 нижегородцев посетили научные кинопоказы честь Дня российской науки
Школьников и студентов Хабаровского края приглашают написать всероссийский диктант «Наука во имя Победы»
На Фестивале «Москва — Точка старта» победили проекты из МИФИ
«Десятилетие науки и технологий»: волгоградские ученые получили премии и гранты
Три представительницы Республики Татарстан стали победителями Всероссийского конкурса Знание.Лектор