Искусственный интеллект стремительно проникает во все сферы жизни и промышленности. Сделать ИИ безопасным и заслуживающим доверия — задача для всего мира. Корейские исследователи в этом вопросе выходят на лидирующие позиции: они возглавили разработку двух ключевых международных стандартов.

Научно-исследовательский институт электроники и телекоммуникаций (ETRI) сообщил, что передал в Международную организацию по стандартизации (ISO/IEC) два предложения. Первое касается метода «тестирования красной командой» для ИИ. Второе — этикетки достоверности, которая поможет обычным людям легко понять, насколько можно доверять той или иной нейросети. Оба стандарта уже начали активно разрабатывать. Благодаря этому Корея перестала быть просто „быстрым последователем“ чужих технологий. Теперь она задаёт правила игры в эпоху ИИ.

Что такое тестирование красной командой

Это агрессивный метод поиска уязвимостей. Представьте, что специалисты намеренно пытаются взломать систему, обойти защиту или заставить нейросеть ошибаться. Например, они проверяют, сможет ли генеративная модель выдать опасную или ложную информацию, несмотря на встроенные ограничения. ETRI выступает редактором международного стандарта ISO/IEC 42119-7. Это означает, что институт создаёт общие процедуры и методы проверки, которые подойдут для медицины, финансов, оборонной промышленности и любых других областей.

В начале сентября (4–5 числа) ETRI вместе с Министерством по безопасности пищевых продуктов и лекарств провели в отеле «Новотель Сеул Тондэмун» первое в Корее соревнование по взлому умных медицинских устройств. Там врачи, специалисты по кибербезопасности и обычные люди искали ошибки и риски в алгоритмах. Это первое подобное мероприятие в Азии. Также ETRI налаживает сотрудничество с медицинским центром „Асан“ в Сеуле, чтобы создать специальную методику проверки для цифровых медицинских продуктов. Институт уже объединился в совет с крупными компаниями: STA, Naver, Upstage, SelectStar, KT, LG AI Research Institute — все они помогают с международной стандартизацией тестирования красной командой.

Второй ключевой стандарт — этикетки достоверности. Их можно сравнить с табличкой калорийности на продуктах. Потребитель одним взглядом видит, насколько надёжна система ИИ. ETRI возглавляет разработку серии стандартов ISO/IEC 42117. Эти стандарты допускают разные варианты: компания может сама заполнить этикетку или пройти проверку в сторонней организации. В планах ETRI — добавить туда и факторы ESG, например углеродный след нейросети.

Эти стандарты отлично сочетаются с международным стандартом ISO/IEC 42001 (система управления ИИ). Вместе они создают готовую рамку: организациям будет понятно, как доказать, что их продукты и услуги действительно заслуживают доверия. Оба стандарта поддерживают государственную стратегию Кореи по развитию суверенного ИИ и выходу в тройку мировых лидеров (ИИ G3). Это не просто технологическое превосходство, а практический вклад в гонку за создание глобальных правил для искусственного интеллекта.

Руководитель проекта при институте планирования и оценки информационных технологий (IITP) Ким Ук сказал:

Если мы сделаем ИИ безопасным и надёжным, им будет легче пользоваться каждому человеку. А то, что мы сейчас возглавили разработку международных стандартов — это поворотная точка. Корея становится страной, которая сама задаёт нормы для ИИ.

Эта работа принесёт реальную пользу в двух направлениях. Во-первых, для самих разработчиков. Появятся чёткие, единые критерии проверки нейросетей на уязвимости. Сейчас каждый крупный игрок тестирует ИИ по-своему, а небольшие компании часто вообще не знают, с какой стороны подступиться к безопасности. Единые стандарты снизят порог входа и позволят сравнивать системы между собой. Во-вторых, для обычных людей. Этикетка достоверности — это как знак качества, но с деталями. Покупая программу с такой маркировкой, человек будет примерно понимать, насколько можно верить её ответам. В медицине, финансах и юриспруденции это критически важно. Кроме того, метод красной команды поможет заранее находить неочевидные сценарии сбоев — например, когда нейросеть отказывает в услуге конкретной группе людей из-за перекоса в данных. В итоге это снизит число громких инцидентов, подрывающих доверие ко всему полю ИИ.

• Слабое место всех таких инициатив — скорость. Пока международный стандарт пройдёт все согласования, утверждения и начнёт внедряться, технология ИИ уйдёт вперёд на несколько поколений. Корейские исследователи рискуют зафиксировать методы проверки, которые уже через два года будут считаться устаревшими.
• Второй момент — добровольность. Стандарты ISO обычно не имеют прямой юридической силы. Компании могут спокойно их игнорировать, особенно если маркировка окажется невыгодной. Самые опасные игроки, которые скрывают реальные риски своих систем, скорее всего, не станут проходить честную сертификацию.
• И третий нюанс — перекос в сторону крупных корпораций. В совет приглашены Naver, KT, LG — это гиганты. Их методики могут не подойти маленьким стартапам, у которых нет ресурсов на полноценное тестирование красной командой. Получится стандарт для богатых, а не для всех.

Ранее ученые выяснили, насколько этичным считают использование ИИ в мире.