NatComm: Новая математическая модель обеспечит безопасное использование ИИ  

Инструменты на основе искусственного интеллекта все чаще используются для отслеживания и наблюдения за нами как онлайн, так и лично, однако их эффективность сопряжена с большими рисками.

Ученые-компьютерщики из Оксфордского института интернета, Имперского колледжа Лондона и Калифорнийского университета в Лувене разработали новую математическую модель, которая может помочь людям лучше понять риски, связанные с ИИ, и помочь регулирующим органам в защите частной жизни людей.

Результаты исследования опубликованы в журнале Nature Communications.

Впервые метод обеспечивает надежную научную основу для оценки методов идентификации, особенно при работе с крупномасштабными данными. Это может включать, например, мониторинг того, насколько точно рекламный код и невидимые трекеры идентифицируют пользователей в Интернете по небольшим фрагментам информации, таким как часовой пояс или настройки браузера (метод, называемый «отпечатками пальцев браузера»).

Ведущий автор исследования доктор Люк Роше, старший научный сотрудник Оксфордского института интернета, входящего в состав Оксфордского университета, сказал:

Мы рассматриваем наш метод как новый подход, позволяющий оценить риск повторной идентификации при публикации данных, а также оценить современные методы идентификации в критических условиях с высоким уровнем риска.

В таких местах, как больницы, доставка гуманитарной помощи или пограничный контроль, ставки невероятно высоки, и необходимость в точной и надежной идентификации имеет первостепенное значение.

Метод опирается на область байесовской статистики, позволяя узнать, как можно идентифицировать человека в небольших масштабах, и экстраполировать точность идентификации на более крупные популяции до 10 раз лучше, чем предыдущие эвристики и эмпирические правила. Это дает методу уникальные возможности для оценки того, как различные методы идентификации данных будут работать в масштабе, в различных приложениях и поведенческих условиях. Это может помочь объяснить, почему некоторые методы идентификации ИИ показывают высокую точность при тестировании в небольших тематических исследованиях, но затем неправильно идентифицируют людей в реальных условиях.

Результаты исследования весьма своевременны, учитывая проблемы, возникающие с анонимностью и конфиденциальностью в связи с быстрым развитием методов идентификации на основе ИИ. Например, в настоящее время испытываются инструменты ИИ для автоматической идентификации людей по голосу в онлайн-банкинге, по глазам при оказании гуманитарной помощи или по лицу в правоохранительных органах.

По мнению исследователей, новый метод может помочь организациям найти оптимальный баланс между преимуществами технологий ИИ и необходимостью защищать личную информацию людей, делая повседневное взаимодействие с технологиями более безопасным и надежным. Метод тестирования позволяет выявить потенциальные недостатки и области для улучшения до полномасштабного внедрения, что очень важно для обеспечения безопасности и точности. 

Соавтор работы доцент Ив-Александр-де Монтжуа (Институт науки о данных, Имперский колледж, Лондон) сказал:

Наш новый закон масштабирования впервые предоставляет принципиальную математическую модель для оценки того, как методы идентификации будут работать в масштабе.

Понимание масштабируемости идентификации необходимо для оценки рисков, связанных с этими методами повторной идентификации, в том числе для обеспечения соответствия современным законам о защите данных во всем мире. 

Доктор Люк Роше заключил:

Мы считаем, что эта работа представляет собой важнейший шаг на пути к разработке принципиальных методов оценки рисков, связанных с использованием все более совершенных технологий искусственного интеллекта и природы идентификации по следам человека в Интернете.

Мы ожидаем, что эта работа окажет большую помощь исследователям, специалистам по защите данных, комитетам по этике и другим практикам, стремящимся найти баланс между обменом данными для исследований и защитой частной жизни пациентов, участников и граждан.

Ранкее ученые предложили создать новый тип сети, чтобы избежать проблем с идентификацией пользователей.

09.01.2025


Подписаться в Telegram



Net&IT

Удаленка навсегда: как бизнес адаптируется к новым реалиям
Удаленка навсегда: как бизнес адаптируется к новым реалиям

Тренд на цифровизацию и удаленную ра...

Ритейл на скорости: почему серверы стали must-have для крупных сетей
Ритейл на скорости: почему серверы стали must-have для крупных сетей

Международный облачный провайдер и систем...

Облака над Средней Азией: как регион становится IT-гигантом
Облака над Средней Азией: как регион становится IT-гигантом

Средняя Азия активно развивает IT-сферу и ...

ИИ знает, кем ты станешь: как соцсети помогают выбрать профессию
ИИ знает, кем ты станешь: как соцсети помогают выбрать профессию

Ученые из Санкт-Петербургского государств...

Риски квантовой эры: как защитить интернет от новых угроз
Риски квантовой эры: как защитить интернет от новых угроз

Квантовые вычисления больше не являются д...

Представлены новейшие разработки в области квантовых вычислений
Представлены новейшие разработки в области квантовых вычислений

Квантовые вычисления находятся в авангард...

TheInnovator: Роботы с искусственным интеллектом изменят рынок труда
TheInnovator: Роботы с искусственным интеллектом изменят рынок труда

Если компании и ИИ-стартапы, стремящиеся ...

В КАИ оснащают беспилотники компьютерным зрением
В КАИ оснащают беспилотники компьютерным зрением

Ученые университета разработали специальные пр...

Разработан реалистичный тест для оценки навыков клинического общения ИИ
Разработан реалистичный тест для оценки навыков клинического общения ИИ

Инструменты искусственного интеллекта, такие к...

Сети Wi-Fi-избавили от лишней «информационной нагрузки»
Сети Wi-Fi-избавили от лишней «информационной нагрузки»

Ученые придумали, как сделать информацию ...

Nature Human Behaviour: Заблуждение ИИ усиливает наши собственные заблуждения
Nature Human Behaviour: Заблуждение ИИ усиливает наши собственные заблуждения

Системы искусственного интеллекта склонны пере...

Новую модель для графической нейросети сделают доступной для смартфонов
Новую модель для графической нейросети сделают доступной для смартфонов

Среди множества моделей искусственного интелле...

В ННГУ научились восстанавливать функции биологических нейросетей
В ННГУ научились восстанавливать функции биологических нейросетей

Новую технологию, которая работает подобно кле...

Scientific Reports: Разработано подвижное навигационное устройство для незрячих
Scientific Reports: Разработано подвижное навигационное устройство для незрячих

Новаторская навигационная технология, использу...

Nature Communications: Аналоговые машины тоже могут обучаться
Nature Communications: Аналоговые машины тоже могут обучаться

Все думают, что машинное обучение &m...

Nature Communications: ИИ изучает язык расположения атомов в твердых телах
Nature Communications: ИИ изучает язык расположения атомов в твердых телах

Новую модель искусственного интеллекта, котора...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Невидимые враги: как ароматизаторы превращают ваш дом в угрозу для здоровья
Невидимые враги: как ароматизаторы превращают ваш дом в угрозу для здоровья
Легкие и прочные: как Al-Sc сплавы покоряют промышленность
Легкие и прочные: как Al-Sc сплавы покоряют промышленность
Cell Reports: Голодание приносит пользу взрослым, но создает риск для подростков
Cell Reports: Голодание приносит пользу взрослым, но создает риск для подростков
69 ученых, которые меняют мир: история успеха из Нижнего Новгорода
69 ученых, которые меняют мир: история успеха из Нижнего Новгорода
Спасти жизнь за минуты сможет кетамин в борьбе с эпилептическим статусом
Спасти жизнь за минуты сможет кетамин в борьбе с эпилептическим статусом
Как взрываются звезды: открытия, которые меняют наше представление о Вселенной
Как взрываются звезды: открытия, которые меняют наше представление о Вселенной
Как получить инструмент будущих инженеров бесплатно, если ты студент
Как получить инструмент будущих инженеров бесплатно, если ты студент
От шахт до чистой энергии: путь австралийской горнодобывающей промышленности
От шахт до чистой энергии: путь австралийской горнодобывающей промышленности
Больничные раковины и невидимый враг, который в них живет
Больничные раковины и невидимый враг, который в них живет
Цикорий и кобальт: дуэт против рака, бьющий точно в цель
Цикорий и кобальт: дуэт против рака, бьющий точно в цель
Без капитана, но с комфортом: в Нижнем Новгороде строят судно без экипажа
Без капитана, но с комфортом: в Нижнем Новгороде строят судно без экипажа
Лазер, графен, полимер: как создают электронику, которую можно сгибать
Лазер, графен, полимер: как создают электронику, которую можно сгибать
Ученые объединили два прибора в один, чтобы лучше анализировать газы
Ученые объединили два прибора в один, чтобы лучше анализировать газы
Световые качели: физики открыли новый способ управлять светом
Световые качели: физики открыли новый способ управлять светом
Удаленка навсегда: как бизнес адаптируется к новым реалиям
Удаленка навсегда: как бизнес адаптируется к новым реалиям

Новости компаний, релизы

Более 200 нижегородцев посетили научные кинопоказы честь Дня российской науки
Школьников и студентов Хабаровского края приглашают написать всероссийский диктант «Наука во имя Победы»
На Фестивале «Москва — Точка старта» победили проекты из МИФИ
Молодых и заслуженных ученых наградили в Хабаровске
Калужан приглашают к участию в XIII сезоне Международного инженерного чемпионата CASE-IN