В 40% случаев люди ошибочно называют сгенерированное фото человека реальным

Если вам недавно было трудно понять, является ли изображение человека реальным или сгенерированным с помощью искусственного интеллекта, или ИИ, то вы не одиноки.

Новое исследование, проведенное учеными Университета Ватерлоо, показало, что людям сложнее, чем ожидалось, отличить, кто является реальным человеком, а кто — искусственно созданным.

В исследовании, проведенном в Ватерлоо, 260 участникам было предоставлено 20 немаркированных фотографий: 10 из них были реальными людьми, полученными из поиска Google, а остальные 10 были сгенерированы Stable Diffusion или DALL-E, двумя широко используемыми программами искусственного интеллекта, которые генерируют изображения.

Участников попросили обозначить каждое изображение как реальное или сгенерированное ИИ и объяснить, почему они приняли такое решение. Только 61% участников смогли отличить людей, сгенерированных ИИ, от настоящих, что гораздо ниже порога в 85%, на который рассчитывали исследователи.

Люди не так хорошо умеют различать людей, как им кажется, — говорит Андреа Покол, кандидат наук в области компьютерных наук в Университете Ватерлоо и ведущий автор исследования.

Участники обращали внимание на такие детали, как пальцы, зубы и глаза, как на возможные индикаторы при поиске контента, созданного ИИ, но их оценки не всегда были верными.

Покол отметил, что характер исследования позволил участникам тщательно изучить фотографии, в то время как большинство пользователей Интернета смотрят на изображения мимоходом.

Люди, которые просто пролистывают страницы или у которых нет времени, не улавливают этих признаков, — сказал Покол.

Покол добавил, что чрезвычайно быстрые темпы развития технологий ИИ делают особенно сложным понимание потенциала вредоносных или злонамеренных действий, создаваемых ИИ-изображениями. Темпы академических исследований и законодательства часто не успевают за ними: С момента начала исследования в конце 2022 года генерируемые ИИ изображения стали еще более реалистичными. Например, изображение в этой статье сгенерировала нейросеть.

Генерируемые ИИ изображения представляют особую угрозу в качестве политического и культурного инструмента, с помощью которого любой пользователь может создать поддельные изображения публичных фигур в неловких или компрометирующих ситуациях.

Дезинформация не нова, но инструменты дезинформации постоянно меняются и развиваются, — заключает Покол.

Может наступить момент, когда люди, как бы они ни были обучены, все равно будут с трудом отличать настоящие изображения от подделок. Вот почему нам необходимо разработать инструменты для выявления и противодействия этому. Это похоже на новую гонку вооружений ИИ.

06.03.2024


Подписаться в Telegram



Net&IT

Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр
Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр

В сериале Звездный путь: Следующее поколение к...

Physical Review X: Сеть квантовых датчиков повышает точность измерений
Physical Review X: Сеть квантовых датчиков повышает точность измерений

Квантовые системы, используемые в квантов...

Scientific Reports: ИИ показал больший творческий потенциал, чем человек
Scientific Reports: ИИ показал больший творческий потенциал, чем человек

Еще один балл в пользу искусственного инт...

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

ESA: Первые снимки Евклида показали миллиарды осиротевших звезд
ESA: Первые снимки Евклида показали миллиарды осиротевших звезд
Heliyon: Ученые нашли виновника тяжелых отравлений благодаря новому методу ПЦР
Heliyon: Ученые нашли виновника тяжелых отравлений благодаря новому методу ПЦР
Energy Materials and Devices: Создан тандемный солнечный элемент с КПД более 20%
Energy Materials and Devices: Создан тандемный солнечный элемент с КПД более 20%
Child Development: Отношения с матерью влияют на умение дружить и растить детей
Child Development: Отношения с матерью влияют на умение дружить и растить детей
EMBO Reports: Растения-однолюбы находят одного партнера на всю жизнь
EMBO Reports: Растения-однолюбы находят одного партнера на всю жизнь
New Media & Society: Геймеры находят оправдание смурфингу, хотя он их и бесит
New Media & Society: Геймеры находят оправдание смурфингу, хотя он их и бесит
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
Nature Communications: Открыто революционное явление в жидких кристаллах
Nature Communications: Открыто революционное явление в жидких кристаллах
Current Biology: Исследование брачного поведения показывает эволюцию влечения
Current Biology: Исследование брачного поведения показывает эволюцию влечения
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
Nature Communications: В мигрирующих нейронах найден конус роста
Nature Communications: В мигрирующих нейронах найден конус роста
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий

Новости компаний, релизы

Физики СПбГУ и Института проблем машиноведения РАН улучшили ударопрочные характеристики нержавеющей стали
КВЗ принимает заявки на целевое обучение в проект «Крылья Ростеха»
Ученые СПбГУ смоделировали сценарии появления таликов в вечной мерзлоте Антарктиды
Треть работодателей тратят на адаптацию одного нового сотрудника до 100 тысяч рублей
Палеонтолог СПбГУ описал новый вид динозавров-бегунов из Кемеровской области