![]() |
Исследователи из лондонской лаборатории Google DeepMind создали способ помечать текст, созданный искусственным интеллектом. Водяной знак распространили среди пользователей чат-ботов. Ученые создали водяной знак, о котором сообщается в журнале Nature. Он не первый среди созданных для текста, сгенерированного искусственным интеллектом, и не способен противостоять настойчивым попыткам удалить его. Но это первая масштабная демонстрация водяного знака в реальном мире. Скотт Ааронсон, специалист по информатике из Техасского университета в Остине, считает самым важным то, что систему действительно развернули. До августа он работал над водяными знаками в OpenAI — компании, создавшей ChatGPT. Определение текстов, созданных с помощью искусственного интеллекта, становится все более важным. Это поможет решить проблемы фальшивых новостей и академического списывания. Также это позволит избежать ухудшения качества будущих моделей, если их обучать на контенте, созданном ИИ. В ходе эксперимента пользователи большой языковой модели Gemini от Google оценили 20 миллионов ответов. Они не заметили разницы в качестве между текстами с водяными знаками и без них. Фуронг Хуанг, специалист по информатике из Мэрилендского университета, рад, что Google сделала этот шаг навстречу технологическому сообществу. Захар Шумайлов, ученый-компьютерщик из Кембриджского университета (Великобритания), считает, что в ближайшем будущем большинство коммерческих инструментов будут снабжены подобными водяными знаками. Выбор словПоставить водяной знак на текст сложнее, чем на изображение. В случае с текстом можно изменить только одно — сами слова. Водяной знак DeepMind под названием SynthID-Text изменяет слова, которые выбирает модель, особым образом. Этот способ можно обнаружить с помощью криптографического ключа. По сравнению с другими подходами, водяной знак DeepMind легче обнаружить, но его применение не замедляет генерацию текста. По словам Шумайлова, бывшего соавтора и брата одного из авторов исследования, этот метод превосходит схемы конкурентов по нанесению водяных знаков на LLM. Инструмент стал открытым, чтобы разработчики могли добавлять на свои модели водяные знаки. Пушмит Кохли из DeepMind надеется, что другие разработчики подхватят эту идею. Google держит ключ в секрете, поэтому пользователи не смогут обнаружить водяные знаки Gemini с помощью инструментов обнаружения. Власти считают водяные знаки действенным способом борьбы с распространением текста, созданного искусственным интеллектом. Но есть проблема: сложно обязать разработчиков использовать водяные знаки и согласовать их подходы. Исследователи из Швейцарского федерального технологического института в Цюрихе доказали, что любой водяной знак можно удалить или подделать, чтобы создать впечатление, будто текст сгенерирован ИИ. Токен-турнирDeepMind использует метод, который включает добавление водяного знака в алгоритм выборки. Это шаг в генерации текста, отдельный от основного алгоритма. LLM — это сеть ассоциаций, обученная на миллиардах слов и частей слов (лексем). Получив строку текста, модель оценивает вероятность каждой лексемы из своего словаря быть следующей в предложении. Алгоритм выборки выбирает лексему в соответствии с набором правил. Алгоритм SynthID-Text использует криптографический ключ для присвоения баллов токенам. Токены-кандидаты выбираются из распределения в зависимости от их вероятности и помещаются в «турнир». В турнире алгоритм сравнивает баллы, и побеждает тот, у кого больше баллов. Процесс продолжается до тех пор, пока не останется один токен, который будет выбран для использования в тексте. Эта схема усложняет обнаружение водяного знака, так как нужно прогнать криптографический код по тексту, чтобы найти высокие оценки, указывающие на «выигрышные» токены. Это также затрудняет удаление водяного знака. Раунды турнира можно сравнить с комбинированным замком, в котором каждый раунд — это отдельная цифра, необходимая для его разблокировки.
Авторы показали, что водяной знак можно обнаружить при работе с текстом из 200 лексем, даже если использовать второй LLM для перефразирования текста. Для более коротких строк текста водяной знак менее устойчив. Исследователи не изучали, насколько хорошо водяной знак может противостоять попыткам удаления.
Кохли надеется, что водяной знак будет полезен при использовании LLM.
28.10.2024 |
Net&IT
![]() | |
ИИ, которому можно доверять: ACHILLES объединяет технологии, этику и экологию | |
Проект ACHILLES решает самые сложные проблемы ... |
![]() | |
ИИ знает, кем ты станешь: как соцсети помогают выбрать профессию | |
Ученые из Санкт-Петербургского государств... |
![]() | |
Квантовый щит: физика меняет правила игры в цифровой безопасности | |
В цифровом мире безопасность связи &mdash... |
![]() | |
Риски квантовой эры: как защитить интернет от новых угроз | |
Квантовые вычисления больше не являются д... |
![]() | |
Новые технологии ПГУ изменят инженерное дело, строительство и машиностроение | |
В Пензенском государственном университете созд... |
![]() | |
Будущее наступило: как нейроморфные технологии могут изменить мир | |
Нейроморфные вычисления — область, ... |
![]() | |
Представлены новейшие разработки в области квантовых вычислений | |
Квантовые вычисления находятся в авангард... |
![]() | |
TheInnovator: Роботы с искусственным интеллектом изменят рынок труда | |
Если компании и ИИ-стартапы, стремящиеся ... |
![]() | |
В КАИ оснащают беспилотники компьютерным зрением | |
Ученые университета разработали специальные пр... |
![]() | |
ИИ становится носителем всех пороков человечества, включая расизм и сексизм | |
Языковые движки, на которых работает гене... |
![]() | |
Когда облака удивляют: 5 историй из техподдержки облачного провайдера | |
Международный облачный провайдер Serverspace, ... |
![]() | |
NatComm: Новая математическая модель обеспечит безопасное использование ИИ | |
Инструменты на основе искусственного инте... |
![]() | |
Разработан реалистичный тест для оценки навыков клинического общения ИИ | |
Инструменты искусственного интеллекта, такие к... |
![]() | |
Сети Wi-Fi-избавили от лишней «информационной нагрузки» | |
Ученые придумали, как сделать информацию ... |
![]() | |
Будущее наступило: квантовые технологии меняют нашу жизнь и кибербезопасность | |
Квантовые вычисления, обладающие революционным... |
![]() | |
ИИ нового поколения: машинная психология может сделать машины равными человеку | |
Искусственный интеллект, не уступающий че... |
![]() | |
Financial Analysts Journal: ChatGPT пока не может заменить финансовых спецов | |
В то время как большие языковые моде... |
![]() | |
Nature Human Behaviour: Заблуждение ИИ усиливает наши собственные заблуждения | |
Системы искусственного интеллекта склонны пере... |
![]() | |
Новую модель для графической нейросети сделают доступной для смартфонов | |
Среди множества моделей искусственного интелле... |
![]() | |
В ННГУ научились восстанавливать функции биологических нейросетей | |
Новую технологию, которая работает подобно кле... |
![]() | |
В ЛЭТИ разработали цифровой сервис с VR для обучения медицинских инженеров | |
Система SeVRis позволит инженерам учиться ремо... |
![]() | |
Scientific Reports: Разработано подвижное навигационное устройство для незрячих | |
Новаторская навигационная технология, использу... |
![]() | |
В МИФИ разработана нейросеть для расчета и синтеза голографических изображений | |
Обычно для создания оптических элементов,... |
![]() | |
NCS: Новый ИИ DIMON решает сложные инженерные задачи быстрее суперкомпьютеров | |
Моделирование того, как деформируются авт... |
![]() | |
Nature Communications: Аналоговые машины тоже могут обучаться | |
Все думают, что машинное обучение &m... |
![]() | |
Nature Communications: ИИ изучает язык расположения атомов в твердых телах | |
Новую модель искусственного интеллекта, котора... |
![]() | |
Science: Создана революционная технология, которая переписывает ДНК | |
Брайан Хи руководит Лабораторией эволюцио... |
![]() | |
Мемристоры сделают компьютеры будущего умными, как мозг | |
Новое вещество для изменения работы устро... |
![]() | |
В Японии предложили способ усовершенствовать дополненную реальность на смартфоне | |
Приложения дополненной реальности, которые раб... |
![]() | |
В МФТИ создали бота для распознавания нот | |
Студенты МФТИ создали программу под назва... |