Новое программное обеспечение позволяет изменять точку съемки и масштабировать видео без съемки нового материала

Благодаря алгоритму, разработанному исследователями из Корнельского университета и Google Research, кинематографисты вскоре смогут стабилизировать дрожащее видео, менять точку съемки, создавать эффекты стоп-кадра, масштабирования и замедленной съемки, не снимая нового материала.

Программное обеспечение, получившее название DynIBar, синтезирует новые ракурсы, используя информацию о пикселях исходного видео, и работает даже с движущимися объектами и нестабильной операторской работой. Эта работа является значительным прогрессом по сравнению с предыдущими, которые позволяли получить лишь несколько секунд видео и часто представляли движущиеся объекты размытыми или нечеткими.

Код для этой исследовательской работы находится в свободном доступе, а между тем проект все еще на ранней стадии разработки и не интегрирован в коммерческие инструменты видеомонтажа.

Несмотря на то, что данное исследование находится на ранней стадии, я очень рад возможности его применения как в личных, так и в профессиональных целях, — сказал Ной Снавели, научный сотрудник Google Research и доцент кафедры информатики Корнельского технологического института и Корнельского колледжа вычислительной техники и информационных наук имени Энн С. Бауэрс.

Снавели представил работу «DynIBaR: Neural Dynamic Image-Based Rendering», на конференции IEEE/CVF 2023 по компьютерному зрению и распознаванию образов, где она была удостоена почетного упоминания в номинации „Лучшая статья“. Ведущим автором исследования был Чжэнци Ли (Zhengqi Li), доктор философии 21-го года, сотрудник Google Research.

За последние несколько лет мы стали свидетелями значительного прогресса в области методов синтеза видов — алгоритмов, которые могут получить набор изображений, запечатлевших сцену с дискретного набора точек обзора, и создать новые виды этой сцены, — сказал Снавели.

Однако большинство из этих методов не справляются со сценами с движущимися людьми или домашними животными, качающимися деревьями и т.д. Это большая проблема, поскольку многие интересные вещи в мире — это движущиеся предметы.

Существующие методы визуализации неподвижных сцен, например, методы, позволяющие придать фотографии трехмерный вид, используют двумерную сетку пикселей изображения и восстанавливают трехмерную форму и внешний вид каждого объекта на фотографии. DynIBar делает еще один шаг вперед, оценивая также перемещение объектов во времени. Однако учет всех четырех измерений создает невероятно сложную математическую задачу.

Исследователи упростили эту задачу, используя разработанный в 1990-х годах подход к компьютерной графике, называемый рендерингом на основе изображений. В то время традиционным методам компьютерной графики было сложно визуализировать сложные сцены с большим количеством мелких деталей, например, листву дерева, поэтому исследователи разработали методы, позволяющие получать изображения сцены, а затем изменять и комбинировать детали для создания новых изображений. Таким образом, большая часть сложности сохранялась в исходном изображении и могла загружаться быстрее.

Мы использовали классическую идею рендеринга на основе изображений, и это делает наш метод способным работать с действительно сложными сценами и длинными видео, — говорит соавтор Цяньцянь Ванг, докторант в области компьютерных наук Корнельского технологического института.

Ванг разработал метод использования рендеринга на основе изображений для синтеза новых видов неподвижных изображений, на который опирается новое программное обеспечение.

Несмотря на достигнутые успехи, эти функции не скоро появятся в вашем смартфоне. Для обработки 10-20 секунд видео даже на мощном компьютере требуется несколько часов. По словам Снавели, в ближайшей перспективе эта технология может найти применение в программах для автономного редактирования видео.

Следующим препятствием будет определение того, как выводить новые изображения, когда в исходном видео отсутствует пиксельная информация, например, когда объект движется слишком быстро или пользователь хочет повернуть точку обзора на 180 градусов. Снавели и Ванг полагают, что в скором времени для восполнения этих пробелов можно будет использовать генеративные методы ИИ, например, генераторы текста в изображение.

11.07.2023


Подписаться в Telegram



Медиа

PNAS: ИИ помогает находить, но не учит отличать фейковые новости
PNAS: ИИ помогает находить, но не учит отличать фейковые новости

Многие технологические компании и стартап...

Clinical Psychological Science: Предупреждения об опасном контенте не работают
Clinical Psychological Science: Предупреждения об опасном контенте не работают

Сторонники использования триггерных предупрежд...

Cognition: люди лучше запоминают символы, чем их словесные аналоги
Cognition: люди лучше запоминают символы, чем их словесные аналоги

Повседневные символы запоминаются отлично, уве

Исследование: американские сми становятся все более предвзятыми
Исследование: американские сми становятся все более предвзятыми

Согласно результатам исследования 1,8 млн ...

Социальные сети могут и созидать, и разрушать
Социальные сети могут и созидать, и разрушать

Социальные медиа объединяют людей и усили...

Жители московского коливинга создали бренд одежды
Жители московского коливинга создали бренд одежды

В коливинге проекта Colife жители создали свой...

Неймерам на заметку: на Западе рулят женственные бренды
Неймерам на заметку: на Западе рулят женственные бренды

Ученые из университета Калгари, университ...

Каталоги с дополненной реальностью как маркетинговая стратегия будущего
Каталоги с дополненной реальностью как маркетинговая стратегия будущего

Рекламная полиграфия способна привлекать покуп...

Студия для создания 4d-съемки больше не нужна
Студия для создания 4d-съемки больше не нужна

Ученые из университета Карнеги-Меллон про...

Фактчекинг не вернет доверие к сми
Фактчекинг не вернет доверие к сми

Журналисты могут вернуть доверие к профес...

Ученые выяснили, у кого есть шансы выжить в Игре престолов
Ученые выяснили, у кого есть шансы выжить в Игре престолов

Персонажи Игры престолов с большей вероят...

Выяснилось, как полиграфия увеличивает продажи
Выяснилось, как полиграфия увеличивает продажи

В последнее время рекламная полиграфия стремит

Следи за лексиконом - и воздастся!
Следи за лексиконом - и воздастся!

В новом исследовании, основанном на психо...

Как выглядит работающий рекламный баннер
Как выглядит работающий рекламный баннер

Баннером принято называть рекламный носитель с...

В приоритете у экспертов - нейрометрическая диагностика бренда
В приоритете у экспертов - нейрометрическая диагностика бренда

01-10 июня 2015 года специалисты исследователь...

Телевизионная реклама стимулирует продажи онлайн
Телевизионная реклама стимулирует продажи онлайн

Многие телевизионные рекламодатели высказывают...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Биолог КФУ развеял популярные мифы и заблуждения о растениях
Биолог КФУ развеял популярные мифы и заблуждения о растениях
Разработан портативный биопринтер для борьбы с незаживающими ранами
Разработан портативный биопринтер для борьбы с незаживающими ранами
В России разработан материал для сверхбыстрых сенсоров
В России разработан материал для сверхбыстрых сенсоров
На МКС впервые изготовили 3d-аналоги костной ткани
На МКС впервые изготовили 3d-аналоги костной ткани
HortRes: Два ключевых белка повышают эффективность усвоения томатами фосфора
HortRes: Два ключевых белка повышают эффективность усвоения томатами фосфора
Перерабатываемые электроды из CuZn изменят технологии сокращения выбросов CO₂
Перерабатываемые электроды из CuZn изменят технологии сокращения выбросов CO₂
JNHA: Плотный завтрак снижает риск сердечно-сосудистых заболеваний
JNHA: Плотный завтрак снижает риск сердечно-сосудистых заболеваний
PRSB: Новая система выявляет проблемы на рынках кредитования биоразнообразия
PRSB: Новая система выявляет проблемы на рынках кредитования биоразнообразия
NewAst: Высокоскоростные облака составляют меньшую часть массы Млечного Пути
NewAst: Высокоскоростные облака составляют меньшую часть массы Млечного Пути
ChildDev: Выбор языка матерью оказывает двойное влияние на двуязычные семьи
ChildDev: Выбор языка матерью оказывает двойное влияние на двуязычные семьи
CommEngi: Разработано покрытие для улучшенного тепловидения через горячие окна
CommEngi: Разработано покрытие для улучшенного тепловидения через горячие окна
PRSB: Исследование показало различную эволюцию челюстей у ящериц и змей
PRSB: Исследование показало различную эволюцию челюстей у ящериц и змей
В СПбГУ с помощью кишечной палочки раскрыли механизмы контроля синтеза аргинина
В СПбГУ с помощью кишечной палочки раскрыли механизмы контроля синтеза аргинина
Conservation Letters: Дружба на расстоянии полезна для природы
Conservation Letters: Дружба на расстоянии полезна для природы
Золото в новом формате: ученые создали двумерные монослои золота для катализа
Золото в новом формате: ученые создали двумерные монослои золота для катализа

Новости компаний, релизы

В МИФИ наградили лучшие студенческие научные общества
Лучшие программы для преобразования звука в текст
Пироговский университет стал победителем премии «Сноба» «Сделано в России»
ТГУ готовит специалистов для российской электронной промышленности
Наука во льдах и за партой: молодые ученые Поморья проводят для школьников и студентов необычные лекции