Новое программное обеспечение позволяет изменять точку съемки и масштабировать видео без съемки нового материала

Благодаря алгоритму, разработанному исследователями из Корнельского университета и Google Research, кинематографисты вскоре смогут стабилизировать дрожащее видео, менять точку съемки, создавать эффекты стоп-кадра, масштабирования и замедленной съемки, не снимая нового материала.

Программное обеспечение, получившее название DynIBar, синтезирует новые ракурсы, используя информацию о пикселях исходного видео, и работает даже с движущимися объектами и нестабильной операторской работой. Эта работа является значительным прогрессом по сравнению с предыдущими, которые позволяли получить лишь несколько секунд видео и часто представляли движущиеся объекты размытыми или нечеткими.

Код для этой исследовательской работы находится в свободном доступе, а между тем проект все еще на ранней стадии разработки и не интегрирован в коммерческие инструменты видеомонтажа.

Несмотря на то, что данное исследование находится на ранней стадии, я очень рад возможности его применения как в личных, так и в профессиональных целях, — сказал Ной Снавели, научный сотрудник Google Research и доцент кафедры информатики Корнельского технологического института и Корнельского колледжа вычислительной техники и информационных наук имени Энн С. Бауэрс.

Снавели представил работу «DynIBaR: Neural Dynamic Image-Based Rendering», на конференции IEEE/CVF 2023 по компьютерному зрению и распознаванию образов, где она была удостоена почетного упоминания в номинации „Лучшая статья“. Ведущим автором исследования был Чжэнци Ли (Zhengqi Li), доктор философии 21-го года, сотрудник Google Research.

За последние несколько лет мы стали свидетелями значительного прогресса в области методов синтеза видов — алгоритмов, которые могут получить набор изображений, запечатлевших сцену с дискретного набора точек обзора, и создать новые виды этой сцены, — сказал Снавели.

Однако большинство из этих методов не справляются со сценами с движущимися людьми или домашними животными, качающимися деревьями и т.д. Это большая проблема, поскольку многие интересные вещи в мире — это движущиеся предметы.

Существующие методы визуализации неподвижных сцен, например, методы, позволяющие придать фотографии трехмерный вид, используют двумерную сетку пикселей изображения и восстанавливают трехмерную форму и внешний вид каждого объекта на фотографии. DynIBar делает еще один шаг вперед, оценивая также перемещение объектов во времени. Однако учет всех четырех измерений создает невероятно сложную математическую задачу.

Исследователи упростили эту задачу, используя разработанный в 1990-х годах подход к компьютерной графике, называемый рендерингом на основе изображений. В то время традиционным методам компьютерной графики было сложно визуализировать сложные сцены с большим количеством мелких деталей, например, листву дерева, поэтому исследователи разработали методы, позволяющие получать изображения сцены, а затем изменять и комбинировать детали для создания новых изображений. Таким образом, большая часть сложности сохранялась в исходном изображении и могла загружаться быстрее.

Мы использовали классическую идею рендеринга на основе изображений, и это делает наш метод способным работать с действительно сложными сценами и длинными видео, — говорит соавтор Цяньцянь Ванг, докторант в области компьютерных наук Корнельского технологического института.

Ванг разработал метод использования рендеринга на основе изображений для синтеза новых видов неподвижных изображений, на который опирается новое программное обеспечение.

Несмотря на достигнутые успехи, эти функции не скоро появятся в вашем смартфоне. Для обработки 10-20 секунд видео даже на мощном компьютере требуется несколько часов. По словам Снавели, в ближайшей перспективе эта технология может найти применение в программах для автономного редактирования видео.

Следующим препятствием будет определение того, как выводить новые изображения, когда в исходном видео отсутствует пиксельная информация, например, когда объект движется слишком быстро или пользователь хочет повернуть точку обзора на 180 градусов. Снавели и Ванг полагают, что в скором времени для восполнения этих пробелов можно будет использовать генеративные методы ИИ, например, генераторы текста в изображение.

11.07.2023

Подписаться: Телеграм | Дзен | Вконтакте


Медиа

Как цифровые двойники помогают брендам стать лидерами
Как цифровые двойники помогают брендам стать лидерами

Новое исследование Университета Суррея показал...

Грибы-убийцы: сериал «Одни из нас» рассказывает о реальной угрозе
Грибы-убийцы: сериал «Одни из нас» рассказывает о реальной угрозе

В трейлере сериала HBO грибок кордицепс заража...

PNAS: ИИ помогает находить, но не учит отличать фейковые новости
PNAS: ИИ помогает находить, но не учит отличать фейковые новости

Многие технологические компании и стартап...

Clinical Psychological Science: Предупреждения об опасном контенте не работают
Clinical Psychological Science: Предупреждения об опасном контенте не работают

Сторонники использования триггерных предупрежд...

Cognition: люди лучше запоминают символы, чем их словесные аналоги
Cognition: люди лучше запоминают символы, чем их словесные аналоги

Повседневные символы запоминаются отлично, уве

Исследование: американские сми становятся все более предвзятыми
Исследование: американские сми становятся все более предвзятыми

Согласно результатам исследования 1,8 млн ...

Социальные сети могут и созидать, и разрушать
Социальные сети могут и созидать, и разрушать

Социальные медиа объединяют людей и усили...

Жители московского коливинга создали бренд одежды
Жители московского коливинга создали бренд одежды

В коливинге проекта Colife жители создали свой...

Неймерам на заметку: на Западе рулят женственные бренды
Неймерам на заметку: на Западе рулят женственные бренды

Ученые из университета Калгари, университ...

Каталоги с дополненной реальностью как маркетинговая стратегия будущего
Каталоги с дополненной реальностью как маркетинговая стратегия будущего

Рекламная полиграфия способна привлекать покуп...

Студия для создания 4d-съемки больше не нужна
Студия для создания 4d-съемки больше не нужна

Ученые из университета Карнеги-Меллон про...

Поиск на сайте

ТОП - Новости мира, инновации

Компьютерная симуляция раскрывает тайны космической турбулентности
Компьютерная симуляция раскрывает тайны космической турбулентности
Ученые нашли материал, который ловит CO₂ даже во влажном воздухе
Ученые нашли материал, который ловит CO₂ даже во влажном воздухе
Ученые выяснили, как именно вегетарианцы не любят мясо
Ученые выяснили, как именно вегетарианцы не любят мясо
Радуга в клетке: ученые укротили цветовой хаос в AR-очках
Радуга в клетке: ученые укротили цветовой хаос в AR-очках
Запутанная арифметика: сколько частиц нужно, чтобы измерить то, чего нет
Запутанная арифметика: сколько частиц нужно, чтобы измерить то, чего нет
Ученые предложили управлять тараканами с помощью ультрафиолета
Ученые предложили управлять тараканами с помощью ультрафиолета
Лишние узлы — долой: нейросеть научилась видеть главное в графах
Лишние узлы — долой: нейросеть научилась видеть главное в графах
Деревья закрывают устьица раньше, чем считалось, чтобы сохранить рост
Деревья закрывают устьица раньше, чем считалось, чтобы сохранить рост
Зациклились: почему бизнес перестает выбрасывать деньги на ветер
Зациклились: почему бизнес перестает выбрасывать деньги на ветер
Гриб, который заменит пластик: мицелий стал материалом будущего
Гриб, который заменит пластик: мицелий стал материалом будущего

Новости компаний, релизы

Бактерии против грибов: как наука защищает картофель без химии
Овцы вместо мышей: как ученые нашли новый способ тестировать материалы для зубов
Пробирки, зелень и взрывы: фестиваль для тех, кто любит науку
Ход конем: в Шагонаре прошел первый шахматный турнир для дошколят
Якутия и Амурская область запускают гонки дронов