Программное обеспечение, получившее название DynIBar, синтезирует новые ракурсы, используя информацию о пикселях исходного видео, и работает даже с движущимися объектами и нестабильной операторской работой. Эта работа является значительным прогрессом по сравнению с предыдущими, которые позволяли получить лишь несколько секунд видео и часто представляли движущиеся объекты размытыми или нечеткими.

Код для этой исследовательской работы находится в свободном доступе, а между тем проект все еще на ранней стадии разработки и не интегрирован в коммерческие инструменты видеомонтажа.

Несмотря на то, что данное исследование находится на ранней стадии, я очень рад возможности его применения как в личных, так и в профессиональных целях, — сказал Ной Снавели, научный сотрудник Google Research и доцент кафедры информатики Корнельского технологического института и Корнельского колледжа вычислительной техники и информационных наук имени Энн С. Бауэрс.

Снавели представил работу «DynIBaR: Neural Dynamic Image-Based Rendering», на конференции IEEE/CVF 2023 по компьютерному зрению и распознаванию образов, где она была удостоена почетного упоминания в номинации „Лучшая статья“. Ведущим автором исследования был Чжэнци Ли (Zhengqi Li), доктор философии 21-го года, сотрудник Google Research.

За последние несколько лет мы стали свидетелями значительного прогресса в области методов синтеза видов — алгоритмов, которые могут получить набор изображений, запечатлевших сцену с дискретного набора точек обзора, и создать новые виды этой сцены, — сказал Снавели.

Однако большинство из этих методов не справляются со сценами с движущимися людьми или домашними животными, качающимися деревьями и т.д. Это большая проблема, поскольку многие интересные вещи в мире — это движущиеся предметы.

Существующие методы визуализации неподвижных сцен, например, методы, позволяющие придать фотографии трехмерный вид, используют двумерную сетку пикселей изображения и восстанавливают трехмерную форму и внешний вид каждого объекта на фотографии. DynIBar делает еще один шаг вперед, оценивая также перемещение объектов во времени. Однако учет всех четырех измерений создает невероятно сложную математическую задачу.

Исследователи упростили эту задачу, используя разработанный в 1990-х годах подход к компьютерной графике, называемый рендерингом на основе изображений. В то время традиционным методам компьютерной графики было сложно визуализировать сложные сцены с большим количеством мелких деталей, например, листву дерева, поэтому исследователи разработали методы, позволяющие получать изображения сцены, а затем изменять и комбинировать детали для создания новых изображений. Таким образом, большая часть сложности сохранялась в исходном изображении и могла загружаться быстрее.

Мы использовали классическую идею рендеринга на основе изображений, и это делает наш метод способным работать с действительно сложными сценами и длинными видео, — говорит соавтор Цяньцянь Ванг, докторант в области компьютерных наук Корнельского технологического института.

Ванг разработал метод использования рендеринга на основе изображений для синтеза новых видов неподвижных изображений, на который опирается новое программное обеспечение.

Несмотря на достигнутые успехи, эти функции не скоро появятся в вашем смартфоне. Для обработки 10-20 секунд видео даже на мощном компьютере требуется несколько часов. По словам Снавели, в ближайшей перспективе эта технология может найти применение в программах для автономного редактирования видео.

Следующим препятствием будет определение того, как выводить новые изображения, когда в исходном видео отсутствует пиксельная информация, например, когда объект движется слишком быстро или пользователь хочет повернуть точку обзора на 180 градусов. Снавели и Ванг полагают, что в скором времени для восполнения этих пробелов можно будет использовать генеративные методы ИИ, например, генераторы текста в изображение.