Новое программное обеспечение позволяет изменять точку съемки и масштабировать видео без съемки нового материала

Благодаря алгоритму, разработанному исследователями из Корнельского университета и Google Research, кинематографисты вскоре смогут стабилизировать дрожащее видео, менять точку съемки, создавать эффекты стоп-кадра, масштабирования и замедленной съемки, не снимая нового материала.

Программное обеспечение, получившее название DynIBar, синтезирует новые ракурсы, используя информацию о пикселях исходного видео, и работает даже с движущимися объектами и нестабильной операторской работой. Эта работа является значительным прогрессом по сравнению с предыдущими, которые позволяли получить лишь несколько секунд видео и часто представляли движущиеся объекты размытыми или нечеткими.

Код для этой исследовательской работы находится в свободном доступе, а между тем проект все еще на ранней стадии разработки и не интегрирован в коммерческие инструменты видеомонтажа.

Несмотря на то, что данное исследование находится на ранней стадии, я очень рад возможности его применения как в личных, так и в профессиональных целях, — сказал Ной Снавели, научный сотрудник Google Research и доцент кафедры информатики Корнельского технологического института и Корнельского колледжа вычислительной техники и информационных наук имени Энн С. Бауэрс.

Снавели представил работу «DynIBaR: Neural Dynamic Image-Based Rendering», на конференции IEEE/CVF 2023 по компьютерному зрению и распознаванию образов, где она была удостоена почетного упоминания в номинации „Лучшая статья“. Ведущим автором исследования был Чжэнци Ли (Zhengqi Li), доктор философии 21-го года, сотрудник Google Research.

За последние несколько лет мы стали свидетелями значительного прогресса в области методов синтеза видов — алгоритмов, которые могут получить набор изображений, запечатлевших сцену с дискретного набора точек обзора, и создать новые виды этой сцены, — сказал Снавели.

Однако большинство из этих методов не справляются со сценами с движущимися людьми или домашними животными, качающимися деревьями и т.д. Это большая проблема, поскольку многие интересные вещи в мире — это движущиеся предметы.

Существующие методы визуализации неподвижных сцен, например, методы, позволяющие придать фотографии трехмерный вид, используют двумерную сетку пикселей изображения и восстанавливают трехмерную форму и внешний вид каждого объекта на фотографии. DynIBar делает еще один шаг вперед, оценивая также перемещение объектов во времени. Однако учет всех четырех измерений создает невероятно сложную математическую задачу.

Исследователи упростили эту задачу, используя разработанный в 1990-х годах подход к компьютерной графике, называемый рендерингом на основе изображений. В то время традиционным методам компьютерной графики было сложно визуализировать сложные сцены с большим количеством мелких деталей, например, листву дерева, поэтому исследователи разработали методы, позволяющие получать изображения сцены, а затем изменять и комбинировать детали для создания новых изображений. Таким образом, большая часть сложности сохранялась в исходном изображении и могла загружаться быстрее.

Мы использовали классическую идею рендеринга на основе изображений, и это делает наш метод способным работать с действительно сложными сценами и длинными видео, — говорит соавтор Цяньцянь Ванг, докторант в области компьютерных наук Корнельского технологического института.

Ванг разработал метод использования рендеринга на основе изображений для синтеза новых видов неподвижных изображений, на который опирается новое программное обеспечение.

Несмотря на достигнутые успехи, эти функции не скоро появятся в вашем смартфоне. Для обработки 10-20 секунд видео даже на мощном компьютере требуется несколько часов. По словам Снавели, в ближайшей перспективе эта технология может найти применение в программах для автономного редактирования видео.

Следующим препятствием будет определение того, как выводить новые изображения, когда в исходном видео отсутствует пиксельная информация, например, когда объект движется слишком быстро или пользователь хочет повернуть точку обзора на 180 градусов. Снавели и Ванг полагают, что в скором времени для восполнения этих пробелов можно будет использовать генеративные методы ИИ, например, генераторы текста в изображение.

11.07.2023


Подписаться в Telegram



Медиа

Clinical Psychological Science: Предупреждения об опасном контенте не работают
Clinical Psychological Science: Предупреждения об опасном контенте не работают

Сторонники использования триггерных предупрежд...

Cognition: люди лучше запоминают символы, чем их словесные аналоги
Cognition: люди лучше запоминают символы, чем их словесные аналоги

Повседневные символы запоминаются отлично, уве

Исследование: американские сми становятся все более предвзятыми
Исследование: американские сми становятся все более предвзятыми

Согласно результатам исследования 1,8 млн ...

Социальные сети могут и созидать, и разрушать
Социальные сети могут и созидать, и разрушать

Социальные медиа объединяют людей и усили...

Жители московского коливинга создали бренд одежды
Жители московского коливинга создали бренд одежды

В коливинге проекта Colife жители создали свой...

Неймерам на заметку: на Западе рулят женственные бренды
Неймерам на заметку: на Западе рулят женственные бренды

Ученые из университета Калгари, университ...

Каталоги с дополненной реальностью как маркетинговая стратегия будущего
Каталоги с дополненной реальностью как маркетинговая стратегия будущего

Рекламная полиграфия способна привлекать покуп...

Студия для создания 4d-съемки больше не нужна
Студия для создания 4d-съемки больше не нужна

Ученые из университета Карнеги-Меллон про...

Фактчекинг не вернет доверие к сми
Фактчекинг не вернет доверие к сми

Журналисты могут вернуть доверие к профес...

Ученые выяснили, у кого есть шансы выжить в Игре престолов
Ученые выяснили, у кого есть шансы выжить в Игре престолов

Персонажи Игры престолов с большей вероят...

Выяснилось, как полиграфия увеличивает продажи
Выяснилось, как полиграфия увеличивает продажи

В последнее время рекламная полиграфия стремит

Следи за лексиконом - и воздастся!
Следи за лексиконом - и воздастся!

В новом исследовании, основанном на психо...

Как выглядит работающий рекламный баннер
Как выглядит работающий рекламный баннер

Баннером принято называть рекламный носитель с...

В приоритете у экспертов - нейрометрическая диагностика бренда
В приоритете у экспертов - нейрометрическая диагностика бренда

01-10 июня 2015 года специалисты исследователь...

Телевизионная реклама стимулирует продажи онлайн
Телевизионная реклама стимулирует продажи онлайн

Многие телевизионные рекламодатели высказывают...

Реклама по ТВ должна быть уместной
Реклама по ТВ должна быть уместной

Грустная телевизионная драма близится к р...

Скорость просмотра имеет значение
Скорость просмотра имеет значение

Казалось бы, давно ли книги и винило...

Ученый предсказал развитие событий в Игре престолов
Ученый предсказал развитие событий в Игре престолов

Ричард Вейл из университета Кентербери в&...

В сми работает больше кофеманов, чем в других отраслях
В сми работает больше кофеманов, чем в других отраслях

Ученые подсчитали, люди каких профессий&n

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

ESA: Первые снимки Евклида показали миллиарды осиротевших звезд
ESA: Первые снимки Евклида показали миллиарды осиротевших звезд
Heliyon: Ученые нашли виновника тяжелых отравлений благодаря новому методу ПЦР
Heliyon: Ученые нашли виновника тяжелых отравлений благодаря новому методу ПЦР
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Energy Materials and Devices: Создан тандемный солнечный элемент с КПД более 20%
Energy Materials and Devices: Создан тандемный солнечный элемент с КПД более 20%
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
Nature Communications: Открыто революционное явление в жидких кристаллах
Nature Communications: Открыто революционное явление в жидких кристаллах
Current Biology: Исследование брачного поведения показывает эволюцию влечения
Current Biology: Исследование брачного поведения показывает эволюцию влечения
NatMat: Ученые из университета Райса нашли отличную альтернативу ферроэлектрикам
NatMat: Ученые из университета Райса нашли отличную альтернативу ферроэлектрикам
Nature Communications: В мигрирующих нейронах найден конус роста
Nature Communications: В мигрирующих нейронах найден конус роста
Child Development: Отношения с матерью влияют на умение дружить и растить детей
Child Development: Отношения с матерью влияют на умение дружить и растить детей
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий
New Media & Society: Геймеры находят оправдание смурфингу, хотя он их и бесит
New Media & Society: Геймеры находят оправдание смурфингу, хотя он их и бесит

Новости компаний, релизы

Ученые ТПУ выяснили, что заболевания ЦНС за последние 30 лет вышли на первое место по влиянию на здоровье населения
Физики СПбГУ и Института проблем машиноведения РАН улучшили ударопрочные характеристики нержавеющей стали
КВЗ принимает заявки на целевое обучение в проект «Крылья Ростеха»
В Петербурге снизилось количество разрушающих озоновый слой газов
Синергия виртуального сервера и облака: преимущества облачных VPS и VDS