🗊3D EQUALIZER the cuting edge of matchmoving. - презентация

Введение Создание большинства современных спецэффектов было бы невозможно без совмещения движения и геометрии сцены виртуальной со сценой реальной. Технология, давшая возможность совмещать реальный и виртуальный миры получила название "match moving".

Терминология Match moving ("camera tracking", "3d tracking", "3d tracing") – это процесс вычисления трехмерной траектории камеры и ее параметров, а так же положений объектов в сцене (в том числе, и движущихся) на основе уже отснятых изображений. Match moving является разделом проективной геометрии. Трэкинг – процесс автоматического отслеживания точки или серии точек в изображении от кадра к кадру. Сама концепция трэкинга появилась в американском министерстве обороны в начале 80-х годов. Первый опыт применения трэкинга в VFX состоялся в 1985 году в серии рекламных роликов для National Geographic. Проективная геометрия – это раздел геометрии, изучающий проективные свойства фигуры (в частности, проекция на плоскость – плоскостная проективная геометрия). Проективная геометрия появилась в 4 веке до нашей эры, а ее законы позволяют создавать сложные визуальные эффекты в наши дни.

Этапы развития технологии Этап 1. Руки, руки, и еще раз руки. На этом этапе существовал только один способ совмещения – ручной. В данном случае, профессиональный matchmover успевал делать трэкинг 50-60 кадров в день и при этом трэкинг не был точным.

Этапы развития технологии

Этапы развития технологии  Этап 3. Программно-аппаратный. Системы Motion Control по прежнему актуальны во многих ситуациях, но значительная часть процесса совмещения перенесена на программную основу. Ввиду дешевизны и удобства программной реконструкции трехмерных данных этот способ получил огромное количество сторонников. Когда мы говорим о программном трэкинге, то подразумеваем реконструкцию трехмерных данных. Ниже приведен список основных продуктов на этом сегменте рынка. Доступные коммерческие и бесплатные системы 3DEqualizer BouJou Match Mover PFTrack SynthEyes VoodooCameraTracker Закрытые In-House системы MARS (Motion and Structure Recovery System) TRACK

Эволюция программных систем Изначально появился так называемый "survey-base tracking". Название обусловлено тем, что пользователь должен был знать трехмерное положение каких-то точек в пространстве (например, углы зданий). Затем указывалась их локализация в двухмерном пространстве изображения и проводился двухмерный трэкинг. И тогда программа строила трехмерную точечную модель на основе соотнесения двухмерных позиций точек на изображении и их трехмерных координат. В процессе эволюции технологий, появился "survey-free tracking". Трэкинг при котором не требуется знание каких-то трехмерных координат в снимаемой сцене. Первым продуктом из "survey-free" систем считается 3D Equalizer (в 2001 году разработчики получили Scientific and Engineering Award). Для построения трехмерной точечной модели используется алгоритм "Structure From Motion". При использовании этого алгоритма сначала происходит двухмерный трэкинг структур изображения, а затем на основе двухмерных точек происходит реконструкция трехмерных данных.

Применение 3D Equalizer Виртуальные (CG) объекты, помещенные в реальную среду. В создании архитектурной визуализации такие объекты используются для добавления частей зданий, отдельных строений или целых городов в реальное фото или видео изображение. Используя сходные методы, с помощью "CG-протезирования” или виртуальной "косметики” (make-up) можно добавлять актерам в отснятой сцене некоторые интересные особенности. Например, крылья… Реальные объекты, помещенные в виртуальную (CG) среду. Примером этого может служить движение живого актера по созданной на компьютере студии.               I.      В ТВ-студиях часто применяются "virtual sets” для решения подобных задач, требующих большого количества дорогих и сложных устройств. Однако сейчас эти задачи можно решить на пост продакшене, так как используя 3DE можно быстро воссоздать движение.

Применение 3D Equalizer Стабилизация. Вы, конечно, смотрели фильмы из серии "Matrix", в которых активно применялась технология "bullet time" (или "slice of life"). В основе технологии лежит одновременная съемка одной сцены большим количеством фотокамер. Информация о движении и точечная модель, экспортированная из программы 3DE исключает любые произвольные сдвиги положения и ориентации группы камер, для того чтобы кадр получился безупречным.

Сущность программной реконструкции данных При реконструкции камеры и объектов используются формулы проективной геометрии. Законы проективной геометрии допускают как прямой ход лучей (съемка объектов на камеру), так и обратный (реконструкция данных объектов).

Matchmoving pipeline Поддерживается импорт всех основных форматов. Экспорт трехмерных данных возможен во все современные пакеты трехмерной графики и композитинга.

Условия успешного трэкинга Для успешной реконструкции трехмерных данных пользователь должен предоставить программе достаточное количество информации. Общие условия, необходимые для воссоздания движения камеры или объекта таковы: 1. Все детали ("features"), положение которых определяется с помощью точек, используемые для воссоздания камеры должны быть неподвижны по отношению друг к другу. 2. В каждом кадре, на экране должно быть как минимум 4 точки. 3. Всего должно быть не менее 6 точек. 4. Как минимум в двух кадрах эти 6 точек должны размещаться на экране, они называются опорными кадрами ("rootframes").

Проблемы при matchmoving На данном этапе развития существуют две основные программные проблемы: 1. Камера закрепленная на треножнике. В результате трэкинга камеры с “position constraint”. Вы получаете набор точек сферически распределенных в пространстве и такая точечная модель не отражает реальной геометрии сцены. 2. Точки лежат перпендикулярно камере и перспектива мало изменяется на протяжении всей секвенции. Эта проблема еще более неприятная, чем первая. Здесь речь идет уже о невозможности программным вычислительным ядром получить корректные результаты.

Решение проблем при matchmoving В обоих вышеперечисленных случаях на помощь нам приходят reference frames. reference frames – это кадры снятые в той же сцене, что и основная секвенция и служащие для уточнения положения точек в пространстве.

Pipeline и концепция сред каждая из сред соответствует этапу 3d трэкинга

Типы современных motion capture систем магнитные Замеряется расстояние от датичика до слабого электро-магнитного поля. Это громоздкие системы, с высокой ценой и низкой помехоустойчивостью.

Типы современных motion capture систем Оптические В основе лежит система построенная на инфракрасных датчиках и фиксирующих камерах (от 1 до 16). На сегодняшний день это наиболее современные и используемые системы. Они очень масштабируемые и помехоустойчивые.

Софтверный Motion Capture Софтверный motion capture – это неплохой способ сэкономить на дорогостоящем оборудовании. В отличие от аппаратных real-time систем, при софтверном moCap сначала происходит съемка видео, а затем трэкинг точек и построение moCap модели. При софтверном moCap важно правильно подобрать количество камер и их расположение. Кроме того, очень большое значение имеет качественная синхронизация камер.

Терминология Фотограмметрия (от греч. Phos - свет + Gramma - запись + Metreo – измеряю) - определение форм, размеров и положения объектов по их фотографическим изображениям. В современной CG, Image Modeling – построение трехмерной модели на основе фотографических изображений.