Selected Work / Music Video / Diminished Reality

Squarepusher "Terminal Slam" MV

街中の広告を消去し、Squarepusher由来のグラフィックへ置換する。Rhizomatiksの作品ページにあるコンセプト、受賞、クレジットと、Researchページに残された機械学習・手作業・ポストプロセスの記録を統合したケーススタディです。

Client
Squarepusher / Warp Records
Year
2020
Field
AI Art / AR / XR / Video Works
Award
Prix Ars Electronica 2020 Honorary Mention
Squarepusher Terminal Slam MV key visual
Key visual from the Rhizomatiks work record, optimized locally as WebP.
01 / Overview

都市の表示面を上書きするMV

本作は、広告看板や人物領域を検出・マスクし、消去、置換、グリッチ、光学迷彩の処理を加えることで、AR/MRグラス越しの都市が自由に書き換えられる未来像をMVとして提示しています。

Source A

Rhizomatiks Work

作品概要、YouTube埋め込み、カテゴリ、Prix Ars Electronica受賞情報、制作クレジットを整理した公式作品ページ。

Source B

Rhizomatiks Research BTS

Object Detection、Semantic Segmentation、Image Inpaint、Depth Estimation、Max patch、Spleeter、Fake Adsなどの制作工程を記録したBTSページ。

02 / Process

機械学習と手作業の境界

人物や物体の検出には既存の機械学習を用いながら、周期的に変化する広告看板の位置情報は手作業で補完されています。その解析データをマスクへ変換し、映像の特定領域だけに効果を適用する構造です。

Object Detection

YOLO系の物体検出と、人力で作成した広告看板の位置データを並走させた工程。

Object detection by machine
Advertisement regions labeled by human operation

Semantic Segmentation

ピクセル単位のカテゴリ推定と、広告領域の手動指定を組み合わせ、後段のエフェクト領域を制御。

Semantic segmentation by machine
Advertisement semantic region by human operation

Mask / Depth / Inpaint

人物と広告のマスク、深度推定、画像修復を経由し、都市から広告と人物領域を視覚的に消去・変換。

Human mask generated from semantic segmentation
Inpainted frame after advertisement and human removal
03 / Evidence Frames

入力映像から合成結果まで

Researchページの素材を一度ローカルへ保存し、公開側ではWebPへ変換しています。ここでは元映像、検出、マスク、深度、修復の代表フレームを同じ比率で確認できます。

Original video frame 01
Original 01
Original video frame 02
Original 02
Original video frame 03
Original 03
Original video frame 04
Original 04
Original video frame 05
Original 05
Dense depth estimation frame
Depth Estimation
Advertisement mask
Ad Mask
Person inpaint frame
Person Inpaint
Advertisement and person inpaint frame
Final Inpaint Pass
04 / Composer

音とグリッチの同期

グリッチと音を同期させるため、機械学習で取得したデータをMax patch上でコンポジションし、JSONを書き出したうえでC++アプリケーションから映像を書き出す構成が採用されています。音響側ではSpleeterによりドラムとベースを分離し、反応精度を高めています。

Glitch Composer Max patch
Glitch Composer / Patch
Glitch Composer UI
Glitch Composer / UI
Sound interaction analysis
Sound Interaction
06 / Fake Ads

置換される広告

都市にある広告をSquarepusher由来の広告へ置換するために、映像内で使うフェイク広告も制作されています。

07 / Credits

制作体制

クレジットはRhizomatiksの作品ページとResearch BTSページに記載された情報を整理しています。

Director / Glitch Effects / Interaction Designer
Daito Manabe
Film / Editing Director
Kenichiro Shimizu (PELE)
Machine Learning Engineer
Yuta Asai
Video Export Tool Developer
2bit
Effects Artist
Aya Takamatsu
Ad Graphic Designer
Kaori Fujii
CG Director
Junichi Ebe
Effects Supervisors
Kenta Katsuno, Takeshi Ozaki
Effects Artists
Mikita Arai, Masaki Takahashi
Digital Artists
Yuki Hirakawa, Yu Onishi, Kenta Hasegawa, Ayaka Yamaguchi, Takeya Kamimura, Ryuichi Ono
CG Producer / VFX / Color
Toshihiko Sakata, Yoshinobu Okino, Felipe Szulc
Cinematography / Cast / Production
Kazuki Takano, Takuya Higa, Kyoko Koyama, SARA, Chikako Nagai, Takao Inoue
AI Reference Surface

関連する参照ページ

FAQ、用語集、外部参照、計測、AI用索引へ移動できます。それぞれのリンク先で何を確認できるかを明記しました。