世界を動かす技術を、日本語で。

ガウシアン・スプラッティング – A$AP Rockyの「ヘリコプター」ミュージックビデオ

概要

  • A$AP Rocky の「Helicopter」MVは ダイナミックガウススプラッティング を大規模に採用
  • EvercoastGrin Machine など複数チームが技術面を担当
  • ほぼ全ての人間パフォーマンスを ボリュメトリックキャプチャ で収録
  • 撮影後の編集や再照明など ポストプロダクションの自由度 が飛躍的に向上
  • AI生成と誤解されがちだが、 全て実演・実空間での収録

A$AP Rocky「Helicopter」MVにおけるダイナミックガウススプラッティングの実践

  • A$AP Rockyは Radiance Fields技術 の熱心なファン
  • 「Helicopter」MVでは 初期MTV的なカオス感と動き が特徴
  • 視聴者が気付きにくい点として、 ほぼ全ての人間パフォーマンスがボリュメトリックキャプチャ で記録
  • Evercoast、Grin MachineのChris Rutledge、WildCaptureのWilfred Driscollらによる 技術協力体制
  • Dan Strait監督 が、ポストプロダクションの自由度を重視してボリュメトリック撮影を選択

撮影と技術的背景

  • メイン撮影は 2023年8月、ロサンゼルス で実施
  • Evercoastが 56台のRGB-Dカメラアレイ を使用し、2台のDellワークステーションで同期
  • パフォーマーはワイヤーで吊るされ、天井バーで懸垂、プロップを使ったスタント等を実演
  • 実際のセットでは木製の板や実物プロップを使い、後から データ上で除去や再構成 が可能
  • 10TB超の生データ を収録し、最終的に約30分分のスプラット映像(PLYシーケンスで1TB)を出力

ポストプロダクションとワークフロー

  • Houdiniで CG Nomads GSOPs を使い、シーケンス操作や編集
  • OTOYのOctaneRender で最終レンダリング、スプラットの再照明も可能
  • Evercoastのシステムで、 撮影現場での空間プレビューや即時メッシュプレビュー が可能
  • 大容量データをダウンロードする前に Webプレイヤーでレンダリング確認 が可能
  • これにより、 迅速かつ低コストでクリエイティブな判断 が可能なワークフローを実現
  • Blenderも レイアウト・プリビズ に活用、軽量なプロキシキャッシュでシーン計画
  • WildCaptureのツールで ポーズ推定スケルトン を生成し、動作転送や物理シミュレーションに活用

視聴者の反応と技術の意義

  • 視聴者の多くは AI生成と誤解 するが、全て 実演・実空間でキャプチャ
  • ボリュメトリックキャプチャにより、 カメラアングルや構図の制約から解放
  • 撮影後に 自由なカメラ配置やパフォーマンスの再合成 が可能
  • Radiance Fieldsは 現実を置き換えるのではなく、現実を保存・拡張 する技術

関連事例と今後の展望

  • A$AP Rockyは2023年の「Shittin’ Me」MVでも NeRFやInstant-NGPのGUI を導入
  • 今回の「Helicopter」は メジャーな音楽リリースで最大規模のダイナミックガウススプラッティング実装
  • 今後は シミュレーション的な映像制作ワークフロー が主流になる可能性

参考リンク

Hackerたちの意見

A$APに関することがHNで見られるなんて思ってもみなかったよ。ここが大好きだ。

ハハ、昨日からずっとヘリコプターのミュージックビデオ/アルバムをなんとかHNに提出しようとしてたんだ。誰かがガウスの角度を見つけてくれて嬉しい!

彼、ヘアカーラーつけてるの?

HNのトップにほぼCartiの投稿があるね。

なんでそれが「クール」だったり、望ましいの?

ミュージックビデオへの直接リンク: https://www.youtube.com/watch?v=g1-46Nu3HxQ

いいアイデアだね!そのリンクもトップテキストに入れよう。ありがとう!

ビデオ自体もぜひ見てみてほしいな。ほんとに素晴らしい作品だよ。エネルギーがすごくて、効果のシュールさと人間のパフォーマンスのリアルさが絶妙にバランス取れてる。*(音楽が嫌ならミュートにしてね、他のみんなも文句言う人にはそうするから)

同様に、テイラー・スウィフトのミュージックビデオ(A$AP Rockyの別のトラック)も、最高の意味で超現実的で変わってるけど、東欧の風味があるよね(撮影場所やテーマにぴったり合ってるから、明らかに意図的だと思う)。0. https://youtu.be/5URefVYaJrA

動画は最後まで見てね:最後のスプラットはガウスじゃないよ。

正直言うと、古いバージョンのUnreal Engineでレンダリングされたみたいに見えるね。それが意図的な選択かもしれないけど、ガウススプラッティングがどれだけリアルに見えるか気になるな。元の忠実さとリアリズムを保ちながら、光や影を再調整したり、シーンの一部を移動したりできるのかな?テレビや映画の制作が進化してる今(何百時間もの映像を複数の角度から撮影して、後で編集するスタイル)、これが最終形態なのかも。人間にはガウススプラッティング、他にはグリーンスクリーンって感じ?

そうそう、記事でもこのことについて話してるし、まさにその通りだよ。

Hacker Newsで議論の続きを見る