2021年オープンキャンパス(青木・伊藤(康)研究室)
3次元復元

はじめに

コンピュータビジョンの分野における3次元復元は,物体の立体形状を復元する技術です.レーザなどを照射して高精度に立体形状を計測することもできますが,デジカメなどで撮影された写真のみから立体を復元できると手軽に3次元データを利用することができるようになります.ここでは,画像のみを用いた3次元復元について紹介します.

三角測量

「三角測量」という言葉を聞いたことがあるでしょうか?数学の授業で図 1 のように対岸の木までの距離を計測する例で紹介されていると思います.同じ側にある点を $A$ と $B$ とし,対岸の木を $C$ とします.このときに,$AB$ 間の距離 $l$,$\alpha = \angle CAB$,$\beta = \angle CBA$ がわかれば,対岸の木までの距離 $d$ を求めることができます.三角比を用いると距離 $d$ は次式で求められます. \[ d = \frac{l}{\frac{1}{\tan\alpha}+\frac{1}{\tan\beta}}=\frac{\sin\alpha\sin\beta}{\sin(\alpha+\beta)}l \] 左側の直角三角形について $\tan\alpha$ を,右側の直角三角形について $\tan\beta$ を考えると $d$ の式が導出できます.三角測量の原理を使って画像から立体形状を復元する技術をステレオビジョンと呼びます.

triangulation
図 1:対岸にある木までの距離を三角測量を使って計測する例

ステレオビジョン

ステレオビジョンは,図 2 のように,2 台のカメラを使って物体の立体形状を復元する技術です.三角測量と比べると変数が増えています.ステレオビジョンでは,物体がカメラ画像にどう写るかを示す投影モデルを利用するためです.このときに重要となるのがカメラパラメータと呼ばれるカメラの特徴を示すパラメータです.カメラパラメータには 2 種類あります.1 つめは内部パラメータです.これは,カメラ自身の特徴を表すパラメータで,画像中心座標 $c$,レンズ中心座標 $C$,焦点距離 $f$ などで構成されます.もう 1 つは外部パラメータです.2 台のカメラを使うので,カメラ間の相対的な位置関係(平行移動と回転など)が必要になります.図 2 であれば,カメラ間の距離を示す基線長 $b$ になります.左画像上の点 $m$ と右画像上の点 $m'$ が対象物体の同じ位置を示しているとき,図 2 の式を使って物体の 3次元位置 $M$ を求めることができます.画像を構成する全ての画素に対して同様な計算をすることで,物体の詳細な立体形状を復元することができます.少し複雑そうに感じるかもしれませんが,基本的な原理は三角測量になります.

stereo_vision
図 2:ステレオビジョンの基本原理

デジカメを使った3次元復元システム

本研究室で開発したデジカメを使った3次元復元システムを紹介します.デジカメで2枚以上の写真を撮ると対象物体の立体形状を復元することができます.詳細については,文献 [1][2] を参照して下さい.動画1は,本システムのデモ動画です.何枚か写真を撮影してノートパソコンに写真が転送されると立体形状が復元されます.さらに写真を追加で撮影すると,物体の全体が復元されていくのがわかります.

動画 1:デジカメを使った3次元復元システムのデモ動画

多視点ステレオ

2枚の画像から立体形状を復元するステレオビジョンに対して,複数枚の画像から立体形状を復元する技術を多視点ステレオと呼びます.物体全体を画像に納めると,見えていない箇所の形状を復元することができません.物体周辺を複数回撮影した画像を使うことで,物体全体の立体形状を復元することができます.動画2は,202枚の多視点画像とそれらの画像から復元した立体形状です.たくさんの画像を入力として使うことで,物体の詳細な形状を復元することができます.

動画 2:1つめは,202枚の多視点画像です(少し読み込みに時間がかかるかもしれません).2つめは,多視点ステレオで復元した物体全体の立体形状です.

さまざまな3次元復元

本研究室で取り組んでいる3次元復元に関する研究で得られた成果の一部を紹介します.

  • 動画3は,車のフロントガラスに設置したステレオカメラを使って障害物を検知した結果です.路面を青色で,それ以外の障害物を近い方が赤で,遠い方を黄色で表示しています.3次元復元ではありませんが,前方の車までの距離を計測することで運転支援に応用できます.詳細は文献[3]を参照して下さい.
  • 図3は,本研究室で提案している多視点ステレオの手法(文献[4])を文化財のデジタルアーカイブに応用した例です.松島町にある瑞巌寺の本堂入り口付近にある欄間木彫の写真をデジタルカメラで80枚ほど撮影しました.その80枚から欄間も口調の形状モデルを復元しました.文化財をデジタルデータとして保存することが進められていますが,レーザなどを文化財に照射できなかったり,文化財を移動できないため計測環境が限られてしまったりするため,デジタルカメラで簡便に立体形状を復元できる手法が重宝されます.
  • 図4と図5は,デジタルカメラで適当に撮影した複数枚の写真から立体形状を復元した結果です.図4は,ベルギーのブリュッセルにあるグランパレス広場のセルクラース像です.図5は,イタリアのヴェネツィアにあるドゥカーレ宮殿の中庭の壁面を復元した結果です.このように,旅行先で複数枚の写真を撮影すると,その立体形状を記念に残すことができます.図4と図5は,文献[5]で提案した手法を用いて復元されたものです.

動画 3:車載ステレオビジョンシステムを用いた障害物の検知
ramma1 ramma1
図 3:80枚の画像から復元された瑞巌寺(松島町)の本堂入り口付近にある欄間木彫の形状モデルです(凸版印刷株式会社との共同研究).
serclaes
図 4:ブリュッセル(ベルギー)のグランパレス広場付近に設置されているセルクラース像 (Wikipedia) です.場所は,ここ (Google Map) です.
ducale
図 5:ヴェネツィア(イタリア)のドゥカーレ宮殿 (Wikipedia) の中庭にある壁面です.場所は,ここ (Google Map) です.

まとめ

簡単ではありますが,3次元復元の研究について紹介しました.3次元復元は,図6のように逆問題になります.私たちがいるのは3次元空間なので,物体は立体形状を持っています.例えば,それを2次元の画像として記録するのが写真撮影です.立体(3次元)を画像(2次元)にするので順問題であり,簡単に解くことができます.ゲームも同様です.3次元モデルをテレビに表示しているので3次元を2次元にしています.3次元復元は,その逆問題を解くことに相当します.2次元で表現された画像から3次元を求めるので,数学的な計算モデルはありますが,解くためには,いろいろな工夫が必要となります.これまで紹介してきたように,画像から立体形状を復元することができれば,いろいろな応用が検討できます.そのため,コンピュータビジョンの分野では,この難問題を多くの研究者が取り組んでいます.

Inverse problems
図 6:逆問題としてのコンピュータビジョン

参考文献

  1. 三浦衛ほか,"カメラの移動撮影に基づく2視点からの3次元形状計測とその性能評価," 映像情報メディア学会誌, Vol. 68, No. 4, pp. J135--J143, April 2014. [PDF]
  2. S. Yamao et al., "A sequential online 3D reconstruction system using dense stereo matching," Proc. IEEE Winter Conf. Applications of Computer Vision, pp. 341--348, January 2015. [PDF]
  3. 和泉圭祐ほか, "基線長が短い車載ステレオカメラのための障害物検出手法,"電子情報通信学会論文誌 A, Vol. J98-A, No. 1, pp. 165--175, January 2015. [PDF]
  4. S. Sakai et al., "Phase-based window matching with geometric correction for multi-view stereo," IEICE Trans. Information and Systems, Vol. E98-D, No. 10, pp. 1818--1828, October 2015. [PDF, Project page]
  5. K. Yodokawa et al., “Outlier and artifact removal filters for multi-view stereo,” Proc. IEEE Int'l Conf. Image Processing, pp. 3638-3642, October 2018. [PDF]