Background
SSIMとは
SSIM(構造的類似性指標、Structural Similarity Index)は、Meritcsが 公開しているすべての研究の中心にある指標です。私たち自身の 発見の話に入る前に、この指標が何であり、どこから来て、通常 どう使われているのかを、平易に説明しておきます。
誰が開発したか
SSIMは2004年、Zhou Wang、Alan C. Bovik、Hamid R. Sheikh、 Eero P. Simoncelliの4名によって、論文 「Image Quality Assessment: From Error Visibility to Structural Similarity」で発表された。掲載誌は IEEE Transactions on Image Processing、第13巻第4号、 600–612ページ。以来、画質評価の分野で最も広く引用され、 最も広く使われている指標の1つとなっている。
何を測定するか
PSNR(Peak Signal-to-Noise Ratio)のような従来の指標は、2つの 画像の画素ごとの差を単純に平均していた。SSIMの核心的なアイデア はこれとは異なる:画素を独立に比較するのではなく、人間の視覚が 構造をどう知覚するかを反映する局所的な統計量を比較する。以下の 3つの比較を掛け合わせたものとして構成される:
輝度(Luminance)
2つの領域は同じくらい明るいか
コントラスト(Contrast)
同じくらいのコントラスト——画素値のばらつきの大きさ——を持つか
構造(Structure)
明るさやコントラストとは独立に、変化のパターンが相関しているか
ある領域の最終的なSSIMスコアは、この3つの項の積である:
どの分野で使われているか
SSIMは、復元・圧縮・生成された画像の品質を、元画像と比較して 評価する必要がある、あらゆる場面で使われている:
- 画像・動画の圧縮規格
- 動画配信の品質モニタリング
- 画像の超解像・AIによる高解像度化——Meritcs自身の研究の多くが扱う文脈
- 画像のノイズ除去・復元
- 医療画像処理のパイプライン
- 衛星・リモートセンシング画像、産業用の外観検査
コンピュータビジョン・画像処理研究全般においても、PSNRと並んで 報告される標準的なベンチマーク指標の1つとなっている。
通常どう計算されるか——そしてそれがなぜ重要か
実際には、SSIMが画像全体に対して一度に計算されることは稀である。 画像上を移動する小さなスライディングウィンドウ(一般的には 8×8や11×11ピクセル)の内側で計算され、ウィンドウの位置ごとに 1つの局所スコアが生成される。そして、それらの局所スコアが 平均され、画像全体につき1つの数値にまとめられる。誰もが報告・ 比較するのは、ほぼ常にその最終的な平均値だけである。
Meritcs自身の報告書では、スライディングウィンドウではなく、 8×8の非重複ブロック(画像を固定グリッドで分割したもの)に 対してSSIMを計算している——理由については 技術基盤を参照。
悪いスコアのウィンドウは消えたわけではない——良いスコアの数に埋もれているだけで、最終的な平均値だけを見てもそれは分からない。
その「平均化」という工程こそが、Meritcs自身の研究の出発点である。 1つの平均値は、その構成上、「どこでも均等に良いスコアだった 画像」と「ほとんどの場所では非常に良いスコアだったが、一部で 大きく失敗した画像」を区別できない——両者は同一の数値を 生み出しうる。活動内容・研究アプローチ ページでは、私たちがこのギャップをどう調査しているかを説明して おり、発行物一覧ページでは、 これまでに見つけたことをまとめている——その中には、比較対象と なる元の画像なしで、こうした隠れた低スコアの窓を見抜く 2つのツール も含まれている。