本文へ移動

くりっぷ

CLIP

CLIP = Contrastive Language-Image Pre-training

画像とテキストのペアを大規模に学習し、高度な関連付けを行うモデルです。事前に定義されたラベルなしで画像を分類するゼロショット学習が可能です。マルチモーダルAIの基盤となる技術です。

詳しい説明

CLIPとは、画像とテキストのペアを大規模に学習させることで、画像の内容を自然言語で理解可能にしたマルチモーダルAIモデルのことです。OpenAIによって開発され、膨大なインターネット上のデータを用いて学習されています。特定のタスクに特化せず、汎用的な理解能力を持っています。

学習の仕組みには対照学習(Contrastive Learning)が用いられています。大量の画像とテキストのペアから、関連するペア同士はベクトル空間で近くに配置し、関連しないものは遠ざけるように学習します。これにより、画像からテキストへの変換や、テキストによる画像検索といったクロスモーダルなタスクを実現しました。

G検定において注目すべきは、ゼロショット学習(Zero-shot learning)の能力です。事前に学習していない未知のカテゴリでも、クラス名をテキストとして入力することで高い精度で分類が可能です。マルチモーダル学習の代表例として、これからのAIがどのように視覚と言語を統合しているかを示す重要な技術です。

試験で問われること

G検定

  • 画像とテキストを対照学習する仕組みが問われます
  • ゼロショット学習が可能な点が大きな特徴です
  • マルチモーダルAIの代表例として扱われます