マルチモーダル

term_id: muiltimodal

Category: basic_concepts

Definition

人工知能において、マルチモーダル性は、モデルが異なる感覚入力やデータ形式にわたって情報を理解、生成、または相関させる能力を記述します。単一モダリティのモデルとは異なり、

Summary

マルチモーダルとは、テキスト、画像、音声など、複数のデータモダリティを同時に処理・統合するAIシステムを指します。

Key Concepts

  • データ融合
  • クロスモーダルアライメント
  • 統一表現
  • センサー統合

Use Cases

  • 画像キャプション生成および視覚的質問応答
  • 音声コンテキストを含む動画理解
  • スキャン画像と患者記録を組み合わせた医療診断