だいきぼげんごもでる
大規模言語モデル(LLM)
LLM = Large Language Model
大量のテキストデータを学習し、文脈に応じた自然な文章の生成や翻訳、要約、プログラミングなどを高い精度で行える深層学習モデルのことで、生成AIの中核技術として注目されています。
詳しい説明
大規模言語モデルは、膨大な量のテキストデータを学習し、文脈に応じた自然な文章の生成や翻訳、要約、プログラミングコードの作成などを高い精度で行える深層学習モデルです。近年の生成AI技術の飛躍的な発展を支える中核となっており、人間が入力した指示に対して、まるで人が書いたような違和感のない回答を即座に返すことができます。
仕組みとしては、Transformerというアーキテクチャが基盤となっています。これは文章の中の単語同士の関連性を計算し、次に続く単語を確率的に予測することで、文脈を維持した文章を生成します。パラメータと呼ばれる無数の調整可能な数値を、インターネット上の巨大なデータを用いて最適化することで、言語の構造や知識を自律的に獲得しています。
試験では生成AIの一種として、その活用やリスクが問われます。混同しやすいのは「AIモデル自体」と「そのモデルを利用したチャットサービス」の違いです。LLMは基盤となる頭脳であり、それを搭載したアプリケーションがユーザーとの対話を実現しています。情報の正確性や著作権、セキュリティリスクへの理解も重要なテーマです。
試験で問われること
ITパスポート試験
- 生成AIの中核技術としての位置づけを理解します。
- ハルシネーション(もっともらしい嘘)のリスクを把握します。
- プロンプトエンジニアリングの概念を押さえます。
基本情報技術者試験
- ニューラルネットワークとTransformerの基本原理を押さえます。
- 学習データとパラメータの役割を理解します。
- 利用におけるセキュリティと倫理的課題を特定します。