正解率（Accuracy）は、分類モデルが出した予測のうち、陽性か陰性かを問わず正しく分類できた割合を表す評価指標です。2つのクラスの件数が近いデータではモデルの品質の大まかな目安になります。一方、不均衡なデータでは、役に立たないモデルでも高い値が出ることがあります。
あらかじめ定めた性能をAIが出すことを担保する取り組みです。AIは確率的なモデルなので100%の保証はできず、品質を多角的に評価して、契約で保証の範囲と役割分担を決めておきます。
入力を少しだけ平行移動させても、プーリングした出力の大部分の値が変わらないという性質が、ネットワークの表現に備わるようになることです。畳み込みニューラルネットワークでは、プーリングがこの並進に対する不変性をもたらします。特徴がどこにあるかより、特徴があるかどうかが大事な場面で役立ちます。
個人の権利利益の保護と個人情報の適正な活用の両立を目指し、取り扱い事業者が守るべき利用目的の特定や第三者提供制限などの義務を定めた日本の法律です。
行動価値関数 q_pi(s,a) は、状態 s で行動 a を取り、その後は方策 pi に従って行動したときに得られる収益の期待値を表す関数です。
活性化関数は、ニューラルネットワークの各層で、入力の線形結合にバイアスを加えた値に対して要素ごとに適用する関数です。非線形な活性化関数を層と層の間に挟むことで、層を重ねたネットワークが1つの線形関数では表せない関係を表せるようになります。代表例にシグモイド関数・tanh関数・ReLU関数があります。
アクタークリティックは、学習される方策(actor、実行者)と、状態価値関数の推定で行動を評価する役割(critic、批評者)を組み合わせた方策勾配法です。1ステップ収益から状態価値関数の推定を差し引いた量で方策のパラメータを更新します。
Adamの学習率に、時間とともに狭まる下限と上限を設ける最適化手法。学習初期はAdamのように、学習が進むとモーメンタム付きSGDのように振る舞う。
Adagradで学習率が単調に小さくなり続ける弱点を、過去の勾配の2乗の指数移動平均で抑え、更新式から学習率そのものも消した最適化手法。
パラメータごとに、過去の勾配の2乗の累積で学習率を自動調整する最適化手法。まれな特徴量ほど大きく更新するので疎なデータに向くが、学習率が縮み続ける弱点がある。
パラメータごとに学習率を適応的に調整する最適化手法。勾配の2乗の指数移動平均に加えて勾配そのものの指数移動平均も保持し、初期の偏りをバイアス補正で打ち消す。
敵対的攻撃は、学習済みのモデルに対して、推論の段階で入力に人には知覚できないほど小さな摂動を意図的に加え、誤分類させる攻撃です。Szegedyらが現象を報告し、Goodfellowらが敵対的事例として定義しました。学習データそのものを汚染するデータ汚染とは、攻撃する段階が推論時か学習時かで異なります。
エージェントとは、センサーを通じて環境を知覚し、アクチュエータを通じて環境に行動するものです。
Agent57は、57本すべてのAtariゲームで標準的な人間のベンチマークを上回った最初の深層強化学習エージェントで、NGUを土台に探索の度合いを適応的に選べるようにしたものです。
アジャイル(アジャイル開発)は、2001年に公開された「アジャイルソフトウェア開発宣言」が示す4つの価値に沿ってソフトウェアを開発する考え方で、プロセスやツールよりも個人と対話を、包括的なドキュメントよりも動くソフトウェアを、契約交渉よりも顧客との協調を、計画に従うことよりも変化への対応を重視します。
AIの技術で解けるようになった問題が、解けたあとはAIと呼ばれなくなる現象です。1971年のBertram Raphaelの発言をはじめ、複数の研究者の言葉として記録が残っていて、誰が最初に言ったかは確定していません。
AI倫理は、AIの開発・利用にあたって何を大切にすべきかという価値の判断や姿勢の側面を指す語です。人間中心のAI社会原則には、AI倫理という語の定義規定はありません。この資料が示す3つの基本理念と7つのAI社会原則という価値の体系が、AI倫理の扱う対象だと位置づけられます。その価値を組織や制度の仕組みで実際に守っていく体制であるAIガバナンスとは、対になる関係にあります。
AIガバナンスとは、AIに関するリスクをステークホルダーにとって受容可能な水準で管理しつつ、AIがもたらす便益を最大化するための体制づくりのことです。AI事業者ガイドラインは、ルールを事前に固定するのではなく、環境・リスク分析、ゴール設定、システムデザイン、運用、評価のサイクルを継続的かつ高速に回すアジャイル・ガバナンスの実践を重要としています。何を大切にすべきかを決めるAI倫理に対し、AIガバナンスはその価値を組織や制度の仕組みによって実際に守っていく側にあたります。
AIポリシーは、AI事業者ガイドラインで、AIガバナンス・ゴールとして設定することが考えられる自社の取組方針の呼び方の例です。ガイドラインの共通の指針への対応事項からなる方針を指します。呼び方は各主体に委ねられています。
赤池情報量規準(AIC)は、最尤法で当てはめた複数のモデルを比べて、どれが良いかを判断するための基準の1つです。訓練データへの当てはまりの良さに、説明変数の数に応じたペナルティを加えた値で評価し、値が小さいモデルほど良いモデルとします。
AlexNetは、Krizhevsky、Sutskever、Hintonが2012年に発表した8層の深い畳み込みニューラルネットワークで、ILSVRC-2012で2位を大きく引き離して優勝した画像分類モデルです。
アルゴリズムバイアスは、モデルの学習過程やアルゴリズムの設計・処理の段階で生じる偏りである。集めたデータそのものが公平であっても、学習アルゴリズムの設計や特徴量の使い方によって生じうる、処理由来のバイアスとして位置づけられる。データが集められる段階で生じるサンプリングバイアスとは、偏りの由来が処理の側かデータの側かという点で区別される。
αβ 法とは、2人が交互に手を指すゲームの先読みで、Mini-Max 法と同じ値を求めながら、結果に影響しないと分かった枝の探索を打ち切る手順です。自分がすでに確保した値の下限αと、相手がすでに確保した値の上限βという2つの境界値を使います。候補手が3つずつで4手先まで読む木では終端の局面が81個ありますが、片側の境界だけで枝を切る手順でも評価する終端は36個に減り、αとβの両方で切るとさらに少なくなります。
アルファ碁(AlphaGo)は、David Silver らが2016年1月に Nature で発表した囲碁のコンピュータプログラムです。盤面がどれだけ有利かを評価する value networks と、次に打つ手を選ぶ policy networks という2種類の深層ニューラルネットワークを使います。この2つのネットワークを、人間の専門家の棋譜を使った教師あり学習と、自分自身と対局する自己対局による強化学習を組み合わせて訓練します。さらに、モンテカルロシミュレーションとこの2つのネットワークを組み合わせた新しい探索アルゴリズムで手を決めます。論文の要旨によると、AlphaGo は他の囲碁プログラムに99.8%の勝率を上げ、人間のヨーロッパ王者に5対0で勝ちました。コンピュータプログラムがフルサイズの囲碁で人間のプロに勝ったのはこれが初めてで、少なくとも10年は先と考えられていた成果でした。なお、この解説は論文の本文を読んでおらず、Nature の公式ページで公開されている要旨だけにもとづいています。
アルファスター(AlphaStar)は、StarCraft IIの3種族すべてでグランドマスター級に達し、Battle.netの現役プレイヤーの99.8%を上回ったAIシステムです。
対立仮説とは、統計的検定で帰無仮説と対にして立てる仮説で、帰無仮説が棄却されたときにその代わりの主張として考えるものです。検定を設計するときに帰無仮説とセットで定め、見つけたい逸脱の向きに応じて両側か片側かを選びます。
AMSGradに、AdaBoundと同じ時刻依存の学習率の下限と上限によるクリッピングを組み合わせ、適応的な振る舞いからSGDへの滑らかな移行を狙う最適化手法。
マイクなどから得たアナログ信号を、標本化と量子化の2つの工程でコンピュータが扱えるデジタル信号へ変換する処理です。
アノテーションとは、データに説明や分析のための情報を書き加えることです。ここで根拠にしているBird と Libermanの論文(2000年)は、言語データの注釈を次のように定義しています。言語の生データ(音声・映像などの記録やテキスト)に付ける、記述的または分析的な表記すべてを指します。付ける表記には、書き起こし、品詞や語義のタグ付け、構文解析、固有表現の特定、共参照の注釈などが含まれます。この定義が扱うのは言語データの注釈に限られ、画像などへのラベル付け全般を定義したものではありません。また、Jurafsky と Martinの教科書は、言語データの集まり(コーパス)の作り手が、どんな注釈を付けたか、誰がどう注釈したかを記録すべきだとしています。
匿名加工情報は、個人情報の区分に応じた措置を講じて、特定の個人を識別できないように加工し、かつ元の個人情報を復元できないようにした情報です。作成するときは個人情報保護委員会規則の基準に従って加工する義務があります。作成した後は他の情報と照合することが禁じられます。第三者へ提供するときは、事前の公表と、匿名加工情報である旨の明示が求められます。
AUC(Area Under the Curve)は、ROC曲線の下側の面積で表す、分類モデルの評価指標です。ランダムに選んだ正例と負例を1つずつモデルに与えたとき、正例の方を負例より高く順位付けする確率を表します。値が1.0に近いほど性能の高いモデルです。
人工知能は、定義が1つに決まっていない語です。代表的な教科書の1つは、人間のように考える・合理的に考える・人間のように行動する・合理的に行動するという4つの立場に分けて、定義を並べて示しています。
AI生成物とは、生成AIが出力した文章・画像などを指す語で、著作権法との関係では主に2つの場面に分けて整理されます。1つは生成AIを開発する学習段階で、学習のために著作物を使う行為が著作権法第30条の4の対象になりうるという位置づけです。もう1つは生成物の著作物性で、文化庁の資料は、AIは法的な人格を持たないため著作者にはならず、AIを利用して著作物を創作した人が著作者になるという整理を示しています。そのうえで、著作物性は創作的寄与があるといえるかを個別の事例ごとに総合的に考慮して判断されるとしています。
A3Cは、1台のマシンの複数のCPUスレッドで並列に動くアクター学習者が非同期に更新を重ねる、アクタークリティック型の深層強化学習の手法です。
フィルタ値の間に0を挟み、間隔を空けて入力を読む畳み込み。パラメータ数と演算量を変えずに、特徴マップの解像度を保ったまま受容野を広げられる。
クエリと各キーの適合度から値への重みを求め、値の重み付き和を出力する仕組み。Scaled Dot-Product Attentionでは内積をsqrt(d_k)で割ってからsoftmaxを適用して重みを得る。
オートエンコーダは、入力をその出力へコピーするように訓練されるニューラルネットワークです。入力xから内部の表現hを作るエンコーダh=f(x)と、hから入力を作り直すデコーダr=g(h)の2つの部分からなります。ただし、入力をそのまま写すだけでは何も学べないため、完全なコピーができないように制約を課して使います。よく知られた制約は、hの次元を入力より小さくすることで、こうするとネットワークは入力の中で残すべき情報を選ぶように学習します。
音声認識(ASR)は、音声の波形を対応する単語列へ変換するタスクです。エンコーダデコーダ方式や自己教師あり音声モデルで実現され、WERで評価されます。
過去の観測値から未来の値を予測する時系列モデルです。過去のデータを重み付けして現在の値を算出し、ARMA/ARIMAや言語モデル（LLM）の文章生成の基盤概念になっています。
畳み込みニューラルネットワークで、特徴マップの小さな長方形の範囲(窓)に入る値の平均を求め、その範囲を代表する1つの値として出力するプーリングです。たとえば4×4の特徴マップに2×2の窓をストライド2で当てると、4つの区画それぞれの平均が並んだ2×2の特徴マップが得られます。
バックプロパゲーション(誤差逆伝播法)は、ニューラルネットワークの実際の出力と望む出力との誤差について、各重みでの偏微分(勾配)を求める計算方法です。出力層から入力層へ向かって、合成関数の微分の規則である連鎖律を1層ずつ当てはめ、誤差の微分を送り返します。1986年のNature誌の論文が学習手続きとして示した方法ですが、その論文自身がほかの研究者による独立の発見に触れています。求めた勾配を使って重みを実際に変えるのは、勾配降下法などの別の手続きです。
BPTT(Back-Propagation Through Time)は、リカレントニューラルネットワークを時刻ごとに展開した計算グラフへ、通常の誤差逆伝播法をそのまま適用して勾配を求める方法です。勾配は系列の最後の時刻から最初の時刻へさかのぼって伝わり、すべての時刻で共有している重みの勾配は、時刻ごとの寄与を足し合わせて求めます。計算時間とメモリはどちらも系列の長さに比例し、順伝播が1時刻ずつしか進められないため、計算時間は並列化で短くできません。
BoWは、文書を単語の出現回数のベクトルで表す情報検索のベクトル空間モデルの一種で、単語の位置を無視して各単語の頻度だけを残す表現方法です。
訓練セットの全事例について損失を計算してから、重みとバイアスを1回更新する学習の進め方。バッチサイズを全事例数Nに等しくした場合にあたり、大規模なデータでは実用的でなくなる。
バッチ正規化は、ミニバッチごとに求めた平均と分散を使って、ニューラルネットワークの層に入る値を平均0・分散1に揃え、学習で決まる2つのパラメータで尺度と位置を調整し直す手法です。学習を大幅に速められると報告されています。ただし、なぜ効くのかについては、内部共変量シフトを減らすからだという原論文の説明に異論があり、決着していません。
ベイズ情報量規準(BIC)は、ベイズ的な考え方から導かれた、統計モデルを選ぶための基準です。値が小さいモデルほど良いと判断します。赤池情報量規準(AIC)よりも変数の多いモデルに重いペナルティを課すため、AICより変数の少ない単純なモデルを選ぶ傾向があります。
BPR(ビジネスプロセス・リエンジニアリング)は、情報技術の力を使って業務プロセスを根本から作り直し、業績の劇的な改善を目指す考え方です。今の仕事のやり方をそのまま自動化するのではなく、古い規則を見直して捨て、新しい仕事のやり方を作ることに重点があります。
ベルヌーイ分布は、0か1のどちらかの値だけをとる1つの確率変数についての確率分布です。形を決めるのは、変数が1になる確率を表す1つのパラメータだけで、このパラメータは0以上1以下の値をとります。期待値はこのパラメータと同じ値になり、分散はこのパラメータと、1からこのパラメータを引いた値との積になります。
潜在変数の各次元が独立した意味を持つように促すことで、モデルの解釈性を高めた変分オートエンコーダの改良モデルです。
BERTは、ラベル無しテキストから左右両方の文脈を全層で同時に考慮した深い双方向表現を事前学習し、出力層を1つ足すだけで幅広い自然言語処理タスクへファインチューニングできる言語表現モデルです。
双方向 RNN は、系列の先頭から時間の順に進む RNN と、系列の末尾から時間を遡る RNN の2本を組み合わせたリカレントニューラルネットワークです。各時刻の出力は、前向きの RNN が持つ過去側の要約と、後ろ向きの RNN が持つ未来側の要約の両方を使えます。ある時刻の予測が、その時刻より後の入力にも左右される音声認識や手書き文字認識のような課題のために考えられました。
従来の技術では扱いきれないほど膨大で多様、かつ高速に生成されるデータ群です。AIや分析技術を用いて法則性を見出し、経営判断や効率化に活用されます。
二項分布は、結果が成功と失敗の2つに分かれる試行をn回行い、1回ごとの成功確率がどの回でも同じであるとき、成功がちょうどx回になる確率を表す離散確率分布です。確率は、組み合わせの数と成功確率・失敗確率のべき乗を掛け合わせた式で求まり、平均は試行回数と成功確率の積、標準偏差はその平均に失敗確率を掛けた値の平方根です。
ブラックボックスは、AIシステムの内部でどのように判断が行われているかを外から見て理解することが難しく、判断の根拠を人に示せないまま使われている状態を指します。NIST AI RMF 1.0 は、AIシステムの不透明な性質(説明可能性や解釈可能性の制限)という表現でこの点に触れています。また、否定的なリスクの認識は、システムの出力を理解したりコンテクスト化したりする能力の欠如に起因する、という仮定も述べています。
ブースティングは、決定木などの単純なモデルを1つずつ順番に作り、それまでのモデルが説明しきれなかった部分(残差)に次のモデルを当てはめ、少しずつ足し合わせて予測を改善していくアンサンブル学習の方法です。
元の学習データから重複を許して抜き出した学習データを何組も作り、それぞれで学習した予測器の出力について、数値なら平均、クラスなら多数決をとって1つの予測にする手法です。
手元にあるn件のデータから、重複を許してn件を取り出し、新しい標本を作る手法です。
幅優先探索とは、探索木をルートノードに近い浅いノードから順に展開していく探索の手法です。同じ深さのノードをすべて調べ終えてから1段下へ進むので、最初に見つかる解は、初期状態から目標までのアクションの数が最も少ない解になります。そのかわり、1つの深さのノードをまとめて覚えておく必要があり、分岐数を b、解の深さを d とすると、作られるノードの数は O(b^(d+1)) の程度まで増えます。
画像の明るさを無作為に変化させるデータ拡張の手法。PyTorchではColorJitterクラスの引数brightnessで、明るさを変える係数を一様に選ぶ範囲を指定する。
ブルートフォースは、答えになりうる候補を手がかりで絞り込まずにすべて順に試し、条件を満たすものを見つける方法です。日本語では総当たりとも呼ばれます。候補の範囲に答えがあれば必ず見つかりますが、問題が大きくなると候補の数が急に増え、現実の時間では試しきれなくなります。
破滅的忘却(Catastrophic Forgetting)は、ニューラルネットワークが複数のタスクを順番に学習するとき、新しいタスクの情報を取り込む過程で、以前に学習したタスクの知識が突然失われてしまう現象です。タスクを次々に学び続ける継続学習(continual learning)を実現するうえでの大きな壁とされ、G検定シラバスでは転移学習・ファインチューニングの項目で扱われるキーワードです。
CPU(Central Processing Unit)は、幅広い種類の処理を1つでこなせる汎用のプロセッサです。機械学習では、素早い試作や訓練に時間のかからない小さなモデルなど、柔軟さが求められる場面で使われます。
合成関数の微分を、つなぎ目ごとの局所的な微分の積として求める規則。複数の経路がある場合は経路ごとの積を足し合わせ、誤差逆伝播法の土台となる。
中国語の部屋は、哲学者ジョン・サール(John R. Searle)が1980年の論文で示した思考実験です。中国語を知らない人が規則書に従って中国語の記号を操作するだけで、外から見れば中国語を理解しているような受け答えができてしまう状況を描き、プログラムを実行するだけでは意味の理解は生まれないと主張しました。
CAM(Class Activation Mapping、クラス活性化マッピング)は、画像を分類するCNNが、あるクラスだと判断する際に画像のどの領域を根拠にしたかを、マップとして可視化する手法です。モデルの解釈性を高める手法の一つで、最終出力層の直前にグローバル平均プーリングを置いたCNNを前提とし、出力層の重みを最後の畳み込み層の特徴マップに掛け合わせて足し合わせることで作ります。分類のために訓練したCNNが、1回の順伝播の中で分類と、そのクラスに関係する画像領域の位置特定の両方を行えるようにする点が特徴です。
入力がk個のカテゴリのどれに属するかを答えさせる課題。数値を予測させる回帰問題とは、出力の形式が異なる。
気候変動は、AIとの関係では主に、大規模なモデルの学習や利用に使う計算資源が電力を消費し、炭素を排出するという環境負荷の問題として論じられます。AI事業者ガイドラインは、共通の指針の持続可能性の確保で、ライフサイクル全体を通じて地球環境への影響も検討するよう求めています。
クラウド(クラウドコンピューティング)とは、ネットワーク・サーバ・ストレージ・アプリケーションといった計算資源を、ネットワーク経由で必要なときに使えるようにする仕組みのことです。米国国立標準技術研究所(NIST)が2011年に公表した文書 NIST Special Publication 800-145 では、設定可能な計算資源の共有プールに、どこからでも便利にオンデマンドでネットワーク経由でアクセスでき、管理の手間やサービス提供者とのやり取りを最小限にして素早く割り当てと解放ができるモデル、と定義されています。同じ文書は、クラウドを5つの本質的な特徴、3つのサービスモデル、4つのデプロイメントモデルで構成されるものとして整理しています。
データ集合の中から、互いに似た観測値どうしを同じグループにまとめ、異なる観測値は別のグループに分けることで、隠れた部分集合（クラスタ）を見つけ出す教師なし学習の手法の総称です。
推薦システムで、新しい利用者や新しい項目について十分な情報が無いため、システムが何を推薦すればよいか分からなくなる問題です。
協調フィルタリングは、多くの利用者の好みのデータを使い、自分と興味が似ている人を見つけて、その人たちが好むものを薦める方法です。
条件付き確率は、ある事象が起きたと分かっているときに、別の事象が起こる確率です。両方が同時に起こる確率について、条件の側の事象が起こる確率で割って求め、条件の側の確率が0より大きいときだけ定義されます。条件が成り立つ場合を集めたときの割合を表すもので、ある行動を取ったら結果がどう変わるかという問いとは区別されます。
混同行列は、分類モデルの予測と実際の正解を突き合わせ、陽性・陰性の組み合わせで4通りに分けて件数を数えた表です。行と列のどちらが予測でどちらが正解かは資料によって逆なので、表を読むときは向きを確かめる必要があります。
CTCは、入力の各フレームに1文字(または空白記号)を出力し、それを折りたたんで最終的な文字列を得る、音声認識のためのアルゴリズムおよび損失関数です。
CEC(Constant Error Carousel、定誤差カルーセル)は、恒等関数と重み1.0の自己結合で誤差信号を一定に保つ線形ユニットで、LSTMのメモリセルの中心を担う仕組みです。
推薦する項目そのものの性質(特徴)を調べ、利用者がよく選んできた項目と同じ性質を持つ項目を推薦する推薦システムの方式です。
CBOWは、前後の文脈の単語から中央にある現在の単語を予測する単語ベクトル学習のモデルです。文脈の単語ベクトルを平均して1つの位置に投影します。
連続値制御は、行動が有限個の選択肢ではなく関節の力のような連続的な値そのものになる強化学習の問題設定で、方策勾配系の手法が得意とする領域です。
仕事の完成と成果物の納品を義務とする契約形態です。結果の保証が難しいAIモデル開発ではリスクが高く、業務遂行を目的とする準委任契約との適切な使い分けが求められます。
画像の明暗の対比の強さを無作為に変化させるデータ拡張の手法。PyTorchのColorJitterクラスでは、係数contrast_factorを指定の範囲から一様に選んで変化させる。
CLIPは、OpenAIのラドフォード(Radford)らが2021年に発表した、画像とテキストを同じ埋め込み空間で扱う事前学習の手法です。インターネットから集めた4億組の画像とテキストの対を使い、どの画像にどのキャプションが付いているかを当てる対照学習で画像の表現を学びます。学習後は、クラス名などの自然言語を手がかりにして、追加のラベル付きデータなしで画像分類などの下流タスクに使えます(ゼロショット転移)。マルチモーダルと基盤モデルを学ぶときの代表的な例です。
コントラスティブロスは、2つのデータの組(ペア)ごとに計算する損失関数です。似ているペアは埋め込み後の距離が近くなるように、似ていないペアはマージン以上に離れるように学習させます。距離学習で使われます。
畳み込み層で入力の一部分に重ね、重なった値どうしの積の和を1つの値にまとめる小さな重みの並び(行列)です。カーネルとも呼ばれ、入力の上を少しずつずらしながら同じ計算を繰り返し、値の並び方に応じて縦の境目などの模様に反応した出力を作ります。
畳み込み操作とは、カーネルと呼ばれる小さな重みの並びを入力の上で位置をずらしながら当てはめ、入力の値とカーネルの値を掛け合わせて足し合わせる演算です。数学上の畳み込みはカーネルを前後反転して重ねますが、多くの機械学習ライブラリはカーネルを反転しない相互相関を実装し、それを畳み込みと呼んでいます。
畳み込み層とは、ニューラルネットワークの層のうち、入力と重みの一般的な行列積の代わりに畳み込みという演算を使う層です。小さな重みの並びであるカーネルを入力の上で位置をずらしながら当てはめ、各位置での積の和を並べた特徴マップを出力します。
畳み込みニューラルネットワーク(CNN)は、画像のように縦横の並び方に意味があるデータを扱うために、入力の狭い範囲だけにつながる局所的な接続と、同じ重みを位置をずらして使い回す仕組みを組み込んだニューラルネットワークです。全結合のネットワークより少ない重みで、位置のずれや形の小さな歪みに強い認識を学べます。先駆けとしては1980年のネオコグニトロンが挙げられることが多く、1998年の論文で示されたLeNet-5は銀行の小切手の読み取りに実用されました。
著作権は、著作物を創作した著作者に認められる権利をまとめた呼び名です。1つの権利ではなく、複数の権利(支分権)が集まったものです。著作権法は第21条から第28条までの11の条で、複製権、公衆送信権等、翻案権などを別々に定めています。
著作権法は、著作物や実演・レコード・放送・有線放送について、著作者の権利とこれに隣接する権利を定める日本の法律です。文化的所産の公正な利用に留意しながら著作者等の権利を守り、文化の発展に寄与することを目的としています。著作物の定義、保護を受ける範囲、保護期間、罪の手続の原則などを定める条文で、法律全体の枠組みができています。
著作権侵害とは、著作者に認められる複製権や公衆送信権などの権利を侵す行為を指す。著作権法第113条第1項は、侵害によって作られた物の輸入や、事情を知ったうえでの頒布などを侵害とみなしている。文化庁の資料は既存の判例の考え方を紹介し、既存の著作物との類似性と依拠性の両方が認められる場合に侵害となりうると整理している。生成AIの生成物にもこの考え方が当てはまりうるとしている。
著作物とは、著作権法第二条第一項第一号が定める、思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するものをいう。著作権法上の保護を考えるときの出発点になる語であり、AIが生成した表現がこれに当たるかという論点とも関わる。
コーパスは、一般には、言語処理のために集めた大量の文章などのまとまりを指します。Jurafsky と Martin の教科書は、コーパスの中のどんなテキストも、特定の人が、特定の言語や方言で、特定の時と場所に、特定の目的のために作ったものだと述べています。そのため、コーパスから言語処理のモデルを作るときは、誰が、どんな文脈で、何の目的でその言語を作ったかを考えることが重要だとしています。そのための方法として、コーパスを作った人が、集めた動機や集め方などを書いた文書(datasheet や data statement)を用意することを勧めています。
2つの変数のあいだにある直線的な関係が、どれくらい強く、どちら向きかを1つの数で表す指標です。共分散を2つの変数の標準偏差の積で割り、単位や目盛りの影響を取り除いた値で、完全な右上がりの直線関係なら +1、完全な右下がりの直線関係なら -1、直線的な関係が無ければ 0 になります。曲線の関係は測れないので、0 に近くても関係が無いとは限りません。
コサイン類似度は、2つのベクトルの向きがどれだけ近いかを測る指標です。2つのベクトルの内積を、それぞれのユークリッド長（ベクトルの長さ）の積で割って求めます。文書を単語の出現頻度のベクトルで表すベクトル空間モデルでは、文書の長さの影響を取り除いて、2つの文書の内容の近さを比べるための標準的な方法として使われます。
2つの確率変数が一緒にどちらの向きへ変化するかを表す量で、それぞれの平均からのずれ(偏差)を掛け合わせた値の期待値として定義されます。正なら両方が同時に大きな値をとりやすく、負なら一方が大きいときに他方が小さくなりやすい傾向を表します。独立な2変数の共分散は0ですが、共分散が0でも独立とは限りません。
創作性とは、著作権法第2条第1項第1号が著作物の定義で使う語句、創作的に表現したもの、に由来する要件です。単なるアイデアや思いつきではなく、それを具体的に表現したものに、作り手の個性や工夫が表れていることを求めます。文化庁の資料は、生成AIへの指示が表現に至らないアイデアにとどまる場合には著作物性は認められないと考えられる、と整理しています。
学習システムのどの構成要素が成功や失敗に責任を持ち、どう変えれば性能が上がるかを特定する問題。ニューラルネットワークでは、望ましい振る舞いを生む重みを見つけることに当たる。
画像の中から指定した大きさの領域を切り出すデータ拡張の手法。切り出す位置を無作為に変えるランダムクロップにより、1枚の元画像から見た目の異なる訓練データを複数作れる。
交差エントロピーは、モデルが正解に割り当てた確率が低いほど大きくなる損失で、正解に割り当てた確率の対数にマイナスを付け、訓練データ全体で平均した値です。最尤推定に基づくコスト関数(負の対数尤度)と等価であり、モデル分布にガウス分布を仮定すると平均二乗誤差に帰着します。
CRISP-DMは、データマイニングのプロジェクトをどのような段階で進めるかを示した手順の枠組みです。2000年に公開された文書「CRISP-DM 1.0: Step-by-step data mining guide」にまとめられています。この文書では、プロジェクトの流れを、ビジネスの理解、データの理解、データの準備、モデリング、評価、展開の6つの段階に分けています。段階の順序は固定されたものではなく、段階の間を行き来することが常に必要だと述べられています。
CRISP-ML(Q)は、機械学習を使ったシステム(機械学習応用)を開発するための工程モデルです。Stefan Studerらが論文で提案しました(この記事が読んだのはarXiv版のv2、2021年2月24日付です)。機械学習は産業でも学術でも広く使われているのに、その成功と効率を高める標準の工程モデルがまだ無い、という問題意識から作られました。範囲の定義から、展開した機械学習応用の保守までを6つの段階で扱い、各タスクには品質保証の方法が添えられています。論文の要旨は、これをデータマイニングの工程モデルであるCRISP-DMを拡張したものと述べています。
交差検証は、訓練データをいくつかのまとまりに分け、学習に使う部分と検証に使う部分を入れ替えながら評価を繰り返し、その結果の平均でモデルの性能を見積もる評価方法です。検証データを1つに固定して切り出す方法に比べ、学習に使えるデータを無駄にしにくく、データの分け方の偶然にも左右されにくくなります。
データの特徴量が増えることで空間の体積が急拡大し、データが疎になって計算コストの増大や学習精度の悪化を招く現象です。次元削減などの前処理で対策します。
訓練画像の一部の領域を、別の訓練画像から切り出したパッチで置き換え、正解ラベルもパッチの面積に比例して混ぜる、画像分類向けのデータ拡張と正則化の手法。
訓練時に入力画像の正方形の領域を無作為にマスク(遮蔽)する、CNN向けの単純な正則化とデータ拡張の手法。一部が隠れた画像で学習させ、頑健性と性能を高める。
コンピュータに人間の常識を網羅した論理ルールとして記述しようとした長期プロジェクトです。人手による知識記述の限界を示し、知識獲得のボトルネックを象徴する事例です。
CycleGANは、位置合わせされた画像ペアが無くても、2つの写像と2つの識別器、そしてサイクル一貫性損失を使って、あるドメインの画像を別のドメインへ変換できる手法です。
DALL-Eは、テキストのトークンと画像のトークンを1本の連続したデータ列として並べ、トランスフォーマーで自己回帰的に(前から順に次のトークンを予測する形で)モデル化することで、自然言語の文から画像を生成する手法です。OpenAIのラメッシュ(Ramesh)らが2021年の論文で示したもので、G検定ではマルチモーダルと基盤モデルの文脈で扱われる、テキストから画像を生成するモデルの代表例です。
1956年の夏にダートマス大学で、10人が2か月かけて人工知能を研究しようと提案された計画です。提案書は、学習や知能のあらゆる側面は機械で再現できるほど精密に記述できる、という仮説を研究の前提にしています。
学習データに正解を変えない変換を加えて新しい学習例を作り、データの量を人工的に増やす手法です。過学習を抑えて汎化性能を高めることを目指しますが、文字認識で「6」を180度回転させると「9」の形になるように、正解を変えてしまう変換は使えません。
データの偏りとは、学習データの中で特定の社会集団が過小または過大に含まれていたり、既存の制度的な慣行を反映した偏りが写り込んでいたりする状態を指します。NIST SP 1270は、特定の制度の手続きや慣行に由来し、意識的な偏見がなくても生じうる制度的バイアス(Systemic bias)がAIで使われるデータセットにも存在すると述べており、日本のAI事業者ガイドラインも学習データを含む各技術要素からバイアスの要因となるポイントを特定することを求めています。
データリーケージとは、予測したい対象についての情報のうち、本来は学習に使えてはいけない情報が、モデルを作るためのデータに入り込んでしまうことです。Kaufman、Rosset、Perlich の論文(KDD'11、2011年)は、これを「データマイニングの過ちの上位10個の1つ」とされるものとして取り上げています。いちばん分かりやすい例は、予測したい答えそのものを入力に使ってしまうモデルで、「雨の日には雨が降る」と結論するようなものです。実際には、この混入は意図せずに起こり、データを集めたり、まとめたり、準備したりする過程で入り込みます。たいてい微妙で間接的なので、見つけて取り除くのが非常に難しいとされます。リーケージがあると、少なくともモデルの性能を過大に見積もってしまい、実際に使う場面ではリーケージの無いモデルに負ける解を選んでしまうことがあります。
大量のデータから統計学や機械学習の手法を用いて、隠れた規則や有用な知識を発掘する分析プロセスです。顧客分析や異常検知などの意思決定支援に広く活用されています。
データ汚染は、AIモデルが学ぶ学習データに不正なデータを紛れ込ませたり既存のデータを書き換えたりして、学習の結果を歪めようとする攻撃です。NIST AI RMF 1.0はセキュリティ上の懸念の1つとしてデータポイズニングを挙げており、敵対的な事例とは別の項目として並べています。推論時に入力を細工する敵対的攻撃とは、攻撃が起きる段階が異なります。モデルの重みや供給経路を汚すモデル汚染とは、汚す対象が異なります。
データの来歴とは、データがどこから来てどう扱われたかという出所の情報を指します。NIST AI RMF 1.0は、トレーニングデータの出所を維持することが透明性とアカウンタビリティの両方の支えになりうると述べています。AI事業者ガイドラインは、AIが生成したコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発・導入することを、実践の例として挙げています。
データサイエンティストは、企業や組織がデジタル技術で業務や事業を変えていく取り組み(DX)の中で、データを活用した業務の変革や新しいビジネスの実現に向けて、データを集めて解析する仕組みの設計・実装・運用を担う人材です。情報処理推進機構(IPA)のデジタルスキル標準では、DXを推進する5つの人材類型の1つに位置づけられており、データ活用が中心となるDXの推進では中核となる人材とされています。
データ窃取は、AIシステムの学習データそのものが、不正アクセスやAIシステムのエンドポイントを介して外部へ持ち出されることを指す語です。NIST AI RMF 1.0は、セキュリティ上の一般的な懸念の一つとして、エンドポイントを介した学習データの流出を挙げています。モデルのパラメータや挙動を盗むモデル窃取とは、盗まれる対象が異なります。
データ利用権とは、収集データをAI学習等に活用できる法的・契約上の権限です。著作権法や個人情報保護法、利用規約を遵守して適法に開発を行うための判断基準となります。
特徴量とその閾値による問いでデータを2つに分ける操作を上から順に繰り返し、分け終えた末端ごとに予測を出す、木の形をしたモデルです。
DCGANは、特定のアーキテクチャ上の制約を加えた畳み込みニューラルネットワークでGANを構成したモデルで、教師なし学習の有力な候補であることを示しました。
ディープラーニング(深層学習)は、処理の層を何段も重ねたニューラルネットワークを使い、判断に役立つデータの表現を段階的に学び取る機械学習の手法です。どこに注目すればよいかという特徴の作り方まで、人が設計せずにデータから学ぶ点が大きな特徴です。
DQNは、生のピクセルを入力とする畳み込みニューラルネットワークをQ学習の一種で訓練し、経験再生によって学習を安定させた深層強化学習のモデルです。
深層強化学習とは、強化学習の価値や方策の関数近似にディープニューラルネットワークを用いる手法です。画像などの高次元入力を直接扱い、高度な意思決定を実現します。
ディープフェイクは、深層学習(ディープラーニング)と偽造(フェイク)を組み合わせた語で、AI技術によって合成され、本当であるかのように見えて人々を欺く偽の音声や映像などの媒体を指します。令和6年版情報通信白書は、選挙での合成動画の拡散や、AI音声による詐欺的な音声通話の拡散を事例として挙げています。
DeepLabは深層畳み込みネットワークによるセマンティックセグメンテーションの手法で、atrous convolution、ASPP、全結合CRFの3つを柱とするシステムです。
公平性の定義とは、AIシステムの出力が特定のグループに系統的に不利にならないかを、数式で表そうとする考え方です。代表的な形式的定義の1つが、教科書Fairness and Machine Learningで示される独立性(independence)です。独立性は、属性Aと分類器の出力Rが確率変数として独立であることを求めます。2値の分類器では、予測結果が1になる確率がすべてのグループで等しいという条件になり、demographic parityやstatistical parityとも呼ばれます。公平性の指標は独立性のほかにも複数あります。日本の公式文書であるAI事業者ガイドラインと人間中心のAI社会原則は、多様な背景を理由とした不当な差別をなくすという理念として公平性を掲げていますが、技術的な指標までは定めていません。
DENDRALは、質量分析のデータから有機化合物の分子構造について仮説を立てるプログラムです。化学の詳しい知識を候補の絞り込みに使い、知識ベースをほかの部分から分けた設計をとったことから、最初のエキスパートシステムとして知られています。
階層的クラスタリングで観測値がまとまっていく過程を木の形で表した図で、縦軸で測る融合の高さが観測値どうしの似ていなさを示します。
DenseNetは、各層をそれ以降のすべての層へフィードフォワードで直接つなぐ畳み込みネットワークです。深いネットワークで情報や勾配が失われる課題に、密な接続で対処します。
深さ優先探索とは、探索木の中でまだ展開していないノードのうち、最も深いものから先に展開していく探索の手順です。1本の枝を行き止まりまで下りてから引き返し、別の枝へ移ります。展開を待つノードは、最後に入れたものを最初に取り出すスタックで管理します。1つのノードから分かれる枝の数を b、木の最も深い経路の深さを m とすると、時間計算量は O(b^m)、空間計算量は O(bm) です。必要なメモリは幅優先探索よりずっと小さく済みますが、最初に見つかる解が最も浅い解であるとは限りません。
深さ方向分離畳み込みとは、入力のチャンネルごとに独立して空間方向の畳み込みを行う深さ方向の畳み込みに続けて、1×1のカーネルでチャンネル方向だけを混ぜ合わせる点ごとの畳み込みを行う演算です。フランソワ・ショレ(François Chollet)はこの演算でInceptionモジュールを置き換えたXceptionを提案しました。
拡散モデルは、データに少しずつノイズを加える過程を逆向きにたどるよう学習したマルコフ連鎖で、ノイズから画像などのサンプルを生み出す生成モデルです。
畳み込み演算を拡張率 l で一般化し、フィルタの要素を l の間隔で入力に当てる演算。解像度を落とさずに受容野を指数的に広げられ、マルチスケールの文脈の集約に使われる。
元のデータが持つ重要な構造をできるだけ保ったまま、高次元のデータを次元の少ないデータへ変換する手法の総称。
割引率は、強化学習のエージェントが将来に受け取る報酬を、どれだけ先のものほど小さく見積もるかを決めるパラメータです。記号はガンマ(γ)で表し、0以上1以下の値をとります。
APE-Xは、行動するアクターと学習する学習者を分け、多数のアクターの経験を優先度つき経験再生で選んで学ぶ、深層強化学習の分散アーキテクチャです。
単語やその文脈を、連続的な(continuous)ベクトルとして表す表現です。skip-gramやCBOWのモデルで学習や利用の対象となり、単語どうしの統語的な関係と意味的な関係をとらえるとされます。
ダイバーシティは多様性を意味する語です。AI事業者ガイドライン(第1.1版)は、共通の指針の1つとして多様性・包摂性の確保を掲げています。その趣旨は、公平性の確保に加えて、いわゆる情報弱者や技術弱者を生じさせず、より多くの人々がAIの恩恵を受けられるよう、社会的弱者がAIを使いやすくなるよう注意を払うことです。
Dockerは、アプリケーションの開発・出荷・実行のためのオープンなプラットフォームです。アプリケーションをコンテナと呼ぶ緩く隔離された環境に詰めて動かせるようにします。これにより、アプリケーションを動かす土台(インフラ)から切り離して扱えるので、ソフトウェアを素早く届けられます。コンテナは軽量で、アプリケーションの実行に必要なものをすべて含むため、動かすコンピュータに何がインストールされているかに頼らずに済みます。
文書要約は、原文の内容を短くまとめた要約を作るタスクです。原文から一節を選び出す抽出型と、新しい語句を生成できる抽象型の2つのアプローチに大別されます。
シミュレータの見た目や条件を訓練中にランダムに変え、幅広い環境を経験させることで、シミュレーションだけで学習したモデルを追加の学習なしに実世界へ移す手法です。
モデルの複雑さや訓練時間を増やすと、テスト誤差がいったん悪化してから再び改善する現象。古典統計の通念と、深層学習の実務での経験則の食い違いを2つの領域の違いとして説明する。
ダブルDQNは、DQNにある既存のターゲットネットワークを使って行動の選択と価値の評価を分け、Q学習の行動価値の過大評価を抑える手法です。
ドロップアウトとは、ニューラルネットワークの学習中に、ユニットとその結合を一時的にランダムに取り除く手法です。各ユニットは固定の確率pで残り、特定のユニット同士がもたれ合う共適応(co-adaptation)が起きにくくなるため、過学習を抑えられます。
デュエリングネットワークは、状態価値関数とアドバンテージ関数を別々に推定し、集約層で組み合わせてQ値を出す強化学習用のネットワーク構造です。
訓練損失が下がりきる前に、検証データセットに対する損失が上がり始めた時点で意図的に学習を止め、過学習を防ぐ正則化の手法。
エコーチェンバーとは、SNSなどで関心を共有するユーザーがコミュニケーションを通じて意見交換し、似た意見が反復的に増幅される状況を指す言葉です。令和5年版情報通信白書は、フィルターバブルとあわせて、意見の多様性が失われ民主主義の基礎である議論が不可能になるという課題が指摘されていると紹介しています。一方で学術研究には、効果の大きさは相対的に控えめであったとする知見もあります。人が自ら似た意見の人と集まるという、人の選択が起点になる点で、アルゴリズムによる絞り込みが起点になるフィルターバブルと区別されます。
エッジAIは、スマートフォンのようなモバイル機器やIoT機器など、ネットワークの端(エッジ)に近い場所でAIの処理を行うという考え方です。計算処理をネットワークの中核から端へ移すエッジコンピューティングと人工知能を組み合わせた学際的な分野で、特定の圧縮技術の名前ではなく、どこで推論を行うかという配置を表す語です。限られた計算資源の端末でAIを動かす必要があるため、プルーニング・量子化・蒸留といったモデルの軽量化の技術と結びつけて学びます。
EfficientNetは、ネットワークの深さ・幅・解像度を1つの複合係数phiでそろえて拡大する複合スケーリング手法と、それで拡大した高精度かつ効率的なConvNetの系列です。
1966年に作られた初期の対話システムです。意味を理解せず定型ルールで応答する仕組みでありながら、人間が機械に知性を錯覚するイライザ効果を引き起こしました。
エルマンネットワークは、ジェフリー・L・エルマン(Jeffrey L. Elman)が1990年の論文で示した再帰型のニューラルネットワークです。入力層と同じ段に文脈ユニットを置き、ある時刻の隠れ層の値をそのまま写しておいて、次の時刻に新しい入力と一緒に隠れ層へ入れます。エルマンはこの構造について、出力層の値を戻すマイケル・I・ジョーダン(Michael I. Jordan)の1986年の構造を修正したものだと説明しています。
ELMoは、大規模なテキストコーパスで事前学習した深い双方向言語モデル(biLM)の内部状態から単語ベクトルを求め、文脈によって変わる単語の意味を表す深い文脈化単語表現です。
身体性(Embodiment)とは、ロボットが身体を持って世界を直接経験し、その行動が世界との動的な関係の一部となって、自らの感覚へ即座のフィードバックを受けることを指す考え方です。Brooksが1991年の論文で、状況性と並べて定義しました。
職務発明とは、従業者等がした発明のうち、その性質上使用者等の業務範囲に属し、かつ発明をするに至った行為が従業者等の現在又は過去の職務に属するものです(特許法第35条第1項)。使用者等の通常実施権、あらかじめの定めによる特許を受ける権利の使用者等への帰属、従業者等の相当の利益を受ける権利という3つの仕組みが第35条に定められています。
複数の予測モデルを組み合わせて、1つのモデルだけで予測するよりも強力な予測を得ようとする考え方の総称です。
委託とは、個人情報取扱事業者が個人データの取扱いの全部又は一部を他の事業者に任せることです。個人情報保護法第27条第5項第1号により、利用目的の達成に必要な範囲内での委託に伴う個人データの提供は第三者への提供に当たらないとされ、本人の同意は求められません。その代わりに第25条により、委託元の事業者は委託先に対して必要かつ適切な監督を行う義務を負います。
エポックは、訓練中にモデルが訓練セットのすべての事例を1回ずつ処理し終えたことを指す単位です。エポック数は学習を始める前に決めるハイパーパラメータの1つです。
ε-greedy方策は、ほとんどの場合は推定値がいちばん大きい行動を選び、小さい確率εのときだけ、すべての行動から等確率でランダムに行動を選ぶ行動選択の方法です。
誤差関数(損失関数)は、モデルの予測がどれだけ間違っているかを数値で表す指標で、予測と実際のラベルとの距離を測ります。モデルの学習は、この誤差をできるだけ小さくすることを目標に進みます。
倫理アセスメントとは、AIの開発や利用が人間中心のAI社会原則などの価値原則に沿っているかを評価し、確かめる活動を指すと理解できます。AI事業者ガイドラインの本文には、倫理アセスメントという語そのものは見当たりません。ガイドラインは、アジャイル・ガバナンスの評価の段階でリスクアセスメント等を行うとしています。倫理アセスメントは、その評価の段階で行うアセスメントのうち、価値原則に照らした観点を含むものと位置づけられます。
ユークリッド距離は、2つの点を結ぶまっすぐな線の長さとして測る距離です。各座標の差を2乗して合計し、その平方根を取って求めます。ピタゴラスの定理に由来し、数値で表された特徴やデータ同士がどれだけ離れているかを測る指標のうち、最もよく使われるものの1つです。より一般的には、2点の差のベクトルの長さ(ノルム)として定義される距離のうち、通常の内積(ドット積)を使ったものにあたります。
期待値とは、確率変数がとりうる値のそれぞれに、その値が起こる確率を掛け、すべて足し合わせた値です。試行の結果が平均するとどのくらいになるかを、1つの数で表します。平均とも呼ばれ、ギリシャ文字のμ(ミュー)で書かれることがあります。G検定シラバスでは、確率の基礎の対象キーワードに含まれています。
エキスパートシステムは、特定の分野の専門家が持つ知識をプログラムに書き込み、専門家に近い水準で複雑な問題の解決策を示せるようにしたAIプログラムです。知識は「もし条件が成り立つならば、この結論を導く」というIF-THEN形式のルールとして知識ベースに蓄えられ、推論エンジンがそのルールを次々につないで結論を導きます。
説明可能性は、AIシステムの判断の根拠を人に示せる性質を指す。NIST AI RMF 1.0では、AIシステムの動作の基礎となるメカニズムの表現と定義され、出力の意味を指す解釈可能性と区別されている。そのうえで両者が合わさって、システムへの洞察を助けるとされる。説明可能なシステムはデバッグやモニタリングが容易になり、文書化・監査・ガバナンスに適する、とNISTは記述している。このページでは、この記述をAI開発者・提供者の説明責任という制度の枠から捉える。
説明可能AI(Explainable AI、XAI)とは、機械学習モデルなどのAIシステムが、自分で下した判断や行動の理由を人間のユーザーへ説明できるようにするための取り組みです。G検定では、モデルの解釈性を扱うまとまりの中の語です。深層学習のような高性能な手法ほど中身が不透明になりやすいため、医療・金融・法律・防衛のように判断の重みが大きい分野で、ユーザーがAIを理解し、信頼し、適切に管理するための考え方として使われます。
ネットワークの重みが非常に大きいと、誤差逆伝播で入力層に近い層の勾配が多数の大きな項の積になる。その結果、勾配が大きくなりすぎて学習が収束しなくなる問題。
F値(F1 Score)は、適合率(Precision)と再現率(Recall)の調和平均で求める、分類モデルの評価指標です。どちらか一方だけが高くても値は上がらず、2つの指標のバランスを1つの数で表します。
フェイクニュースとは、文章や画像等の中身そのものが虚偽である情報のことです。令和5年版情報通信白書によれば、2022年3月の調査で偽情報に週1回以上接触すると回答した者は約3割にのぼりました。AIで合成された偽の音声や映像といった媒体そのものを指すディープフェイクとは、偽の中身か偽の媒体かという点で区別されます。
偽陰性（False Negative、FN）は、分類モデルが陰性と予測したのに、実際には陽性だったケースを指します。探したいものを見逃す誤りで、スパムメールの例では、迷惑メールがフィルターをすり抜けて受信箱に届いてしまう場合に当たります。
偽陽性（False Positive、FP）は、分類モデルが陽性と予測したのに実際は陰性だったケースです。スパムメール分類でいえば、正当なメールを誤って迷惑メールと判定してしまう誤検知にあたります。
高速フーリエ変換(FFT)は、音声などの信号を周波数成分に分ける離散フーリエ変換(DFT)を効率よく計算するアルゴリズムです。Nが2のべき乗のときにだけ使えます。
Fast R-CNNは、物体候補領域を深層畳み込みネットワークで効率よく分類する物体検出手法です。R-CNNの多段階の学習を、マルチタスク損失による単一段階の学習に置き換えました。
Faster R-CNNは、検出ネットワークと畳み込み特徴を共有するRegion Proposal Network(RPN)を導入し、物体検出における領域提案をほぼコストなしで行えるようにした物体検出の手法です。
fastTextは、各単語を文字n-gramの袋として表し、文字n-gramのベクトルの和で単語ベクトルを作るskipgramベースの単語表現の手法で、学習データに無い未知語にも表現を計算できます。
特徴マップとは、畳み込みという計算の出力です。フィルタ(カーネル)と呼ばれる小さな重みの並びを入力の上で位置をずらしながら当てはめ、位置ごとに求めた積の和を当てはめた位置どおりに縦横へ並べたものです。
FPNは、深層畳み込みネットワークが本来持つ多スケールの階層構造を生かし、トップダウンの経路と横方向の接続で、すべてのスケールに意味的に強い特徴マップを持つ特徴ピラミッドをわずかな追加コストで作る物体検出向けの構造です。
フューショット(Few-shot)は、各クラスにつき数個程度のラベル付き例だけを手がかりに、それまで学習していない新しいクラスを見分けられるようにする課題設定です。少ないデータから新しい概念へすばやく適応するための学習の枠組みで、N-way k-shotという形で課題を定めて手法どうしの性能を比べる場面で使われます。G検定シラバスでは転移学習やファインチューニングと同じ中項目に並ぶ語です。
フィルターバブルとは、プラットフォーム事業者がユーザーの関心に基づいてコンテンツを推薦するアルゴリズムを実施することで、ユーザーが陥るリスクがあるとされる状況です。令和5年版情報通信白書は、エコーチェンバーとあわせて、意見の多様性が失われ議論が不可能になるという課題が指摘されていると述べています。一方で学術研究には、アルゴリズムよりも個人の選択の方が、対立する立場の情報に触れる機会を強く狭めていたとする報告もあり、効果の大きさは単純には断定できません。
ファインチューニングとは、事前学習でいったん学習させたニューラルネットワークについて、その学習済みの状態を出発点にし、目的の課題の正解付きデータでネットワーク全体をもう一度学習させる手続きです。事前学習で得た特徴の上に単純な分類器だけを学習させる方法と違い、ネットワーク全体を学習の対象にします。
Flamingo(フラミンゴ)は、DeepMindが2022年に発表した視覚言語モデル(VLM)です。事前学習済みでパラメータを固定した画像向けのモデルと言語モデルを、新しく加えた層でつないでいます。画像や動画と文章が混ざった入力を受け取り、キャプション生成や視覚質問応答などのタスクを、少数の例をプロンプトに入れるだけでこなします。この能力をフューショット学習と呼びます。マルチモーダルと基盤モデルの分野で取り上げられる代表的なモデルの1つです。
フォルマントは、声道によって特に増幅される周波数帯で、スペクトル上の山として現れます。声道の形の違いが母音ごとのスペクトルの違いを生みます。
フォルマント周波数は、声道で増幅される周波数帯であるフォルマントの中心の値です。低い方から第1フォルマント(F1)、第2フォルマント(F2)と呼び、特にF1とF2の組み合わせが母音の識別の手がかりになります。
基盤モデルとは、幅広いデータで訓練され(一般には大規模な自己教師あり学習を用います)、ファインチューニングなどによって多様な下流タスクへ適応できるモデルのことです。2021年にボマサニ(Bommasani)らの報告書で名付けられた語で、BERT・GPT-3・CLIPが代表例です。1つの基盤モデルから多くの応用モデルを作るという、AIシステムの新しい作り方の中心に置かれています。
フレーム問題は、1969年にマッカーシー(McCarthy)とヘイズ(Hayes)がAIの論理的な記述の中で指摘した問題です。ある行動をしたときに「変わらないこと」まで一つずつ書き下そうとすると、書くべき記述の数が爆発してしまいます。のちにデネット(Dennett)は、この語をもっと広い意味で使いました。膨大な知識の中から、いまの行動に関係することだけを効率よく見つけ出す難しさを指す意味です。
度数分布とは、観測値を1つずつ並べる代わりに、値の範囲をいくつかの区間(ビン)に区切り、区間ごとに観測値の件数を数えて表にしたものです。記述統計でデータの全体像をつかむ基本の手段で、この表を棒グラフにしたものがヒストグラムです。
全結合層とは、前の層のすべてのノードと次の層のすべてのノードをつなぐ層です。入力のノード数と出力のノード数の積が重みの数になり、出力のノード数と同じ数だけバイアスがあり、学習で調整するパラメータの数は、この重みの数とバイアスの数を合わせたものになります。
FCNは、既存の画像分類ネットワークを全畳み込みの形に作り替え、画素から画素へend-to-endで学習させることで、セマンティックセグメンテーションの画素ごとの予測を行うネットワークです。
GRU(Gated Recurrent Unit)は、リカレントニューラルネットワーク(RNN)の隠れ層で、1つ前の時刻の隠れ状態と現在の入力から新しい隠れ状態を計算するユニットの一種です。リセットゲートと更新ゲートという2つのゲートが、前の隠れ状態をどれだけ無視するか、どれだけ次の時刻へ引き継ぐかについて、入力に応じて時刻ごとに決めます。キョンヒョン・チョ(Kyunghyun Cho)らが2014年の論文で、LSTMに着想を得ながら計算も実装もずっと単純な隠れユニットとして提案しました。その論文は脚注で、LSTMが記憶セルと4つのゲーティングユニットを持つのに対し、提案するユニットのゲーティングユニットは2つだけだと比べています。
時系列を扱うニューラルネットワークで、過去から持ち越してきた情報をどれだけ残し、いつ捨てるかについて、時刻ごとに変わりうる結合の重みで調整する仕組みです。勾配が消失も爆発もしない経路を時間方向に作るという考え方にもとづき、古い状態を忘れるタイミングをネットワーク自身が学習できるようにします。
一般データ保護規則(GDPR)は、EUが定めた個人データの保護に関する規則 Regulation (EU) 2016/679 で、個人データ・取扱い・管理者などの用語を定義し、取扱いが適法となる6つの根拠や、第三国への個人データ移転の規律を定めている。日本の個人情報保護法とは別の法体系に属する。
GLUEは、自然言語理解(NLU)モデルの性能を、質問応答や感情分析など多様な既存タスクにわたって評価するためのベンチマークです。単一のタスクに限らない汎用的な言語理解を測ることを目的としています。
汎化性能とは、学習に使っていない新しいデータに対して、機械学習モデルがどれだけ正しく予測できるかという性質です。訓練データに合わせ込みすぎて新しいデータで予測を誤る過学習(overfitting)の反対にあたる概念です。
データ分布を捉える生成モデルGと、本物か生成物かを見分ける識別モデルDを競わせ、ミニマックスゲームとして同時に訓練する生成モデルの枠組みです。
生成AIとは、文章、画像、プログラムなどを生成できるAIモデルにもとづくAIをまとめて呼ぶ言葉です。これまでのAIは「予測」「提案」「決定」に使われることが多くありましたが、それにとどまらず、画像や文章などを生み出す生成AIが普及するようになりました。総務省・経済産業省の「AI事業者ガイドライン」では、生成AIの広がりとともに、知的財産権の侵害や偽情報・誤情報の拡散といったリスクが増えていることも取り上げています。
一般物体認識は、制約のない実世界の画像に写る物体やシーンを、山やライオンのような一般的な名称で認識する技術です。画像認識で最も困難な課題の一つとされています。
グローバルアベレージプーリングとは、畳み込みニューラルネットワークの最後で、特徴マップ1枚ごとに全体の平均を取り、1枚を1つの値にまとめる処理です。ミン・リン(Min Lin)らが2013年の論文"Network In Network"で、全結合層の代わりに使う方策として提案しました。
損失関数全体を通して損失が最も低くなる点のこと。モデルにとって最良の重みとバイアスの組み合わせを指し、大域的な最小値とも呼ばれる。
GoogLeNetは、Inceptionと呼ばれる畳み込みニューラルネットワークのアーキテクチャを具体化した22層のネットワークで、ILSVRC2014の分類と検出で新たな最高水準を示しました。
Grad-CAMは、CNNが画像のどの領域を根拠にして特定のクラスを予測したかを可視化する手法です。CAMを一般化したもので、ネットワークの構造を変えたり学習し直したりせずに、全結合層を持つCNNや、画像キャプション生成・視覚質問応答(VQA)に使われるCNNにも適用できます。モデルの解釈性を高める手法の一つで、予測の誤りの原因を調べるときなどに使われます。
今のモデルが説明しきれていない残差に小さな決定木を当てはめ、その木を小さく縮めてから足し込む操作を何度も繰り返して、予測を少しずつ改善していくアンサンブル学習の手法。
損失を計算して、損失が減る向き(勾配の逆方向)へ重みとバイアスを少しずつ動かす。これを繰り返し、損失が最小に近くなるパラメータを探す反復的な最適化手法。
GPU(Graphics Processing Unit)は、グラフィック描画からAIの処理まで、高速化を要する計算処理に特化したプロセッサです。汎用のCPUと、AIの処理専用に設計されたTPUの中間に位置づけられ、機械学習の計算を担う代表的なハードウェアの一つです。
あらかじめ指定したハイパーパラメータの値の格子から、考えられるすべての組み合わせを尽くして評価し、その中で最良の組み合わせを採用する探索手法。
チャンネルをいくつかのグループに分け、1つのデータの中でグループごとに求めた平均と分散で値を正規化する手法です。統計量の計算にミニバッチの他のデータを使わないので、計算がバッチサイズに依存せず、小さなバッチサイズでも精度が安定します。
カメラ画像利活用ガイドブックは、IoT推進コンソーシアム、総務省、経済産業省が策定した文書で、カメラ画像を利活用する事業者に向けた配慮事項をまとめています。本ページは総務省のサイトで取得できたver2.0(平成30年3月)に基づいて、基本原則と配慮事項全体の構成を紹介します。最新版のver3.0(令和4年3月)とは、スコープや条項番号が異なる可能性があります。
ハードローは、法律や政令のように国家が制定し、法的な拘束力と罰則などの強制の仕組みを持つ規範を指す法学の一般的な概念です。AI事業者ガイドラインは自らを非拘束的なソフトローと位置づけており、ハードローとは異なる規律の形として対比できます。
「AはBを持っている」という所有関係を表す、知識表現における関係性の一つです。主体が属性や関連要素を保持している状態を記述します。
隠れ層は、ニューラルネットワークで入力層と出力層の間に追加される層で、その中のノードはニューロンと呼ばれます。各ニューロンは前の層の値に重みを掛けて合計し、バイアスを足して値を求めます。これにより、モデルは入力データを別のパラメータの組で組み直せるようになります。
直接は観測できない隠れた状態の系列と、観測できる事象の系列の両方を確率で扱えるように、マルコフ連鎖を拡張したモデルです。
ホールドアウト検証は、手元のデータをランダムに訓練データと検証データの2つに分け、訓練データで学習させたモデルの誤差を検証データで測ることで、未知のデータに対する誤差(テスト誤差)を見積もる評価方法です。手順が簡単な一方で、分け方によって結果が変わりやすいという弱点があります。
人間の自律性は、AIと関わる人が自分自身について判断し決定する力を保てるようにする、という考え方です。日本の人間中心のAI社会原則は、AIの利用にあたって人が自らどのように利用するかの判断と決定を行うことを求めています。EUのHigh-Level Expert Group on AIによるEthics Guidelines for Trustworthy AIは、Respect for human autonomyの節で、人間が完全かつ実効的な自己決定を保持できること、AIシステムが人間を不当に従属させたり操作したりしてはならないこと、人間の能力を拡張・補完・強化するように設計されるべきことを述べています。
人間の関与とは、AIの利用にあたって、AIに単独で判断させるのではなく、人間が判断や意思決定に関わることを指す考え方です。日本では、人間中心のAI社会原則の人間中心の原則が、人が自らどのように利用するかの判断と決定を行うことを求めています。AI事業者ガイドラインは、公平性の項で、適切なタイミングで人間の判断を介在させる利用を検討することと、その人間の判断が自動化バイアスに左右されないような対策を講じることを示しています。
人間の神経回路について、McCullochとPittsが1943年に発表した論文は、神経活動には「全か無か」という性質があるので、神経の出来事とその間の関係を命題論理で扱えると述べました。どんな回路網の振る舞いも論理の言葉で記述でき、ある条件を満たす論理式には、その式が述べるとおりに振る舞う回路網を見つけられる、とも述べています。この論文は学習も扱っていて、学習を回路網の恒久的な変化として捉え、変化しない等価な回路網へ置き換えられると述べています。一方、人工ニューロンの重みを学習で調整する手法は述べていません。また、論文自身は「人工ニューラルネットワーク」という語を使っていません。
機械学習で訓練のさまざまな面を制御する変数。人が値を決める点で、モデルが訓練中に計算する重みやバイアスなどのパラメータと区別される。
IBMが開発した高度な質問応答システムです。2011年にクイズ番組で人間に勝利し、自然言語処理と知識推論の実用性を示して第3次AIブームを牽引しました。
画像キャプション生成は、画像に写っている内容を、正しく整った自然言語の文で自動的に説明するタスクです。コンピュータビジョンと自然言語処理を結びつける課題で、G検定シラバスでは中項目マルチモーダルと基盤モデルのキーワードとして挙げられています。視覚障害のある人がウェブ上の画像の内容を理解する助けになるといった応用が期待されています。代表的な手法の1つに、画像を読み込むCNNと文を生成するRNNを組み合わせたShow and Tell(NIC)があります。
画像生成は、機械学習モデルが新しい画像を作り出したり、既存の画像を別の表現や見た目の画像へ変換したりするデータ生成タスクです。
画像から被写体の種類や位置をコンピュータに自動判定させる技術です。タスクは分類、物体検出、領域分割に大別され、深層学習の発展を牽引しました。
ImageNetは、WordNetという語彙データベースの階層に沿って整理された画像データセットです。画像認識の競技会であるILSVRC(ImageNet Large Scale Visual Recognition Challenge)は、このImageNetを土台にしています。ILSVRCの論文は、ImageNetがWordNetの21,841の同義語集合(synset)に、平均650枚の手作業で確認した画像を入れていて、全体で14,197,122枚の注釈付きの画像を含む(2014年8月時点)と述べています。なお、この解説はImageNetの原論文(Deng et al., 2009)を読んで書いたものではなく、ILSVRCの論文(Russakovsky et al., 2014)にあるImageNetについての記述をもとにしています。
ILSVRC(ImageNet Large Scale Visual Recognition Challenge)は、数百の物体カテゴリと数百万枚の画像を使い、物体カテゴリの分類と検出の性能を比べるベンチマークです。2010年から毎年開かれ、50を超える機関が参加しました。データには、大規模な画像データセットであるImageNetを使います。Olga Russakovskyらの論文(arXiv:1409.0575、2014年)は、このベンチマーク用のデータセットをどう作ったかと、それによって物体認識がどう進歩したかをまとめています。
インクルージョン(包摂)は、多様な人々が実際に参加し、利益を受けられる状態を目指す考え方です。AI事業者ガイドラインは、共通の指針の人間中心の項目の中に多様性・包摂性の確保を挙げています。その趣旨は、公平性の確保に加えて、情報弱者や技術弱者を生じさせず、社会的弱者もAIを使いやすくすることで、より多くの人々がAIの恩恵を受けられるよう注意を払う、というものです。この一節は多様性と包摂性を明確に切り分けておらず、ダイバーシティの記事も同じ一節を根拠にしているため、内容が重なる部分が大きいことを正直に記しています。
個人識別符号は、個人情報保護法第2条第2項が定める符号です。身体の一部の特徴を電子計算機用に変換したもの(一号)と、個人ごとに異なるように割り当てられる番号など(二号)の2類型があります。このうち政令で定めるものだけが個人識別符号になり、具体的な類型は施行令第1条が定めています。
産学連携とは、大学等の研究機関と企業が連携して、研究、人材育成、研究成果の事業化に取り組むことです。日本では文部科学省と経済産業省が、共同研究を強化して価値創造を進めるためのガイドラインを示しており、大学等と産業界の双方に向けて具体策をまとめています。
情報検索は、人が知りたいことに応えるため、大量の文書から問い合わせに関連する文書を見つけ出す課題です。大規模言語モデルが情報のニーズを満たすうえでも重要な役割を担います。
InfoVAEは、変分オートエンコーダ（VAE）の学習目標を見直し、入力データの情報を潜在変数にどれだけ残すか、潜在変数の分布をどう整えるかを調整できる手法群です。デコーダが潜在変数を使わなくなる問題や、入力から潜在変数を推定する精度の問題に取り組みます。
入力層は、ニューラルネットワークにデータを取り込む最初の層です。入力の値を受け持つノードが並び、その値が隠れ層や出力層で行う計算の出発点になります。
インスタンス正規化は、一般に、画像1枚ごとに、特徴マップのチャンネル1枚ずつで平均と分散を求めて値の散らばりを揃える正規化の技術とされます。2016年の論文では、高速に画風を変換するネットワークにあるバッチ正規化をこの方式に置き換えるだけで、生成される画像の質が大きく上がったと報告されました。
インスタンスセグメンテーションは、画像中の数えられる物体を1つずつ検出し、物体ごとのマスクとクラスラベルで切り分ける画像認識のタスクです。
知的財産権とは、知的財産基本法第2条第2項が定める語で、特許権、実用新案権、育成者権、意匠権、著作権、商標権その他の、知的財産に関して法令により定められた権利または法律上保護される利益に係る権利を指す。その前提となる知的財産は、同条第1項で、人間の創造的活動により生み出されるもの、事業活動に用いられる商品や役務を表示するもの、事業活動に有用な技術上または営業上の情報として定義されている。
専門家への質問を通じて判断基準を引き出し、ルール形式に整理する仕組みです。第2次AIブームにおける知識獲得のボトルネックを緩和するために開発されました。
特許法第2条第1項が定める発明の定義。自然法則を利用していること、技術的思想の創作であること、高度のものであることの3つの要件から成り、特許法上の保護を考える出発点になる。
進歩性とは、特許出願の前に、その発明の属する技術の分野における通常の知識を有する者(一般に当業者と呼ばれる)が、新規性の規定に掲げる既存の発明に基いて容易に発明をすることができた場合は特許を受けられない、という特許法第29条第2項の要件です。条文が新規性の規定にかかわらずと定めているため、新規性がある発明でも、この要件によって特許を受けられないことがあります。
発明者とは、発明をした者のことです。特許法には発明者という語を直接定める条文がありません。第29条第1項が発明をした者に特許を受ける権利を認め、第36条第1項第2号が願書に発明者の氏名と住所または居所を書くよう定めています。発明者の位置づけは、この2つの条文から導かれます。
「AはBの一種である」という分類・継承の関係を表す、知識表現における関係性の一つです。上位概念の属性を下位概念へ引き継ぐ推論を可能にします。
勾配降下法で損失を計算し、損失が減る方向へ重みとバイアスを1回更新するまでの1回分の処理。これを繰り返してモデルの学習を進める。
ジョルダンネットワークは、マイケル・I・ジョーダン(Michael I. Jordan)が1986年の報告書で示した、1つの計画から行動の系列を順番に出力するためのニューラルネットワークの構造です。計画ユニットと状態ユニットの値を入力として出力を計算し、状態ユニット自身への再帰結合と、出力ユニットから状態ユニットへの再帰結合によって、次の時刻の状態が1つ前の状態と1つ前の出力の両方に依存します。隠れ層の値を次の時刻へ戻すエルマンネットワークとは、戻す値をどの層から取るかが違います。
Jupyter Notebook(Jupyterノートブック)は、プログラムのコード、その実行結果、説明の文章を1つの文書にまとめ、人が読むことも、コードを実行することもできる形で公開するための文書形式です。Kluyverらの論文(ELPUB 2016)の要旨は、研究結果を再現するにはコードを公開することが重要だという問題意識から、コード・結果・説明を公開するための文書形式としてJupyterノートブックを提示しています。
k-分割交差検証は、データをk個のグループ(フォールド)にランダムに分け、検証に使うグループを入れ替えながら学習と評価をk回繰り返します。得られたk個の誤差を平均して、モデルのテスト誤差を推定する評価方法です。
データをあらかじめ決めたK個の重なりのないクラスタに分ける手法で、割り当てが変わらなくなるまで、クラスタごとの重心の計算と、各データを最も近い重心のクラスタへ割り当て直す操作とを交互に行う。
サポートベクターマシンなどで使う関数で、2つの入力を特徴関数で変換したあとの内積 φ(x)・φ(x') に当たる値を k(x, x') として返すものです。
データどうしの内積だけで書けるアルゴリズムについて、その内積をカーネル関数に置き換えることで、高次元の特徴空間へ明示的に変換しないまま、その空間で線形モデルを学習したのと同じ結果を得る手法です。
アテンション機構で、各値への重みを決めるためにクエリとの適合度を計算する側のベクトル。値と組になり、Scaled Dot-Product Attentionではクエリとの内積として使われる。
知識獲得のボトルネックは、専門家が持つ知識を聞き取り、コンピュータが扱える形に書き起こしてシステムへ入れる作業に時間と手間がかかり、その作業の遅さがエキスパートシステム作り全体の進み具合を制限してしまうという課題を指す呼び名です。
蒸留とは、訓練を終えた大きなモデルや、複数のモデルの予測を平均するアンサンブルが持つ知識を、実際の利用に向いた小さなモデルへ移す訓練の手法です。大きなモデルが出す各クラスの確率を目標にして小さなモデルを訓練します。G検定シラバスでは、モデルの解釈性と軽量化の項目にあるキーワードです。
人間が世界について知っていることをコンピュータが記号として持ち、推論に使える形に書き表すこと、またその書き表し方を考える分野です。1993年の論文「What Is a Knowledge Representation?」は、知識表現が世界の代理物、ものの見方の選択、推論の考え方、計算の媒体、人が語る言語という5つの役割を同時に担っていると整理しました。
カルバック・ライブラー情報量(KLダイバージェンス)は、同じ確率変数についての2つの確率分布PとQがどれだけ違うかを測る量です。常に0以上で、PとQが同じ分布のときだけ0になりますが、PとQを入れ替えると値が変わることがあるため、本当の意味での距離ではありません。
L0正則化は、モデルのパラメータのうち0でない値を持つものの個数を数え、その個数を罰則として学習に加える、という考え方を指す語です。代表的な教科書ではこの語を独立して説明した節が見当たらないため、このページでは一般的な考え方の範囲にとどめています。
L1 正則化とは、モデルのパラメータの絶対値の和をペナルティとして目的関数に加える、正則化の戦略の一つです。ペナルティの重みを係数αで調整し、一部のパラメータの最適値が正確に0になるスパース性を持つ点がL2 正則化と異なります。
L2正則化とは、重みの二乗和の半分を正則化項として目的関数に加え、学習で得られる重みを原点の近くへ引き寄せる手法です。深層学習では重み減衰(weight decay)とも呼ばれ、ほかの学術分野ではリッジ回帰やティホノフ正則化という名前でも知られています。
労働力不足は、仕事に必要な働き手の数に対して、確保できる人の数が足りない状態を指す言葉です。厚生労働省の令和6年版労働経済の分析は、人手不足への対応を扱っています。その中で、介護分野でのAIによるケアプランの作成などを取り上げ、ロボット・AI・ICT等が業務効率化、安全性の向上、労働環境の改善に寄与する可能性があるとしています。
大規模言語モデル(LLM)は、少数の例を示すfew-shot learningによって、多様な自然言語タスクで優れた性能を達成することが示されてきた言語モデルです。
ラッソ回帰とは、回帰係数の絶対値の合計がある定数以下に収まるという制約のもとで、残差平方和を最小にするように係数を決める回帰の手法です。この制約の形のために、いくつかの係数が正確に0になりやすく、係数を小さく縮めることと説明変数を選ぶことを1つの手順で同時に行えます。
潜在的ディリクレ配分法(LDA)は、テキストの集まりのような離散データの集合を対象とする生成的な確率モデルです。1つの文書を、いくつかのトピックが有限個の割合で混ざったものとして表します。教師なし学習の手法の1つです。
レイヤー正規化は、1つの訓練データについて、ニューラルネットワークのある層のすべてのニューロンへの入力の合計から平均と分散を求め、その層の入力を正規化する手法です。ほかのデータの値を使わないので訓練時と推論時で同じ計算になり、時刻ごとに統計量を計算することでリカレントニューラルネットワークにも適用できます。
Leaky ReLU 関数とは、入力が正ならその値をそのまま出力し、入力が0以下なら入力に0.01を掛けた小さな値を出力する活性化関数です。0以下の入力で出力も傾きも0になる ReLU 関数と違い、0以下の入力でも0でない小さな勾配が残ります。
勾配降下法で重みとバイアスを更新するとき、勾配に掛け合わせて1回の更新幅を決めるハイパーパラメータ。小さすぎても大きすぎても学習がうまく収束しない。
最小二乗法は、変数の線形結合と目標値との差を二乗して足し合わせた量を、制約を付けずに最小にする最適化問題とその解き方です。凸最適化の教科書では基本の問題として扱われ、連立一次方程式に帰着して解析的に解けることから、高い精度と信頼性で解ける実用的な手法として位置づけられています。
LeNetは、Yann LeCunらが作った畳み込みニューラルネットワークの系統の名前です。LeCun自身のウェブページでは、LeNet-5を「手書き文字と印刷文字を認識するために設計した、最新の畳み込みネットワーク」と説明しています。畳み込みニューラルネットワークは多層ニューラルネットワークの特別な種類です。ほかの多くのニューラルネットワークと同じく誤差逆伝播法の一種で学習し、違いはネットワークの構造にあります。画像のピクセルから、前処理をほとんどせずに直接パターンを認識するよう設計されています。原論文は1998年のGradient-based learning applied to document recognitionです。この解説は原論文の本文を読まずに、LeCunのウェブページの記述だけをもとに書いています。
深層学習で線形関数と言うときは、入力のそれぞれに重みを掛けて足し合わせ、バイアスを加えて出力を得る関数を指します。効率よく学習できる一方で、2つの入力の相互作用を表せないという限界があります。
入力のベクトル x からスカラーの値 y を予測するとき、出力を入力の線形関数 y_hat = w^T * x として表す手法。
LIMEは、機械学習モデルが出したある1件の予測について、その予測対象のデータの近くだけに範囲を限り、線形モデルのような解釈しやすい単純なモデルで元のモデルの振る舞いを近似することで、なぜその予測になったのかを説明する手法です。モデルの種類を問わずあらゆる分類器の予測に使える説明手法として提案され、G検定ではモデルの解釈性を扱う分野で登場する語です。
ニューラルネットワークに多い高度に非凸な誤差関数を最小化するとき、学習が陥りうる最小値の1つ。数多く存在し、最適ではない。損失関数が常に凸になる線形モデルと対比して理解する。
ローブナーコンテストは、人間と見分けがつかない応答をするコンピュータを目指して競うコンテストです。ローブナー賞の公式サイトは、この賞をチューリングテストの最初の正式な実施と説明しています。1990年に資金提供が決まり、1991年にボストンのコンピュータ博物館で最初に開催されました。
線形関数の出力をロジスティックシグモイド関数で0から1の間に押し込み、その値を「ラベルが1である確率」として読むことで、2つのクラスを見分ける分類のモデル。
LSTM(Long Short-Term Memory)は、リカレントニューラルネットワークで誤差の信号が時間をさかのぼるうちに消えていき、離れた時点どうしの関係を学べない問題に対処するために提案された構造です。自己ループの重みを1.0に固定した線形のユニットで誤差を一定に保ち、その出入りを乗算のゲートで開け閉めします。1997年の原論文のゲートは入力ゲートと出力ゲートの2つで、現在よく教えられる忘却ゲートを含む3つのゲートの形は、その後の追加を含んだものです。
スキルの喪失とは、自動化されたシステムに作業を任せて人が監督に回ると、使われなくなった人の技能が衰えていく現象です。Bainbridgeは1983年の論文Ironies of Automationで、身体的な技能は使われないと衰えるため、かつての熟練オペレータが非熟練者になっているかもしれず、手動で介入するとプロセスを振動させてしまうかもしれない、と述べました。
宝くじ仮説は、ランダムに初期化された密なニューラルネットワークの中に、単独で訓練しても元のネットワークと同程度の反復回数で同程度のテスト精度に届く小さなサブネットワーク(当たりのチケット)が含まれている、という仮説です。フランクル(Frankle)とカービン(Carbin)が2019年に発表しました。ネットワークを小さく軽くするモデル軽量化の分野で、プルーニングで得た小さな構造は最初から訓練するとうまく学習できないという当時の経験則に対し、うまく訓練できる小さな構造が存在することを示した考え方として位置づけられます。
機械学習は、判断のための規則を人がすべて書き込む代わりに、データや経験からその規則をコンピュータ自身に見つけさせる技術です。学習に使ったデータをなぞるだけでなく、まだ見ていない新しいデータに対しても予測や判断ができるようにすることを目指します。
MLOpsは、機械学習(ML)システムの開発(Dev)と運用(Ops)を統合することを目指す、ML工学の文化と実践のことです。Googleの文書は、DevOpsの原則をMLシステムに当てはめたものと位置づけています。MLOpsを実践するとは、システムを組み上げるすべての段階、つまり統合・テスト・リリース・デプロイ・インフラ管理のそれぞれで、自動化と監視を進めることを意味します。MLシステムならではの特徴として、モデルの再学習と提供を自動で行う継続的トレーニング(CT)という考え方が加わります。
ある言語の文を別の言語の文へ計算機で自動的に変換する課題です。統計的機械翻訳から、単一のニューラルネットワークを調整するニューラル機械翻訳へと移ってきました。
マハラノビス距離は、ある点がデータの分布(平均と散らばり方)からどれだけ離れているかを測る多変量の距離の指標です。平均から標準偏差にして何個分離れているかという考え方を多次元に広げたもので、共分散行列を使って変数ごとのばらつきの大きさや変数どうしの相関を考慮に入れます。そのため、データが楕円形に広がっているときに、各座標の差だけで測るユークリッド距離では見誤る、点と分布の近さを見積もるために使われます。G検定シラバス2024では、相関・多変量・距離の対象キーワードとして挙げられています。
AIシステムの稼働維持に加え、データの傾向変化によるモデルの精度低下に対応するため、監視や再学習の手順と責任範囲を委託者と受託者の間で定める契約です。
2つのクラスを分ける超平面の候補のうち、最も近い訓練データまでの距離(マージン)が最大になるものを選ぶという考え方で、最大マージン分類器の土台になるものです。
マルコフ決定過程(MDP)は、行動がすぐに得られる報酬だけでなく、その後の状態、さらにその先の報酬にも影響するような、続けて判断を重ねていく問題を定式化した古典的な枠組みです。
Mask R-CNNは、Faster R-CNNに物体マスクを予測する分岐を並列に追加し、物体の検出と同時にインスタンスごとのセグメンテーションマスクを生成する、インスタンスセグメンテーションの枠組みです。
最大値プーリングは、縦横に並んだ出力を小さな長方形の範囲(窓)ごとに区切り、各範囲で最も大きい値をその位置の出力として報告する演算です。入力を少しだけずらしても出力の大部分の値が変わらない、並進に対するおおむねの不変性をもたらします。
最尤法は、観測されたデータ一式が得られる確率が最も高くなるように、モデルのパラメータの値を選ぶ推定の方法です。統計学者フィッシャー(Fisher)が1922年の論文で定式化したもので、推定・検定・最適化の数学のなかで、手元のデータから母集団の割合や分布のパラメータを決めるときの基本的な考え方として使われます。
全データを均等にならして求める代表値で、合計をデータ数で割って計算します。すべての値を使うため情報の欠落は無い一方、極端な値1つで大きく動く弱点があります。
平均絶対値誤差(MAE)は、予測値と実際の値の差の絶対値を、N件のデータについて平均した回帰の損失指標です。誤差を2乗しないため外れ値の影響を受けにくく、予測値と同じ尺度で平均的な誤差の大きさを表すので、解釈しやすいのが特徴です。
平均二乗誤差(MSE)は、回帰モデルの予測値と実際の値の差を2乗し、データ全体で平均した指標です。値が小さいほど予測が実際の値に近いことを表し、モデルの評価や、訓練で最小化をめざす損失として使われます。
予測値と正解の値の差を二乗し、データ全体で平均した値を返す損失関数です。大きく外れた予測ほど値を大きく押し上げ、出力にガウス分布を仮定した最尤推定はこの関数を最小化する問題と同じになります。
中央値(Median)とは、データを小さい順に並べたときにちょうど真ん中に位置する観測値のことです。記述統計でデータの中心を表す値のひとつで、データを下位50%と上位50%に分ける境界として、箱ひげ図の中の線などに使われます。
メル尺度は、人間の音の高さの知覚が周波数に比例しない性質をモデル化した尺度です。音声認識の特徴抽出で、周波数ごとのエネルギーを集めるときの基準に使われます。
メル周波数ケプストラム係数(MFCC)は、音素の識別に役立つ側面を強調した音声波形の特徴量で、39次元のベクトルで表されます。
AIの軍事利用は、AI技術が兵器システムに応用される可能性をめぐる論点です。特定通常兵器使用禁止制限条約(CCW)の枠組みで、自律型致死兵器システムに関する政府専門家グループ(GGE LAWS)が2019年に11の指針をコンセンサスで採択しており、その中には国際人道法がすべての兵器システムに全面的に適用されるという指針と、兵器の使用に関する決定について人間の責任を保持しなければならないという指針が含まれます。
無作為に選んだ複数の事例の勾配を平均し、1回の反復につき1回だけ重みとバイアスを更新する学習法。フルバッチとSGDの中間に位置する。
Mini-Max 法とは、2人が交互に手を指すゲームで、自分の番には評価値が最大になる手が、相手の番には評価値が最小になる手が選ばれると仮定して先の局面をたどり、次の一手を決める探索の方法です。相手が最もよい応手を返しても確保できる評価値がいちばん高い手を選びます。
訓練データから無作為に選んだ2つの事例について、入力とone-hotラベルを同じ比率で線形に混ぜ、仮想的な訓練事例を作るデータ拡張の手法。丸暗記や敵対的サンプルへの弱さを和らげる。
MnasNetは、実機で測った推論遅延と精度の両方を目的に入れて、モバイル向けCNNを自動探索する手法と、その手法で得られたモデルです。
MobileNetは、モバイル機器や組み込み機器での画像認識向けに設計された効率的な畳み込みニューラルネットワークで、深さ方向分離畳み込みで軽量化し、2つのハイパーパラメータで大きさを調整できます。
最頻値(Mode)は、データの分布の中で際立った山(ピーク)として現れるもので、ヒストグラムを使って見つけます。記述統計でデータの分布の形をつかむ手がかりの一つで、際立った山の数によって、分布を単峰性・双峰性・多峰性に分けるときに使われます。
モデル圧縮とは、深層ニューラルネットワークの性能を大きく落とさずに、モデルを小さく、速く動くようにする技術の総称です。計算量とメモリの負担が大きいモデルを、メモリの少ない機器や応答の速さが求められる応用で動かすために使われます。G検定シラバスでは、モデルの解釈性と軽量化の項目に含まれ、プルーニング、量子化、蒸留などの具体的な手法をまとめる上位の概念にあたります。
モデル汚染は、機械学習モデルの重みや、学習済みモデルが配布・再利用される供給経路を汚す攻撃です。学習データそのものを汚すデータ汚染とは、何を汚すかという点で区別されます。
モデル窃取とは、開発されたAIモデルのパラメータや挙動そのものが不正に持ち出されること、または推論APIなどへの問い合わせを通じて実質的に再現されることを指す語です。NIST AI RMF 1.0は、AIシステムのエンドポイントを介したモデルの流出を一般的なセキュリティ上の懸念の1つに挙げています。学習データそのものが盗まれるデータ窃取とは、何を盗むかという点で区別されます。
SGDの更新量に、1ステップ前の更新量の一定割合γ(通常0.9前後)を加える最適化手法。勾配の向きがそろう方向には加速し、向きが入れ替わる方向の振動を抑える。
モニタリングとは、AIシステムの活用状況や、AIガバナンスの仕組みが有効に機能しているかを継続的に確認する活動です。AI事業者ガイドラインでは、共通の指針の安全性の項と、アジャイル・ガバナンスのサイクルの運用・評価の段階の両方に出てきます。
モンテカルロ法とは、乱数を使った試行を多数回くり返し、成功の割合や結果の平均から、厳密に計算しにくい量を近似的に求める方法です。ゲームの探索では、局面からランダムに対局を続けた結果の平均で局面を評価し、これを木の探索と組み合わせた方法をモンテカルロ木探索と呼びます。
形態素解析は、文を意味を持つ最小単位である形態素に分割し、語根や接辞といった形態素の種類を明らかにする処理です。自然言語処理の最初の段階であるトークン化と深く関係します。
移動平均は、時系列データのある時点を中心に、前後の一定期間の観測値を平均して、その時点のトレンドサイクル(データの大きな流れを表す成分)を推定する手法です。時系列データをいくつかの成分に分ける古典的な時系列分解では最初の段階で使われ、細かな揺れを取り除いた滑らかな動きを取り出すために用いられます。
マルチエージェント強化学習は、複数のエージェントが同じ環境の中で協調したり競い合ったりしながら同時に学習する、強化学習の設定です。
バンディットアルゴリズムは、k個の選択肢の中から1つを選ぶことを繰り返し、選んだ行動に応じて受け取る数値の報酬の合計の期待値を、ある期間にわたって最大化することを目指す問題(k本腕バンディット問題)を解くための手法です。この問題は、取った行動がどれだけ良かったかだけが返ってくるという強化学習の性質を、単純な設定で学ぶために使われます。
クエリ・キー・値を、学習された異なる線形写像でh組の低次元表現へ写し、各組でアテンションを並列に計算してから連結・再写像する仕組み。異なる表現部分空間の情報を同時に捉えられる。
多層パーセプトロンは、入力層と出力層の間に1つ以上の隠れ層を持つニューラルネットワークです。1つひとつのニューロンの計算は線形ですが、隠れ層を持つことで入力データを別のパラメータの組み合わせで再構成できるようになります。
マルチタスク学習は、関連する複数のタスクを1つのモデルで並列に学習し、タスク間で共有する表現を通じて、あるタスクで学んだことを他のタスクの学習にも役立てる手法です。帰納転移と呼ばれる考え方の一つで、主な目的は汎化性能を高めることです。ニューラルネットワークでは、1つの共有の隠れ層の上にタスクごとの出力を並べ、すべての出力を同時にバックプロパゲーションで学習する形で実現されます。
入力がn個のクラスのどれに当たるかを予測する分類で、二値の分類でシグモイド関数が表していた確率をsoftmax関数でn個の値の確率分布へ一般化して扱う。
対象同士の非類似度に点同士の距離が対応するように、対象を低次元の空間の点として配置する手法
マルチモーダルとは、テキストや画像、音声など異なる種類の情報を統合して扱う技術です。複数のモダリティを共通の特徴空間に対応づけ、高度な認識や生成を実現します。
統計学の呼び方で、2個以上の説明変数を使って1つの目的変数を予測・説明する回帰分析。説明変数が1個の単回帰分析と対になる語で、ほかの変数の影響を取り除いたうえで、それぞれの説明変数が持つ固有の影響の大きさを評価できる。
相互情報量は、2つの確率変数のうち一方を知ることで、もう一方の不確実性がどれだけ減るかを測る情報理論の指標です。正式には、2つの確率変数の同時確率分布と、それぞれの周辺確率分布を掛け合わせた分布との隔たり(相対エントロピー)として定義されます。変数どうしの関係の強さを表す指標として、直線的な関係を測る相関係数と並べて学ぶ語で、G検定シラバスでは中項目の相関・多変量・距離に含まれています。
マイシン(MYCIN)は、感染症の診断と抗生物質の処方という医師の判断を手伝うために作られたエキスパートシステムです。医師の知識をIF-THEN形式のルールとして知識ベースに蓄え、推論エンジンがそのルールを患者の情報に当てはめて結論を導くという、知識と推論の仕組みを分けた作りをとっていました。
n-gramとは、テキストから連続するn個の文字や単語を切り出す手法です。語の並び順や文脈を考慮できる一方で、nを大きくするとデータが疎になる性質を持ちます。
自然言語処理とは、人間が使う言葉をコンピュータに解析や生成させる技術の総称です。形態素解析などの基礎処理から大規模言語モデルまで幅広い領域を含みます。
ネオコグニトロンは、Kunihiko Fukushima が1980年の論文で提案した、視覚のパターン認識の仕組みを表すニューラルネットワークモデルです。教師なし学習で自己組織化し、図形の位置がずれても、形の幾何学的な類似性に基づいてパターンを認識できるようになることを目指しました。自己組織化が終わると、Hubel と Wiesel が提案した視覚神経系の階層モデルに似た構造になると論文は述べています。
NASは、ニューラルネットワークのアーキテクチャ設計を自動化する手法です。RNNのコントローラが構造を生成し、その検証精度を報酬にして強化学習で探索を改善します。
ニューラルネットワークは、ノードと呼ぶ小さな計算単位を層の形につなぎ、入力された数値を層ごとに変換して予測や分類の答えを出す計算モデルです。各ノードは入力に重みを掛けて足し合わせ、バイアスを加えた値を活性化関数に通します。答えが正解に近づくように重みとバイアスをデータから調整することを学習と呼び、隠れ層を何層も重ねた形がディープラーニングの土台になっています。
NeRFは、少数の入力視点画像からシーンを連続的な5次元関数としてMLPで学習し、新しい視点から見た画像を合成する手法です。
コスト関数の極値を探索するアルゴリズムは、あらゆるコスト関数で平均すると性能がまったく同じになるという定理。万能に優れたアルゴリズムは存在しないことを示す。
画像や動画の画素値に、正規分布(ガウス分布)からサンプリングしたノイズを足すデータ拡張の手法。正規分布の平均と標準偏差で、足すノイズの中心とばらつきを決める。
ネットワークの重みに学習可能なノイズを加え、そのノイズが方策に生む確率的なゆらぎを効率的な探索に役立てる深層強化学習の手法です。
業務で開示する秘密情報の漏洩や目的外利用を防ぐ契約です。合意により保護範囲を柔軟に定められますが、効力は契約当事者のみに限定されるため、法律上の保護と併用します。
平均と標準偏差の2つのパラメータで形が決まり、平均を頂点として左右対称の釣り鐘形に広がる連続型の確率分布です。ガウス分布とも呼ばれます。独立な多数の確率変数の和が近似的にこの分布に従うこと(中心極限定理)と、分散が同じ分布の中で不確かさが最も大きいことから、機械学習では実数の値をとる変数の分布として既定の選択になります。
新規性とは、発明が特許出願前に日本国内又は外国において公然知られておらず、公然実施もされておらず、刊行物への記載や電気通信回線を通じた公開によって公衆に利用可能にもなっていない、という性質です。特許法第29条第1項は、産業上利用できる発明について特許を受けられることを原則としつつ、この3つの号に当たる発明を除いています。
帰無仮説とは、統計的検定で棄却するかどうかを判断する対象になる、プロセスについての予想や仮説のことです。統計的検定は、この仮説を棄却できるだけの十分な証拠があるかどうかを判断する仕組みです。帰無仮説は、対になるもう一つの仮説(対立仮説)と組にして立てます。データから計算した検定統計量が、あらかじめ決めた臨界値の外側に出たら棄却します。
物体検出は、画像中の物体がどのカテゴリーに属し、どこにあるかを長方形の矩形(バウンディングボックス)で示すタスクです。一般物体認識の中では、画像全体の分類より一段難しい位置づけにあります。
物体識別は、画像全体に1つまたは複数のカテゴリーラベルを付与するタスクです。一般物体認識が扱う5つのタスクのうち、最も標準的な画像全体のカテゴリー分類にあたります。
オッカムの剃刀は、単純な説明やモデルを、より複雑なものよりも優先するという考え方です。機械学習では、単純なモデルは訓練データでの成績が少し劣っても、新しいデータに対しては複雑なモデルよりよく汎化することが多い、という考え方の土台になっています。
オフライン強化学習は、環境と新たに対話せず、あらかじめ集めた固定のデータセットだけから方策を学ぶ強化学習の枠組みです。
1つの要素だけが1で残りがすべて0のベクトルです。語彙の単語や分類のクラスを表すのに使われ、埋め込み行列に掛けると対応する単語の埋め込みを取り出せます。
ワンショット(One-shot)とは、新しいクラスについてラベル付きの例をたった1つだけ与えられ、そこから学習してそのクラスを見分けられるようにする課題設定です。少ないデータで新しい概念をすばやく学ぶ研究の中で使われる考え方で、クラス数N・1クラスあたりの例の数kで課題を表すN-way k-shotの枠組みでは、kが1のときにあたります。
モデルを継続的に、あるいは頻繁に学習し直し、直近に学習したモデルを使う運用方式。動的学習とも呼ばれ、一度だけ学習して使い続ける静的学習(オフライン学習)と対比される。
オントロジーとは、ある対象について何があり、それらがどう関わり合うかというとらえ方(概念化)について、はっきりと書き出した仕様のことです。トーマス・R・グルーバー(Thomas R. Gruber)が1993年の論文で「概念化の明示的な仕様」と定義しました。
オープンデータセットは、誰でも自由に使い、再利用し、再配布できる条件で公開されたデータの集まりのことです。ただし、このページの根拠にした2つの資料は、どちらもオープンデータを定義した資料です。機械学習の研究や開発のために公開されたデータの集まりそのものを定義した資料ではありません。そのため、このページではオープンデータの定義を土台にしてオープンデータセットを説明します。国際的な定義(Open Knowledge Foundation の Open Data Handbook)では、出典の表示と、同じ条件での共有を求められることがあるのを除いて、誰でも自由に使い、再利用し、再配布できるデータをオープンデータとしています。日本の「オープンデータ基本指針」では、二次利用できるルールが適用されていること、機械判読に適していること、無償で利用できることの3つを満たす形で公開された官民データをオープンデータとしています。
オープン・イノベーションとは、知識を組織の内部だけで抱え込まず、外部から意図的に取り込み、また外部へ意図的に送り出すことで、内部のイノベーションを加速させ、イノベーションが外部で使われる市場を広げるという考え方です。ヘンリー・チェスブロウ(Henry Chesbrough)が提唱した定義として知られています。
OpenAI Fiveは、Dota 2で世界チャンピオンを破った最初のAIシステムで、人間のデータを使わず自己対戦による大規模な強化学習で訓練されました。
OpenPoseは、Part Affinity Fields(PAF)で身体部位を個々の人物に対応づけるボトムアップ方式の複数人物2次元姿勢推定システムで、体・足・手・顔を扱う初のオープンソースのリアルタイムシステムです。
外れ値とは、データの残りの部分と比べて極端に見える観測値のことです。記述統計でデータのばらつきを調べるときの確認項目の一つで、箱ひげ図などで見つけます。見つけた外れ値は、分布の強い歪みや、データの収集・入力の誤りを発見する手がかりになります。データの興味深い性質を知るきっかけにもなります。
出力層は、ニューラルネットワークの最後にあり、モデルの最終的な予測値を出す層です。すべてのニューラルネットワークは、入力層と出力層、そしてその間にある任意の数の隠れ層から成り立っています。
過学習は、モデルが訓練データに対しては小さな誤差で予測できるのに、学習に使っていない新しいデータでの誤差(テスト誤差)との差が大きくなりすぎた状態です。多様な関数に当てはまる能力(容量)が大きすぎるモデルが、新しいデータでは役に立たない訓練データ特有の性質まで覚え込むことで起こります。
パディングとは、畳み込みの前に入力の外周へ値(多くの場合0)を付け足す処理です。付け足さないと、幅mの入力に幅kのカーネルを当てた出力の幅はm-k+1となり、層を通るたびにk-1ずつ縮みます。0を付け足すゼロパディングを使えば、カーネルの幅とは別に出力の大きさを決められます。
画像の各画素に意味ラベルと個体IDを割り当て、stuffとthingsを1つの枠組みで扱うタスクです。セマンティックセグメンテーションとインスタンスセグメンテーションを統合するものとして提案されました。
機械翻訳の訓練データを増やすため、目標言語だけの文を中間の翻訳システムで元の言語へ訳し、合成の対訳文を作る逆翻訳を通じて理解する語。
「AはBの構成要素である」という部分と全体の関係を表す、知識表現における関係性の一つです。has-aの関係を構成部品側から見た裏返しの関係でもあります。
偏相関係数とは、2つの変数の相関から、第3の変数とのあいだにある線形の関連を差し引いたあとに残る相関を表す値です。第3の変数が1つのときは、3つの変数どうしの通常の相関係数だけから式で計算でき、値はマイナス1からプラス1の範囲で、通常の相関係数と同じように読みます。ここで差し引くのは統計上の線形の関連であり、第3の変数が持つ因果的な影響を取り除いたことや、残った相関が因果関係であることを示すものではありません。
技術的な発明の公開を条件に独占的な実施権を認める法律です。特許庁への出願と登録が必要であり、人工知能そのものを発明者として登録することはできません。
特許権は、発明について特許を受けた者に認められる権利で、特許法第66条第1項により設定の登録によって発生します。業として特許発明を実施する権利を専有する効力を持ち(第68条)、その及ぶ範囲は特許請求の範囲の記載に基いて定められます(第70条第1項)。存続期間は特許出願の日から二十年とされています(第67条第1項)。
PaLM(Pathways Language Model)は、規模がfew-shot学習に与える影響を調べるために訓練された、5400億パラメータの密に活性化されたTransformer言語モデルです。
パーミュテーションインポータンスは、ある入力変数の値をランダムに並べ替えたときに予測の誤りがどれだけ増えるかで、その変数が予測にどれだけ重要かを測る手法です。ブレイマン(Breiman)が2001年のランダムフォレストの論文で、多数の木からなるモデルの仕組みを読み解くための手順として示しました。モデルの解釈性を高める手法の一つとして使われます。
個人データとは、個人情報保護法で、個人情報データベース等を構成する個人情報を指す語です。個人情報のうち、検索できるように体系的に構成された集合物に含まれるものを取り出した区分です。
個人情報とは、個人情報の保護に関する法律の第二条第一項が定める、生存する個人に関する情報のうち、氏名や生年月日などの記述等で特定の個人を識別できるもの（他の情報と容易に照合でき、それによって特定の個人を識別できるものを含む）、または個人識別符号が含まれるものを指します。個人データや要配慮個人情報など、同じ法律の中で使われる関連する概念の出発点となる定義です。
音素は、ある言語で語の意味を区別する最小の音の単位を抽象的に表したものです。実際に発音される具体的な音(音。フォン)とは区別され、スラッシュで表記します。
音韻は、ある言語で音声がどのように組織化されているか、その体系や、それを研究する分野(音韻論)を指す語です。音の違いが意味を区別するかどうかを中心に扱います。
Pix2Pixは、条件付きGANを使って画像から画像への変換問題を汎用的に解く手法で、変換の対応づけと、それを訓練する損失関数の両方を学習します。
ポアソン分布は、決められた時間の区間の中で事象が起きる回数を表す離散型の確率分布です。区間内で事象が起きる平均の回数だけで分布の形が決まり、指数関数を使った式でちょうどその回数になる確率を計算できます。標準偏差は平均の回数の平方根になります。
方策勾配法は、方策そのものをパラメータthetaで表し、性能指標J(theta)の勾配の方向にthetaを更新して方策を学習する手法の総称です。
姿勢推定は、画像に写る人物の解剖学的なキーポイント(身体の部位)の位置を特定する課題です。複数人物を扱うときは、トップダウン方式とボトムアップ方式という2つの進め方が対比されます。
再帰も畳み込みも持たないTransformerに系列の順序を伝えるため、トークンの位置の情報を入力の埋め込みに加算するベクトル。原論文では周波数の異なる正弦波で作る。
事前学習済みモデルとは、あるデータセットとタスクで訓練を終え、学習した重みを持っているニューラルネットワークそのものを指す語です。転移学習の出発点として使われます。このモデルの層を別のタスク用のネットワークへコピーし、コピーした層を固定したまま使うか、新しいタスクに合わせて微調整するかを選んで利用します。
事前学習とは、ニューラルネットワークに本来の課題を学ばせる前に、別の学習を先に行って重みの初期値を整えておく段階です。代表例の貪欲な層ごとの教師なし事前学習では、正解ラベルの無いデータで層を1つずつ学習させます。そのあとに続く段階では、事前学習で得た特徴の上に分類器だけを学習させる場合と、全層をまとめてファインチューニングする場合があります。
適合率（Precision）は、分類モデルが陽性と予測したもののうち、実際にも陽性だった割合を表す評価指標です。陽性という予測がどれだけ当たっているかを測るもので、真陽性(TP)と偽陽性(FP)を使って TP / (TP + FP) で求めます。
n次元のデータ点をできるだけ情報を失わないように、より少ないl次元の符号へ圧縮する手法で、基礎的な線形代数の知識だけから導くことができます。
プライバシー・バイ・デザインは、2009年にAnn Cavoukian(当時のカナダ・オンタリオ州情報プライバシーコミッショナー)が7つの基本原則として提唱した考え方です。システムの設計段階からプライバシー保護の仕組みを組み込むことを指します。AI事業者ガイドラインでは、プライバシー保護のための仕組み及び対策の導入の一例として、この語がそのまま使われています。
確率密度とは、連続した実数の値をとる確率変数について、その値がある区間に入る確率を、密度関数という関数を積分して求めるための考え方です。確率の基礎の一部で、連続的な量を扱う確率の計算の土台として使われます。
確率分布とは、実験の結果を値として表す確率変数について、起こりうる結果の一つひとつにどれだけの確率を割り当てるかを定めたものです。確率の基礎の中心にある考え方で、各結果に割り当てる値が0以上であり、すべての結果の値を合計すると1になるという2つの条件を満たします。ある事象の確率は、その事象に含まれる結果の値を足し合わせて求めます。ここでは、結果が有限個しかない離散的な実験を対象に説明します。
PoC(概念実証、Proof of Concept)は、新しいアイデアや技術が本当に実現できるかどうかを、本格的に開発や導入をする前に、小さな規模で試して確かめる取り組みです。
第三者提供とは、個人情報取扱事業者が個人データを第三者に渡すことです。個人情報保護法第27条第1項により、法律に定める場合を除いて、あらかじめ本人の同意を得なければなりません。例外として、オプトアウトの手続を踏んだ提供(第27条第2項)があります。また、利用目的の達成に必要な範囲内の委託に伴う提供は第三者提供に当たりません(第27条第5項第1号)。関連する決まりとして、外国にある第三者への提供の制限(第28条)と、提供したときの記録の作成義務(第29条)があります。
PPOは、環境との対話によるデータ収集と、確率比をクリップした代理目的関数の最適化を交互に繰り返す方策勾配法の手法群です。TRPOの長所を保ちながら、実装がずっと単純になっています。
代理変数(proxy)とは、センシティブ属性そのものではないのに、それと強く相関するために間接的に同じ働きをしてしまう特徴量のことです。Fairness and Machine Learning(Barocas, Hardt, Narayanan)は、センシティブ属性を取り除いても、分類器が他の特徴量からその属性を再構成してしまうと説明し、これを冗長な符号化(redundant encoding)と呼んでいます。日本のAI事業者ガイドラインにこの語そのものは出てきません。ただし、関連する情報からセンシティブ属性が類推されてしまう場合がある、という記述があり、代理変数の考え方に近い内容です。
プルーニングは、訓練したニューラルネットワークの接続(重み)のうち重要でないものを取り除き、精度を保ったまま記憶容量と計算量を減らす手法です。モデルの軽量化の代表的な手法の一つで、計算資源の限られた組み込みシステムなどへモデルを載せるために使われます。
仮名加工情報とは、個人情報から氏名などの記述や個人識別符号を削除または置換し、他の情報と照合しない限り特定の個人を識別できないように加工した、個人に関する情報である(個人情報保護法第2条第5項)。他の情報と照合すれば識別できる状態に戻りうる加工であり、元の個人とのつながりは消えていない。法は、この性質を踏まえて、通常の個人情報とは異なる特別な規律を設けている。
A-D変換で得た振幅の数値列を、圧縮せずそのまま整数として線形に記録する方式です。μ-lawのような対数圧縮と対比されます。
利用目的とは、個人情報取扱事業者が個人情報を取り扱う目的のことです。個人情報保護法第17条第1項は、事業者にこの目的をできる限り特定する義務を課しています。特定した利用目的をもとに、3つの規律が置かれています。変更できる範囲の制限(第17条第2項)、目的の範囲を超えた取扱いの制限(第18条)、取得したときの通知または公表(第21条第1項)です。
PSPNetは、ピラミッドプーリングモジュールで異なる領域ごとの文脈情報を集約し、大域的な文脈をピクセルレベルの予測に取り込むシーン解析のためのネットワークです。
Pythonは、コンピュータに処理を指示するためのプログラミング言語の一つです。開発元の公式サイトでは、素早く作業でき、システムをより効果的に統合できるプログラミング言語だと紹介されています。また、公式サイトの概要では、インタプリタ型・オブジェクト指向・高水準で、動的な意味論を持つプログラミング言語だと説明されています。
Q学習は、Watkins(1989)が提案した強化学習の方策オフ型(off-policy)のTD制御アルゴリズムで、行動価値関数Q(s,a)を1ステップごとに更新し、実際に従っている方策によらず最適な行動価値関数に直接近づけていく手法です。
量子化は、ニューラルネットワークの重みや活性化の値を、32ビットの浮動小数点数のような高精度な表現から、8ビット整数のような少ないビット数の表現へ変換する手法です。モデルの軽量化の手法の一つで、スマートフォンなどのモバイル機器の上で、少ないメモリと短い遅延で推論を行うために使われます。
準委任契約とは、成果物の完成を保証せず業務遂行を目的とする契約形態です。試行錯誤が多く仕様を事前に確定できないAI開発のPoCや探索的フェーズに適しています。
アテンション関数で、各キーとの適合度から値への重みを決めるための問い合わせにあたるベクトル。Transformerでは複数のクエリを行列Qにまとめて扱う。
質問応答は、与えられた質問に答えを返す自然言語処理の課題です。最も古いNLPタスクの一つで、文書を与えて答えるopen book QAと、言語モデルから直接答えるclosed book QAの区別があります。
質問応答システムは、質問応答というタスクを実際に解くために作られてきた具体的な実装の系譜です。1961年のBASEBALLから、IBMのWatson、今日の実装形態まで続いてきました。
Rainbowは、DQNに対して別々に提案された6つの拡張を1つのエージェントに組み合わせたものです。Atari 2600のベンチマークで、データ効率と最終性能の両方で最先端の結果を示しました。
画像のデータ拡張の手法で、変換を一様な確率で選び、適用する変換の数Nと全変換に共通する強さMの2つだけを調整する。自動化されたデータ拡張の探索空間を大幅に縮めた。
訓練時に画像内の長方形の領域を無作為に選び、その画素をランダムな値で消去する(遮蔽する)データ拡張の手法。過学習を抑え、遮蔽に強いモデルを作る。
与えられた画像を、指定した確率pで無作為に左右反転させるデータ拡張の手法。PyTorchでは既定値p=0.5で、画像分類の標準的な拡張手順の一部として広く使われる。
ランダムフォレストは、ブートストラップ標本ごとに多数の決定木を作り、各分割で使う説明変数をランダムに絞り込むことで木どうしの似かよりを減らし、それらの予測を組み合わせるアンサンブル学習の手法です。
ハイパーパラメータの各設定を、あらかじめ指定した分布から無作為に抽出して探索する手法。試行回数を自由に決められ、性能に効かないパラメータが混じっても探索の効率が落ちない。
確率変数とは、偶然に左右される実験の結果を表す変数で、Xのような大文字のローマ字で書き表します。確率の基礎を学ぶときの出発点になる語で、すべての可能な結果の集まりである標本空間や、その一部である事象と組み合わせて、実験の結果を言葉や記号で扱うために使われます。
再現率(Recall)は、実際に陽性であるもののうち、モデルが正しく陽性と予測できた割合です。真陽性率や検出率とも呼ばれ、見逃し(偽陰性)をどれだけ少なくできているかを表す分類モデルの評価指標です。
ROC曲線は、分類モデルのしきい値を動かしながら、各しきい値での真陽性率(TPR)と偽陽性率(FPR)の組を点として描いたグラフです。しきい値を1つに決めずに、すべてのしきい値にわたるモデルの性能を目で見て評価するために使います。
ユーザーの行動履歴やアイテムの属性を分析し、最適な商品やコンテンツを予測して提案するシステムです。情報の過負荷を解消し、顧客体験と成約率の向上に貢献します。
リカレントニューラルネットワーク(RNN)は、文章の単語の並びや時刻ごとの測定値のように順序を持つデータ(系列データ)を扱うためのニューラルネットワークです。各時刻の入力と、1つ前の時刻から引き継いだ隠れ状態とから、その時刻の隠れ状態を計算します。この計算にはすべての時刻で同じ重みを使うので、長さの違う系列にも同じモデルを当てはめられます。
入力をもとに、ひとつの数値を予測する課題。入力がどのカテゴリに属するかを答える分類問題とは、出力の形式が異なる。
正則化とは、学習アルゴリズムに加える修正のうち、訓練データに対する誤差ではなく、未知のデータに対する誤差である汎化誤差を減らすことを意図したものの総称です。損失関数にペナルティ項を加える方法はその一部にすぎず、パラメータの値に制約を課す方法なども含みます。
REINFORCEは方策勾配法の古典的なアルゴリズムで、時刻tに実際に取った1つの行動Atと、エピソードの終わりまでの完全な収益Gtを使って方策のパラメータthetaを更新します。エピソードが終わってから更新するので、モンテカルロ法の一種です。
強化学習は、置かれた状況に応じてどの行動をとるかの決め方を学ぶ機械学習の方法で、数値で与えられる報酬ができるだけ多く得られるように行動の選び方を身につけます。正解を教わるのではなく、自分で行動を試した経験から学ぶ点に特徴があります。
RLHFは、報酬関数を人が書く代わりに、人間が行動の断片どうしを比べた好みから報酬関数を学び、その報酬で方策を訓練する強化学習の手法です。
ニューラルネットワークの活性化関数の1つで、入力zに対してg(z) = max{0, z}を返します。0以下の入力は0に置き換え、正の入力はそのままの値で出力します。英語のRectified Linear Unit(整流線形ユニット)の略で、深層学習の教科書では現代のニューラルネットワークで既定の推奨とされる活性化関数として紹介されています。
再現性は、AI事業者ガイドラインの文脈では、AIシステムがどのように動いたかを後から検証できる状態を指す。そのためにログを記録・保存する。機械学習の一般的な文脈では、同じデータと同じ設定を使えば同じ結果が得られることを指す。2つは重点が違うため、分けて理解する。
人が設計したフィードバック制御器の出力と、強化学習で学習した方策の出力を足し合わせて制御指令にし、従来の制御では扱いにくい残りの部分だけを強化学習に学ばせる手法です。
ResNetは、数層ぶんの入力をそのまま出力へ足し合わせるショートカット結合を持ち、層には入力との差である残差を学習させることで、非常に深いネットワークの学習を可能にした画像認識のモデルです。2015年に発表され、複数のResNetを組み合わせたアンサンブルでILSVRC 2015の分類タスク1位(top-5エラー率3.57%)を得ました。
死者への敬意は、故人のデータを扱うサービスや技術において、亡くなった人の尊厳をどう守るかという論点です。Öhman と Floridi の2017年の論文は、故人のデータをオンラインで扱う産業(デジタル・アフターライフ産業、DAI)を分析しています。論文は、DAIが死者の情報的身体を改変しようとする動機を持ちうること、それが人間の尊厳の原則の侵害と見なされうることを論じています。そのうえで、有機的な遺体の取扱いに関する倫理的慣行が、将来の規制のモデルになりうると提案しています。なお、AI事業者ガイドラインと人間中心のAI社会原則には、死者や故人の再現についての直接の記述は、確認した範囲では見当たりませんでした。
競争制限とは、独占禁止法が私的独占と不当な取引制限の両方に共通して定める要件で、公共の利益に反して一定の取引分野における競争を実質的に制限することを指します。
保有個人データとは、個人情報取扱事業者が開示・訂正・削除・利用停止・第三者提供の停止などを行う権限を持つ個人データのことです。ただし、その存否が明らかになると公益その他の利益が害されるものとして政令で定めるものは除かれます。個人情報保護法第16条第4項が定義しています。事業者には利用目的などを公表する義務があり、本人は開示・訂正等・利用停止等を請求できます。
強化学習で、MDPが本来与える報酬に追加の報酬を加えて学習を導く手法です。ポテンシャルの差の形なら最適方策が保たれます。
リッジ回帰(ridge regression)とは、ディープラーニングでL2正則化や重み減衰と呼ばれている考え方の、他の学術分野での呼び名です。学習で最小にする目的関数に重みの二乗の大きさに比例する項を加え、重みを原点の近くへ引き寄せます。
リスクベースアプローチとは、AIの利用で生じうるリスクの大きさ(危害の大きさ及びその蓋然性)を事前に把握し、対策の程度をそのリスクの大きさに対応させる考え方です。AI事業者ガイドライン(第1.1版)は、この考え方が重要であり、AI先進国間で広く共有されていると述べています。
Geoff HintonがCourseraの講義で提案した、未発表の適応学習率手法。勾配の2乗の指数移動平均で学習率を割り、Adagradの学習率が小さくなりすぎる問題を解消する。
二乗平均平方根誤差(RMSE)は、回帰モデルの予測値と実際の値のずれを測る指標で、平均二乗誤差(MSE)の平方根です。平方根を取るため、誤差をラベル(予測対象の値)と同じ単位で表せ、人が解釈しやすいという特徴があります。
画像を指定した角度だけ回転させるデータ拡張の手法。角度は範囲で指定し、その中から選んだ角度で回転させる。回転で生じる画素の位置のずれは補間の方式を指定して補う。
対訳辞書や変換の規則を使って、原文を訳文に置き換える機械翻訳の方式です。統計的な手法が使われる前の古典的な機械翻訳にあたり、直接方式・転移方式・中間言語方式の3つに分けられます。
ある次元では上り坂、別の次元では下り坂になっている点。周囲が平坦で全次元の勾配がほぼ0になりやすく、SGDによる誤差の最小化を停滞させる要因とされる。
サンプリングバイアスは、データを集める段階で、母集団を代表しないデータが集まることで生じる偏りです。原因がデータの集め方(由来)にある点で、モデルの学習過程やアルゴリズムの処理で生じるアルゴリズムバイアスと区別して理解します。
探索木とは、問題の初期状態を根にあたるノードに置き、そこから取れる行動ごとに次の状態を表すノードを枝分かれさせて作る木構造です。解を探す手続きは、この木を少しずつ広げながら目標の状態にたどり着くノードを見つけることにあたります。1つのノードから分かれる枝の数を b、解が見つかる深さを d とすると、幅優先探索で作られるノードの数は最大で b^(d+1) の程度まで増えます。分岐数10・深さ12では、およそ10の13乗個のノードに35年と10ペタバイトのメモリが要ると見積もられています。
セキュリティバイデザインは、システム開発の上流工程からセキュリティ対策を実装する取組です。デジタル庁は、政府情報システムでセキュリティ対策を確実かつ効率的に実装するためにその必要性が高まっていると述べ、各工程で実施すべき内容と要求事項をガイドラインにまとめています。
SegNetは、画素ごとの意味的セグメンテーションを行う全畳み込み型のエンコーダ・デコーダ構造のネットワークで、最大値プーリングのインデックスを使ってデコーダでアップサンプリングする点が特徴です。
キー・値・クエリのすべてを同じ場所、つまり同じ層の出力から取り出すアテンション。Transformerのエンコーダとデコーダの両方で使われ、系列内の位置どうしを一定回数の逐次演算で結びつける。
自己教師あり学習(Self-supervised Learning)は、人手によるラベル付け(アノテーション)を使わず、データそのものの性質から自動で作った疑似ラベルを使ってネットワークを訓練する学習法で、教師なし学習の一種に位置づけられます。あらかじめ設計した代理のタスク(pretext task)を解かせる過程で特徴を学ばせ、学んだパラメータを事前学習済みモデルとして、本来解きたいタスク(downstream task)へ転移し、ファインチューニングして使います。
概念をノード、概念同士の関係をエッジで結んで知識をグラフ構造で表現する手法です。上位概念の性質を下位概念へ継承させる論理推論を可能にします。
画像の各画素に1つずつクラスラベルを割り当てるタスクです。草や空のような数えられない領域(stuff)を扱う課題として定式化され、物体の個体は区別しません。
ウェブ上の情報に意味を付与し、機械が自律的に解釈・推論できるようにする技術構想です。RDFやオントロジーを基盤とし、知識グラフの土台として活用されています。
半教師あり学習は、教師あり学習と教師なし学習を組み合わせる機械学習の一分野です。少量のラベル付きデータに大量のラベルなしデータを加えてモデルを作ります。ラベル付きデータの入手に費用や手間がかかるコンピュータ支援診断・創薬・品詞タグ付けのような場面で、分類器の性能を高める目的で使われます。代表的な手法には、確信度の高い予測を疑似ラベルとして学習に加えていく自己学習法があります。G検定シラバスでは、転移学習・ファインチューニングの項目のキーワードに挙げられています。
センシティブ属性とは、人種・性別・宗教・障害の有無など、公平性の議論で直接の対象となる属性そのものです。技術文献では、母集団を互いに重ならないグループに分ける確率変数として扱われます。日本のAI事業者ガイドラインにもこの語が出てきます。
感情分析は、テキストにラベルを割り当てるテキスト分類の一種で、書き手がある対象に向ける肯定的または否定的な方向性(センチメント)を分類するタスクです。
長さがあらかじめ分からない入力系列を1つのLSTMで固定次元のベクトルにまとめ、別のLSTMでそのベクトルから出力系列を生成する、系列を系列へ写すための手法。
SHAP(SHapley Additive exPlanations)は、複雑な機械学習モデルがある1つの予測を出したときに、各特徴量がその予測にどれだけ効いたかを表す重要度の値を割り当てる、予測の解釈のための統一的な枠組みです。モデルの解釈性を扱う手法の1つで、LIMEなど既存の6つの手法を、加法的特徴量帰属という1つのクラスにまとめて位置づけ直した点に特徴があります。協力ゲーム理論のShapley値の考え方を土台にしています。
限定提供データとは、業として特定の者に提供する情報として、電磁的方法により相当量蓄積され、管理されている技術上または営業上の情報(営業秘密を除く)のことで、不正競争防止法が営業秘密とは別の枠組みで保護する対象です。
SHRDLUとは、テリー・ウィノグラード(Terry Winograd)が1971年のMITの技術報告書で示したプログラムで、積み木の世界について英語で対話し、質問に答え、命令を実行し、新しい情報を受け入れます。知識をルールの表やパターンの一覧ではなく、互いに呼び出し合う手続きとして表現した点に特徴があります。
シグモイド関数は、ニューラルネットワークの活性化関数として使われてきた関数で、Goodfellowらの教科書ではシグモイド関数を表す記号で表記され、入力が0のとき出力は1/2になります。入力の絶対値が大きい範囲では出力がほとんど変わらなくなる飽和という性質を持ち、勾配を使った学習を難しくするため、フィードフォワードネットワークの隠れ層で使うことは現在では勧められていません。
単純パーセプトロンは、隠れ層を持たず、入力層と出力層だけで構成されるニューラルネットワークの最も基本的な形です。計算が掛け算と足し算だけの線形計算なので、重みやバイアスをどう調整しても入力と出力の関係は線形のままで、非線形の関係を学習できません。
説明変数が1個のときに、目的変数との関係を y = a * x + b という1本の直線で表し、傾き a と切片 b を最小二乗法で求める統計学の分析手法。
シミュレーション環境で学習させたモデルや方策を、追加の学習をほとんど行わずに実世界のロボットなどで動かせるようにする、シミュレーションから現実への移転のことです。
SSDは、単一の深層ニューラルネットワークだけで画像中の物体を検出する手法です。領域提案の段階を持たず、複数の特徴マップ上のデフォルトボックスからカテゴリのスコアと位置の補正を予測します。
特異値分解（SVD）は、どんな実行列Aでも、直交行列U・対角行列D・直交行列Vの転置の3つの積 A = U D V^T に分解する方法で、正方でない行列にも使える点で固有値分解より適用範囲が広い。
シンギュラリティは、人間を超える知能を持つ存在が現れ、その先の変化を人間が予測できなくなる転換点を指す言葉です。SF作家で数学者のヴァーナー・ヴィンジが1993年の発表で論じたことで広く知られるようになりました。ただし、実際に起きるかどうか、いつ起きるかは専門家の間で議論が続いており、確かな事実として決まったものではありません。
ニューラルネットワークで、いくつかの層への入力xをその層の出力に足し合わせる配線です。層の組は目標の写像そのものではなく、入力との差である残差F(x)を学習すればよくなり、層を深くしたときに訓練誤差まで悪くなる劣化問題を和らげます。
スキップグラムは、現在の単語を入力にして前後の一定範囲の単語を予測する単語表現の学習モデルです。文脈から中心の単語を予測するCBOWとは、予測の向きが逆です。
ソフトローとは、法的な拘束力を持たず、関係者の自主的な取組みを促すことで目的の達成をめざす規律の形です。AI事業者ガイドライン(総務省・経済産業省)は、自らを非拘束的なソフトローと位置づけています。
ソフトマックス関数は、3つ以上の選択肢から1つを選ぶ多クラス分類で出力層に使う関数です。各クラスの確率を他のクラスと比べて相対的に決めるので、全クラスの確率を合計すると必ず1.0になります。
クラウド事業者が提供する完成したソフトウェアを、利用者がインターネット経由で利用する形態です。運用保守の負担を減らせる一方、AI利用時のデータ学習や精度保証の確認が必要です。
Transformerのデコーダにある注意機構の層。クエリはデコーダの1つ前の層から、キーと値はエンコーダの出力から受け取るため、デコーダの各位置が入力系列のすべての位置を参照できる。
受信したメールの本文や送信元を解析し、迷惑メールを自動で検知して隔離する仕組みです。大量の実例データから単語の偏りを学習し、ルールの手作業作成による限界を解決しました。
話者識別は、入力された声を多数の話者のデータベースと照合し、N人のうち誰の声かを当てる話者認識の下位タスクです。
要配慮個人情報は、個人情報保護法第二条第三項が定める個人情報の一種です。人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実など、本人が不当な差別や偏見などの不利益を受けないよう、取扱いに特に配慮を要する記述等を含むものを指します。法律が示す類型に加えて、施行令第二条が心身の機能の障害、健康診断等の結果、保健指導や診療・調剤、刑事手続、少年保護事件の手続という5つの類型を定めています。
スペクトル包絡は、音声の周波数スペクトルにある細かい山谷をならし、大まかな輪郭線として表したものです。声道フィルタの形とフォルマント構造を反映します。
音声生成は、音声や音楽などの音のデータを機械学習モデルに作り出させるタスクの総称で、音声合成や音楽生成、声質の変換など幅広い応用を持ちます。
疑似相関は、2つの変数の間にデータの上では関連が見えるのに、その2つの間に因果関係が無い状態を指します。関連は偶然によって生じることもあれば、2つの変数の両方に影響している見えない第三の変数によって生じることもあります。関連そのものは実際に観測されていて、誤っているのは「一方がもう一方を引き起こしている」という読み方のほうです。
SENetは、畳み込みニューラルネットワークにSqueeze-and-Excitation(SE)ブロックを積み重ね、チャネル間の依存関係を明示的にモデル化して特徴を再調整するアーキテクチャです。ILSVRC 2017の分類部門で1位になりました。
積層オートエンコーダは、隠れ層が1つだけの浅いオートエンコーダを何段も積み重ねて、深いオートエンコーダを作る考え方です。深いオートエンコーダは浅いものより優れた圧縮を得られると報告されており、その訓練では浅いオートエンコーダを下の段から1つずつ学習させる貪欲な事前学習がよく使われます。
値のばらつきの大きさを表す量で、分散の平方根として定義されます。分散は偏差を2乗するため単位も2乗されますが、標準偏差は平方根をとることで元のデータと同じ単位に戻ります。確率変数の分布に対して期待値で定義される分散の平方根が理論上の標準偏差で、観測したデータからは、データの個数より1少ない数で割って求めた不偏分散の平方根として計算します。
STRIPS(STanford Research Institute Problem Solver)は、ロボットが目標を達成するための行動の順番を組み立てる問題解決プログラムです。1971年にリチャード・E・ファイクス(Richard E. Fikes)とニルス・J・ニルソン(Nils J. Nilsson)が論文で発表しました。世界の様子を一階述語論理の論理式の集まりで表し、一つ一つの行動(オペレータ)を前提条件・削除リスト・追加リストの三つで書きます。
SARSAは、行動価値関数Q(s,a)を学習する方策オン型のTD制御法です。1回の遷移に含まれる状態・行動・報酬・次状態・次行動の5つ組(St,At,Rt+1,St+1,At+1)をすべて使って更新することから、この名前が付いています。
状態表現学習は、エージェントの行動によって時間とともに変化する低次元の特徴を学ぶ表現学習の一分野です。ロボティクスや制御に特に適しています。
状態価値関数 v_pi(s) は、ある方策 pi のもとで状態 s から始め、その後も pi に従って行動し続けたときに得られると期待される収益(期待収益)を、状態ごとに表す関数です。
ある言語の文が与えられたときに、別の言語のどの文が訳文として出てくるかを確率として扱い、その確率にもとづいて翻訳を行う考え方です。
大量のテキストから単語の出現確率を計算して言語を扱う手法です。ルールベースから発展し、現代のディープラーニング言語モデルの基礎となる考え方を提供しました。
重みとバイアスを更新するたびに、無作為に選んだ1件の例だけで勾配を計算する勾配降下法の手法。十分な反復で機能するが、ノイズが大きい。
ストライドとは、畳み込みの出力をs画素ごとに1つを取り出すときの、その間引きの幅sです。カーネルをs画素ずつずらして当てることにあたり、sを大きくするほど出力の特徴マップは小さくなります。
強いAIとは、哲学者ジョン・R・サールが1980年の論文で「強いAI」と「弱いAI」と呼んで区別した立場の一方です。適切なプログラムを実行するコンピュータは、心の研究の道具にとどまらず、それ自体が文字どおり理解し心を持つとする主張を指します。サール自身はこの立場を中国語の部屋という思考実験で批判しました。
教師あり学習は、正しい答えを知っている外部の教師が用意した、ラベル付きの訓練例から学ぶ機械学習の型です。訓練例をなぞるだけでなく、訓練例に無い状況でも正しく振る舞えるよう応答を一般化することを目的とします。
線形関数 wx+b の符号でデータをクラスに分け、訓練データから最も離れた境界、つまりマージンが最大になる超平面を選ぶという考え方に立つ、教師あり学習の分類手法です。
シンボルグラウンディング問題は、コンピュータが形だけで操作する記号に、ほかの記号ではない何か、たとえば感覚でとらえた対象を使って、どうすれば意味を結びつけられるかを問う問題です。1990年に認知科学者のスティーブン・ハルナッドが提起しました。
構文解析は、文の中の単語どうしのつながりを明らかにして文の構造を求める処理です。依存文法では、単語間の有向でラベル付きの関係で構造を表します。
高次元のデータ点どうしの近さを確率で表し、その関係をなるべく保つように2次元や3次元の地図へ点を置き直す可視化の手法。SNEを土台に、低次元側の類似度の計算にスチューデントのt分布を使う。
tanh 関数は、ニューラルネットワークの活性化関数の1つで、入力 z に双曲線正接 tanh(z) を当てて出力します。入力が0のとき出力は0になり、出力はマイナス1からプラス1の間に収まります。シグモイド関数 σ とは tanh(z)=2σ(2z)-1 の関係にあり、シグモイド系の関数を使う場合には tanh 関数の方がよい性能を示すことが多いとされます。
出力から次の時刻の隠れ状態への結合を持つRNNで、訓練時に正解の出力y(t)を次の時刻の入力として与える訓練手法。推論時はモデル自身の出力で代用する。
公正競争阻害性とは、独占禁止法が不公正な取引方法を定める第二条第九項第六号に書かれている、公正な競争を阻害するおそれという性質を一語で表した言葉です。
TPU(Tensor Processing Unit)は、GoogleがAIの計算処理のために一から設計した独自のASIC(特定用途向け集積回路)です。機械学習でよく使われる大きな行列演算を効率よく処理でき、CPUやGPUよりもさらにAI処理へ特化したプロセッサとして位置づけられます。
TF-IDFは、単語が文書内でどれだけ多く現れるかを表すtfと、その単語が現れる文書の少なさを表すidfを掛け合わせ、文書に特徴的な単語ほど大きな値を与える重み付けの方法です。
利用規約は、サービスの提供者が利用者との間の利用条件をあらかじめ定めた文書です。著作権法の語ではなく契約の語で、民法の側に属します。不特定多数を相手に画一的な条件で提供されるサービスの利用規約は、民法第548条の2第1項の定型約款に当たると一般に考えられています。AIサービスでは、生成物の権利の帰属や学習への利用などを当事者の間で定める手段として働きます。
文章生成とは、言語モデルが定める確率に従ってサンプリングを行い、新しい文や文章を作り出すタスクです。確率の高い文ほど生成されやすくなります。
テキストからの画像生成(Text-to-Image)は、人が書いた文章の説明を入力として受け取り、その内容に沿った画像を自動で合成するタスクです。文章と画像という異なる種類のデータを結びつけるマルチモーダルな課題の一つで、初期には2016年にリード(Reed)らが、GANをテキストの特徴量で条件づける方法で、鳥や花の説明文からそれらしい画像を生成できることを示しました。
音声合成(TTS)は、テキストを入力として、そのテキストに対応する音声波形を生成するタスクです。音声認識(ASR)とちょうど逆向きの変換にあたります。
時系列データは、ある量を時間の経過に沿って観測し、観測した時刻の順に並べたデータです。1日ごとの株価やセンサーの計測値のように、個々の値だけでなく値が現れた順番も情報の一部です。深層学習では、添字を系列の中の位置まで広げて文章の単語の並びなども同じ形の系列として扱い、RNNなどの系列を処理するモデルに入力します。
人工知能が東京大学の合格を目指した研究プロジェクトです。高度な計算や検索処理で成果を挙げた一方、常識や文脈を伴う真の意味理解には限界があることを実証しました。
トピックモデルは、テキストの集まりのような離散データについて、各文書を背後にある複数のトピックの混合として表す確率モデルです。代表的な手法に潜在的ディリクレ配分法(LDA)があります。
ハノイの塔は、3本の柱と大きさの違う円盤を使い、決められたルールのもとで円盤の山をそっくり別の柱へ移すパズルです。円盤がn枚のときの最小手数は2ⁿ - 1回になり、1枚増えるごとに手数はおよそ2倍になります。状態と操作と目標を短く厳密に書けるので、トイ・プロブレムの一つとして探索を考える題材になります。
トイ・プロブレムは、現実の問題にある込み入った事情を取り除き、簡潔で厳密に書けるようにした研究用の単純な問題です。8パズルのように問題の記述が1通りに定まるので、研究者どうしがアルゴリズムの性能を同じ条件で比べる題材になります。こうした問題は解けても現実の問題は解けなかったことが、第1次AIブームの限界の一つとされます。
トレーサビリティとは、AI事業者ガイドライン(第1.1版)で、データの出所や、AIシステム・サービスの開発・提供・利用中に行われた意思決定等について、技術的に可能かつ合理的な範囲で追跡・遡求が可能な状態を確保することとして示されている取組です。共通の指針のうちアカウンタビリティの取組の1つとして位置づけられています。
営業秘密とは、不正競争防止法第二条第六項が定める、秘密として管理されている、事業活動に有用な技術上または営業上の情報で、公然と知られていないもののことです。
転移学習とは、ある設定で学んだことを別の設定での汎化の向上に役立てることです。汎化とは、学習に使っていない新しいデータに対してもうまく働くことを言います。たとえば猫と犬の画像の分類で学んだことをアリとハチの画像の分類に活かします。最初の設定のデータが十分に多ければ、そこで学んだ表現が、次の設定でわずかな例から素早く汎化する助けになりえます。課題は同じで入力の分布だけが少し違う場合は、ドメイン適応と呼んで転移学習と区別します。
RNNも畳み込みも使わず、セルフアテンションだけで入力と出力の表現を計算する初めての系列変換モデル。エンコーダとデコーダはどちらも同一の層を6層重ねて作られている。
トリプレットロスは、基準となるアンカー・同じクラスの正例・異なるクラスの負例の3つ組を使い、アンカーと正例の距離がアンカーと負例の距離よりマージン以上小さくなるように埋め込みを学習させる、距離学習の損失関数です。
真陰性（TN）とは、分類モデルが陰性と予測し、実際の正解も陰性だった、つまり陰性の予測が当たったケースのことです。スパムメールの例では、スパムではない普通のメールを正しくスパムではないと判定し、受信箱へ届けた場合がこれにあたります。
真陽性（True Positive、TP）は、分類モデルが陽性と予測し、実際の正解も陽性だったケースを指す語です。予測したクラスが陽性であることと、その予測が正解と一致していることの2つがそろった場合にあたります。
チューリングテストは、アラン・チューリング(Alan Turing)が1950年の論文で提案した、機械の知能を文字だけの会話で判定する方法です。原論文では「模倣ゲーム」と呼ばれ、「機械は考えられるか」という問いを、質問者が機械と人間を見分けられるかという問いに置き換えました。
U-Netは、生物医学画像のセグメンテーション向けに提案された畳み込みネットワークです。文脈を捉える縮小パスと、ほぼ対称な拡大パスがU字型に並ぶ構造を持ちます。
不正競争防止法とは、事業者間の公正な競争を守る日本の法律です。秘密管理された営業秘密や特定の相手に提供する限定提供データを保護し、AIのデータやモデルも対象となります。
Unified-IOは、2022年にアレン人工知能研究所(Allen Institute for AI)のル(Lu)らが提案したモデルです。物体検出や深度推定などのコンピュータビジョン、画像生成、視覚と言語を組み合わせたタスク、質問応答などの自然言語処理までの幅広いタスクを、1つのTransformerベースのモデルでこなします。画像やマスク、バウンディングボックス、文章といった形の異なる入出力を、すべて離散的な語彙トークンの列にそろえることで統一を実現しました。マルチモーダルなモデルや基盤モデルを学ぶときに、統一モデルの一例として位置づけられます。
教師なし学習は、正解のラベルが付いていないデータを使い、そのデータに潜む構造を見つけることを典型的な目的とする機械学習の学び方です。ラベル付きの例から学ぶ教師あり学習とも、報酬を最大にする行動を学ぶ強化学習とも区別されます。
UCB方策は、行動の価値の推定値に、その推定がどれだけ不確かかを表す項を足し、合計が最大になる行動を選ぶ方法です。選ばれた回数が少ない行動ほど不確かさの項が大きくなるので、そうした行動も試されます。
アテンション関数で出力の材料となるベクトル。クエリとキーの適合度から求めた重みを各値に掛けて合計したものが、アテンションの出力になる。
価値原則は、G検定シラバス2024に対象キーワードとして載っている語です。このページでは、日本政府の人間中心のAI社会原則(平成31年3月29日、統合イノベーション戦略推進会議決定)が掲げる価値の枠組みを扱います。枠組みは、基本理念として示された3つの価値(人間の尊厳、多様性と包摂、持続可能性)と、社会全体で実現すべきAI社会原則の7つの原則からなります。
深いニューラルネットワークで、入力層に近い層の勾配が多数の小さな項の積によって0に近づき、その層の学習がとても遅くなるか、まったく進まなくなる問題。
確率変数の値が、その期待値(平均的な値)のまわりでどれだけ散らばるかを表す量です。理論上は、期待値からの差を2乗した値の期待値として定義され、確率分布そのものが持つ性質なのでデータの個数は式に出てきません。一方、手元にあるデータからこの量を見積もるときは、データの平均からの差の2乗を合計し、データの個数ではなくそれより1少ない数で割った値を使うのが標準です。分散が小さいほど値は期待値の近くに集まり、分散の平方根が標準偏差です。
変分オートエンコーダ(VAE)とは、連続な潜在変数を持つ確率モデルについて、データから潜在変数の分布を推し量る認識モデルと、潜在変数からデータを生み出すモデルの両方を確率的勾配法でまとめて学習できるようにしたモデルです。
複数の時系列変数が互いに与え合う影響を同時にモデル化する手法です。単変量の自己回帰モデルを多変数に拡張し、各変数の将来値を互いの過去の値から予測します。
変分オートエンコーダの潜在変数を離散的なベクトルに量子化することで、生成画像や音声の高品質化を実現した発展的生成モデルです。
Vision Transformer(ViT)は、画像を小さなパッチに分割し、NLPの単語と同じように系列として純粋なTransformerへ入力して画像分類を行うモデルです。CNNが主流だった画像認識にTransformerを直接持ち込みました。
VGGは、3x3という小さな畳み込みフィルタだけを積み重ね、重み層を16〜19層まで深くした画像認識用の畳み込みネットワークです。ILSVRC2014ではローカリゼーション部門で1位、分類部門で2位になりました。
視覚質問応答(VQA)は、画像と、その画像についての自由形式でオープンエンドな自然言語の質問を受け取り、正確な自然言語の答えを出力するタスクです。コンピュータビジョンと自然言語処理にまたがるマルチモーダルな課題の代表例で、画像キャプション生成よりも詳しい画像理解と推論を求め、AIの進歩を測る課題として提案されました。
ウォード法は、階層的クラスタリングでクラスタを1つずつ併合していくとき、併合によって増えるクラスタ内の誤差平方和が最も小さくなる組み合わせを選ぶ手法です。
ウォーターフォール(ウォーターフォールモデル)は、要件定義、設計、実装、テストのような開発の段階を、上から下へ順番に進めていくソフトウェア開発の方式です。この方式の図を最初に示した論文として知られるロイスの1970年の論文では、著者自身が、段階を一度ずつ順に進めるだけのやり方はリスクが高いと書き、パイロット版を先に作って試す反復的なやり方を提案していました。
WaveNetは、生の音声波形を1サンプルずつ生成する深層ニューラルネットワークです。因果的畳み込みとdilated convolutionを組み合わせた自己回帰モデルです。
弱いAIとは、哲学者ジョン・R・サールが1980年の論文で示した立場で、コンピュータは人間の心の働きを研究するための強力な道具であり、コンピュータ自体が意味を理解したり心を持ったりするとは主張しない考え方です。コンピュータが文字どおり理解し心を持つと主張する強いAIと対になり、サールは弱いAIの主張には異論がないと述べています。
WebAPIは、一般に、Webの仕組みを通じて外部のプログラムから呼び出せるようにしたAPIを指す言葉です。API(アプリケーション・プログラミング・インターフェース)とは、プログラミング言語に用意された、開発者が複雑な機能をより簡単に作れるようにする仕組みで、内部の複雑な処理を隠し、より簡単な使い方を提供するものです。ただし、開発者向けの資料であるMDN Web Docsが説明する web APIs は、主にブラウザに組み込まれたAPIを指し、この一般的な意味とは同じではありません。
Web上のコンテンツ、リンク構造、閲覧履歴から有用な知識を発掘する技術です。自然言語処理やグラフ解析、ログ分析を組み合わせてWebの価値を高めます。
一般に、ニューラルネットワークや線形モデルで、それぞれの入力に掛け合わせる数値を重みと呼びます。入力に重みを掛けて足し合わせた値が出力の元になり、重みの値は学習によって調整されます。
Wide ResNet(WRN)は、残差ネットワークの層を深くする代わりにブロックの幅を広げた構造です。浅い層数でも、非常に深いResNetより高い精度と速い訓練を実現します。
単語埋め込みは、テキスト中の単語の分布から直接学習される、単語の意味のベクトル表現です。分布仮説を背景に持ち、表現学習の最初の例に位置づけられます。
word2vecは、大規模なデータから単語の連続的なベクトル表現を計算する2つのモデル(CBOWとSkip-gram)を提案した手法で、従来より高い精度を低い計算コストで得ました。
YOLOは、物体検出を画像のピクセルからバウンディングボックスの座標とクラス確率へ直接至る単一の回帰問題として捉え直し、1つのネットワークの1回の評価で検出するリアルタイム物体検出の手法です。
ゼロショットとは、認識したいクラスの訓練例を1つも使わずに、そのクラスを認識・分類する課題設定です。古典的には、訓練に使うクラスとテストで問うクラスが重ならない条件で、色や形などの意味属性による記述を手がかりに未知の物体を見分ける問題を指します。近年は基盤モデルの評価で、学習時に見ていないデータセットやタスクへどこまで汎化できるかを示す、より広い意味でも使われます。