2026年版・3-2

誤差関数と正則化の一問一答

G検定(ジェネラリスト検定)「ディープラーニングの概要」から、誤差関数と正則化に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問/解説つき・基本無料

アプリ形式で解く(全480問) ディープラーニングの概要の要点解説を読む
問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問13-2

ニューラルネットワークで回帰の課題を学習するときに、誤差関数として一般的に用いられるものとして、最も適切なものを1つ選びなさい。

  • ①平均二乗誤差
  • ②交差エントロピー
  • ③ソフトマックス関数
  • ④ReLU関数
答えと解説を見る
正解 ①平均二乗誤差
解説
誤差関数(損失関数)は、モデルの予測と正解とのずれの大きさを数値で表す関数で、学習はこの値を小さくするようにパラメータを調整します。回帰の課題では、予測値と正解の差を2乗して平均した「平均二乗誤差(MSE)」が一般的に用いられます。差を2乗するため、大きなずれほど強く罰せられる性質があります。

他の選択肢が不適切な理由
・交差エントロピー:分類の課題で一般的に用いられる誤差関数です。予測した確率の分布と、正解の分布とのずれを表します。
・ソフトマックス関数:多クラス分類の出力層で、出力を合計1の確率に変換する関数で、誤差関数ではありません。
・ReLU関数:主に中間層で使われる活性化関数で、誤差関数ではありません。

覚え方のポイント
「回帰=平均二乗誤差」「分類=交差エントロピー」が誤差関数の基本の組み合わせです。出力層の活性化関数(回帰は恒等関数、分類はシグモイド関数やソフトマックス関数)とあわせて覚えましょう。
問23-2

分類の課題の誤差関数として交差エントロピーが用いられる理由の説明として、最も適切なものを1つ選びなさい。

  • ①予測値と正解値の差を2乗して平均するため、連続した数値の予測のずれを表せるため
  • ②正解のクラスの予測確率が低いほど大きな値になり、確率の予測のずれを表せるため
  • ③予測の正解と不正解の個数だけを数えるため、計算が最も簡単で微分する必要がないため
  • ④モデルのパラメータの大きさの合計を表すため、過学習を防ぐ罰則として使えるため
答えと解説を見る
正解 ②正解のクラスの予測確率が低いほど大きな値になり、確率の予測のずれを表せるため
解説
交差エントロピーは、モデルが出力した確率の分布と、正解の分布とのずれを表す誤差関数です。分類では、正解のクラスに付けた予測確率が1に近いほど値が小さく、0に近いほど値が急激に大きくなります。そのため、「自信を持って間違えた予測」を強く罰することができ、確率を出力する分類モデル(シグモイド関数やソフトマックス関数を使うモデル)と組み合わせると、学習がうまく進みやすくなります。

他の選択肢が不適切な理由
・差を2乗して平均する:これは平均二乗誤差の説明で、主に回帰に使います。
・正解と不正解の個数だけを数える:個数を数えるだけの指標は微分できず(なめらかでなく)、勾配を使った学習には向きません。
・パラメータの大きさの合計を表す罰則:これは正則化項(L1・L2正則化)の説明です。

覚え方のポイント
「交差エントロピー=確率のずれを測る」。確率分布どうしのずれを測る指標には、ほかにKLダイバージェンスがあり、交差エントロピーと深く関係しています。
問33-2

2つの確率分布がどれだけ異なっているかを表す指標で、変分オートエンコーダの学習などにも用いられるものとして、最も適切なものを1つ選びなさい。

  • ①ユークリッド距離
  • ②ジニ不純度
  • ③KLダイバージェンス
  • ④決定係数
答えと解説を見る
正解 ③KLダイバージェンス
解説
KLダイバージェンス(カルバック・ライブラー情報量)は、2つの確率分布がどれだけ異なっているかを表す指標です。2つの分布が完全に一致すれば0になり、異なるほど大きな値になります。ただし、「分布Pから見たQのずれ」と「分布Qから見たPのずれ」とで値が異なる(非対称である)ため、一般的な意味での「距離」とは性質が異なります。変分オートエンコーダ(VAE)では、潜在変数の分布を標準正規分布に近づけるための項として使われます。

他の選択肢が不適切な理由
・ユークリッド距離:2点間の直線距離で、確率分布どうしの違いを表す指標ではありません。
・ジニ不純度:決定木で、分割後のデータがどれだけ1つのクラスにまとまっているかを表す指標です。
・決定係数:回帰モデルが目的変数のばらつきをどれだけ説明できているかを表す指標です。

覚え方のポイント
「KLダイバージェンス=確率分布どうしのずれ・非対称」。交差エントロピーの最小化は、正解の分布とのKLダイバージェンスの最小化と同じ意味を持つ、という関係もあわせて押さえておきましょう。
問43-2

ニューラルネットワークの「ドロップアウト」の説明として、最も適切なものを1つ選びなさい。

  • ①推論時にランダムに一部のニューロンを無効にし、計算を速くする手法である。
  • ②学習時に誤差が大きいデータを取り除き、学習データの質を高める手法である。
  • ③学習時に不要な層を丸ごと削除し、ネットワークを浅くするための手法である。
  • ④学習時にランダムに一部のニューロンを無効にし、過学習を抑える手法である。
答えと解説を見る
正解 ④学習時にランダムに一部のニューロンを無効にし、過学習を抑える手法である。
解説
ドロップアウトは、学習のたびに、隠れ層のニューロンの一部をランダムに選んで無効にし(出力を0にし)ながら学習する手法です。毎回異なる形のネットワークで学習することになるため、特定のニューロンに頼りすぎることがなくなり、過学習を抑えることができます。多数の異なるネットワークを組み合わせるアンサンブル学習に近い効果があると考えられています。推論(予測)のときは、すべてのニューロンを使います。

他の選択肢が不適切な理由
・推論時にニューロンを無効にし計算を速くする:ドロップアウトは学習時に行い、推論時はすべてのニューロンを使います。
・誤差が大きいデータを取り除く:ドロップアウトはデータではなくニューロンを無効にする手法です。
・不要な層を丸ごと削除する:これはドロップアウトの説明ではありません。モデルの軽量化の手法である枝刈り(プルーニング)とも異なります。

覚え方のポイント
「ドロップアウト=学習時だけ・ランダムにニューロンを休ませる・アンサンブル効果」。早期終了、L1・L2正則化、データ拡張と並ぶ、代表的な過学習の対策です。
問53-2

ニューラルネットワークでL2正則化を用いた場合の効果として、最も適切なものを1つ選びなさい。

  • ①重みの大きさに罰則を加え、重みを全体的に小さく保ち過学習を抑える。
  • ②重みの大きさに報酬を与え、重みを全体的に大きくして学習を速める。
  • ③学習率を自動で大きくし、局所最適解から素早く抜け出せるようにする。
  • ④不要なニューロンを完全に削除し、ネットワークの層の数を減らす。
答えと解説を見る
正解 ①重みの大きさに罰則を加え、重みを全体的に小さく保ち過学習を抑える。
解説
L2正則化は、誤差関数に「重みの2乗の和」に比例する罰則の項を加える手法です。重みが大きくなると罰則も大きくなるため、学習によって重みが全体的に小さく抑えられます。重みが極端に大きくならないことで、モデルが学習データの細かなばらつきに過剰に反応しにくくなり、過学習を抑えることができます。ニューラルネットワークでは「荷重減衰(Weight Decay)」とも呼ばれます。

他の選択肢が不適切な理由
・重みを大きくして学習を速める:L2正則化は重みを小さくする方向に働きます。
・学習率を自動で大きくする:これは正則化ではなく、最適化手法(学習率の調整)の話です。
・ニューロンを完全に削除し層を減らす:L2正則化は重みを小さくするだけで、ニューロンや層を削除するものではありません。

覚え方のポイント
「L1正則化=一部の重みが0になる(スパース)」「L2正則化=重みが全体的に小さくなる(荷重減衰)」。正則化を強くしすぎると、モデルが単純になりすぎて未学習になる点にも注意しましょう。
問63-2

学習を続けると検証データの誤差が増え始めたところで、学習を打ち切る手法として、最も適切なものを1つ選びなさい。

  • ①ドロップアウト
  • ②早期終了(Early Stopping)
  • ③データ拡張
  • ④バッチ正規化
答えと解説を見る
正解 ②早期終了(Early Stopping)
解説
早期終了(Early Stopping)は、学習の途中で検証データに対する誤差を監視し、誤差が下がらなくなったり増え始めたりした時点で学習を打ち切る手法です。それ以上学習を続けると、学習データには合っていくものの、未知のデータへの性能(汎化性能)が下がる過学習が進んでしまうためです。実装が簡単で効果が高いことから、ジェフリー・ヒントンが「美しいフリーランチ(Beautiful FREE LUNCH)」と表現したことでも知られています。

他の選択肢が不適切な理由
・ドロップアウト:学習時にランダムにニューロンを無効にする過学習の対策で、学習の打ち切りとは異なります。
・データ拡張:画像の反転や回転などで学習データを水増しする手法です。
・バッチ正規化:各層への入力をミニバッチ単位で正規化し、学習を安定させる手法です。

覚え方のポイント
早期終了のポイントは「訓練データではなく、検証データの誤差を見る」ことです。なお、近年は、モデルやデータを大きくしていくと、一度悪化したテストの誤差が再び改善する「二重降下(Double Descent)」という現象も報告されており、打ち切りの判断が単純ではない場合もあります。
問73-2

正則化についての説明として、最も不適切なものを1つ選びなさい。

  • ①正則化の主な目的は、モデルが学習データに合わせすぎる過学習を防ぐことである。
  • ②L1正則化を用いると、不要な特徴量の重みがちょうど0になりやすい。
  • ③正則化の効果は強ければ強いほどよく、強くしすぎても未学習になることはない。
  • ④L2正則化を用いると、重みの値が全体的に小さく抑えられる傾向がある。
答えと解説を見る
正解 ③正則化の効果は強ければ強いほどよく、強くしすぎても未学習になることはない。
解説
正則化は、モデルが複雑になりすぎないように罰則を加え、過学習を防ぐための手法です。ただし、罰則を強くしすぎると、モデルが単純になりすぎてデータの傾向そのものを捉えられなくなり、学習データに対しても精度が低い「未学習」の状態になってしまいます。そのため、正則化の強さはハイパーパラメータとして、検証データの成績を見ながら適切な値に調整する必要があります。

他の選択肢が不適切な理由
※この問題は「不適切なもの」を選ぶ問題です。以下は正則化の説明として正しい記述です。
・主な目的は過学習を防ぐこと:正則化は、モデルの複雑さを抑えて汎化性能を高めるために用いられます。
・L1正則化で重みがちょうど0になりやすい:L1正則化はスパースな解を得やすく、特徴量の選択の役割も果たします。
・L2正則化で重みが全体的に小さくなる:L2正則化は荷重減衰とも呼ばれます。

覚え方のポイント
正則化は「効かせすぎると未学習、弱すぎると過学習」。バイアスとバリアンスのトレードオフと同じく、ちょうどよいバランスを探すのが基本です。
問83-2

顔認証などで用いられる、「同じ人物の画像どうしは特徴の空間で近く、別の人物の画像どうしは遠くなる」ように学習させるための誤差関数として、最も適切なものを1つ選びなさい。

  • ①平均二乗誤差
  • ②L1正則化
  • ③ソフトマックス関数
  • ④Triplet Loss
答えと解説を見る
正解 ④Triplet Loss
解説
Triplet Loss(トリプレット損失)は、基準となるデータ(アンカー)、それと同じクラスのデータ(ポジティブ)、異なるクラスのデータ(ネガティブ)の3つを組にして、「アンカーとポジティブの距離は小さく、アンカーとネガティブの距離は大きく」なるように学習させる誤差関数です。このように、データどうしの距離(似ている度合い)を学習することを「距離学習」といい、顔認証や画像検索などに使われます。2つのデータの組を使う「Contrastive Loss」も、距離学習の代表的な誤差関数です。

他の選択肢が不適切な理由
・平均二乗誤差:予測値と正解値の差の2乗の平均で、主に回帰に使う誤差関数です。
・L1正則化:重みの絶対値の和に罰則を加える正則化の手法で、距離学習のための誤差関数ではありません。
・ソフトマックス関数:出力を合計1の確率に変換する関数で、誤差関数ではありません。

覚え方のポイント
「Triplet(3つ組)=アンカー・ポジティブ・ネガティブ」「Contrastive(対照)=2つ組」。どちらも「近いものを近く、遠いものを遠く」する距離学習の誤差関数です。
問93-2

過学習を防ぐための手法として、最も不適切なものを1つ選びなさい。

  • ①モデルのパラメータの数を大幅に増やし、学習データを減らす
  • ②ドロップアウトを用いて、学習時にニューロンをランダムに無効にする
  • ③データ拡張によって、学習データのバリエーションを増やす
  • ④L2正則化によって、重みが大きくなりすぎないように抑える
答えと解説を見る
正解 ①モデルのパラメータの数を大幅に増やし、学習データを減らす
解説
過学習は、モデルの表現力(パラメータの数)に対して学習データが少ないときに起こりやすくなります。パラメータの数を大幅に増やし、しかも学習データを減らすことは、モデルが学習データを丸暗記しやすい状態をさらに強めることになり、過学習をむしろ悪化させます。一般に、過学習を防ぐには、データを増やす、モデルを適度に単純にする、正則化を用いる、といった対策をとります。

他の選択肢が不適切な理由
※この問題は「不適切なもの」を選ぶ問題です。以下は過学習の対策として正しい記述です。
・ドロップアウト:特定のニューロンへの依存を防ぎ、アンサンブル学習に近い効果で過学習を抑えます。
・データ拡張:画像の反転や回転などで学習データのバリエーションを増やし、汎化性能を高めます。
・L2正則化:重みを全体的に小さく保ち、モデルが複雑になりすぎるのを防ぎます。

覚え方のポイント
過学習の対策は「データを増やす(データ拡張)」「モデルを抑える(正則化・ドロップアウト)」「学習を止める(早期終了)」の3方向で整理すると覚えやすくなります。
問103-2

ニューラルネットワークの学習で最小化を目指す、「予測と正解とのずれ」を数値で表す関数の呼び方として、最も適切なものを1つ選びなさい。

  • ①活性化関数
  • ②誤差関数(損失関数)
  • ③カーネル関数
  • ④評価関数(ゲームの局面評価)
答えと解説を見る
正解 ②誤差関数(損失関数)
解説
誤差関数(損失関数、コスト関数とも呼ばれます)は、モデルの予測と正解とのずれの大きさを数値で表す関数です。ニューラルネットワークの学習は、この誤差関数の値が小さくなるように、誤差逆伝播法で勾配を求め、勾配降下法などの最適化手法でパラメータを更新していく作業だといえます。課題に応じて、回帰なら平均二乗誤差、分類なら交差エントロピーといったように、適切な誤差関数を選びます。

他の選択肢が不適切な理由
・活性化関数:各ニューロンの出力を決める関数で、非線形な変換を加える役割を持ちます。
・カーネル関数:サポートベクターマシンなどで、高次元空間での内積を効率よく計算するために使う関数です。
・評価関数(ゲームの局面評価):ゲームAIで、局面の良し悪しを数値で表す関数で、ニューラルネットワークの学習で最小化する関数ではありません。

覚え方のポイント
学習の流れは「順伝播で予測 → 誤差関数でずれを測る → 誤差逆伝播法で勾配を計算 → 最適化手法でパラメータを更新」。この4段階の中での誤差関数の位置づけを押さえましょう。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題(全480問)に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析(Googleアナリティクス)と、広告の配信・成果の計測(A8.net)のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI(人工知能)を活用して作成しています。

【PR】