2026年版・3-4

最適化手法の一問一答

G検定（ジェネラリスト検定）「ディープラーニングの概要」から、最適化手法に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問／解説つき・基本無料

アプリ形式で解く（全480問）ディープラーニングの概要の要点解説を読む

問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問13-4

勾配降下法の説明として、最も適切なものを1つ選びなさい。

①誤差関数の勾配を求め、その勾配と逆の方向にパラメータを少しずつ動かして誤差を小さくする。
②誤差関数の勾配を求め、その勾配と同じ方向にパラメータを少しずつ動かして誤差を大きくする。
③すべてのパラメータの組み合わせを調べ尽くし、誤差が最小になる組み合わせを一度で見つける。
④パラメータの値をランダムに選び直すことを繰り返し、偶然誤差が小さくなるのを待つ方法である。

答えと解説を見る

正解 ①誤差関数の勾配を求め、その勾配と逆の方向にパラメータを少しずつ動かして誤差を小さくする。

解説
勾配降下法は、誤差関数の勾配（傾き）を求め、誤差が小さくなる方向、つまり勾配と逆の方向へパラメータを少しずつ動かしていく最適化の方法です。山の斜面で、今いる場所の傾きを確かめながら、下り坂の方向へ一歩ずつ進んで谷底を目指す様子にたとえられます。一度にどれだけ動かすかは「学習率」で決めます。

他の選択肢が不適切な理由
・勾配と同じ方向に動かして誤差を大きくする：学習の目的は誤差を小さくすることで、方向が逆です。
・すべての組み合わせを調べ尽くす：パラメータが膨大なニューラルネットワークでは、すべての組み合わせを調べることは現実的に不可能です。
・ランダムに選び直して偶然を待つ：勾配の情報を使わない方法で、勾配降下法ではありません。

覚え方のポイント
勾配降下法の弱点は、谷がいくつもあると、本当の最小値（大域最適解）ではない谷底（局所最適解）で止まってしまう可能性があることです。これを改善するため、モーメンタムやAdamなどの手法が考案されています。

問23-4

勾配降下法の学習率についての説明として、最も適切なものを1つ選びなさい。

①学習率が大きすぎると学習に時間がかかり、小さすぎると更新が行き過ぎて発散しやすい。
②学習率が大きすぎると更新が行き過ぎて発散しやすく、小さすぎると学習に時間がかかる。
③学習率はモデルの性能に影響しないため、どのような値に設定しても結果は変わらない。
④学習率は学習によって自動的に決まるパラメータなので、人が設定することはない。

答えと解説を見る

正解 ②学習率が大きすぎると更新が行き過ぎて発散しやすく、小さすぎると学習に時間がかかる。

解説
学習率は、勾配降下法で1回の更新のときにパラメータをどれだけ大きく動かすかを決めるハイパーパラメータです。学習率が大きすぎると、谷底を飛び越えて行ったり来たりし、誤差がかえって大きくなる（発散する）ことがあります。反対に、学習率が小さすぎると、1回の更新でわずかしか進まないため、学習に非常に時間がかかったり、浅い谷底（局所最適解）から抜け出せなくなったりします。そのため、学習の初めは大きめにし、徐々に小さくしていく工夫（学習率の減衰）もよく行われます。

他の選択肢が不適切な理由
・大きすぎると時間がかかり、小さすぎると発散する：説明が逆になっています。
・どのような値でも結果は変わらない：学習率は学習の結果を大きく左右します。
・学習によって自動的に決まるパラメータ：学習率は、学習前に人が設定するハイパーパラメータです。ただし、AdaGradやAdamのように、パラメータごとに実際の更新幅を自動で調整する手法はあります。

覚え方のポイント
「大きすぎ＝行き過ぎて発散」「小さすぎ＝なかなか進まない」。山道を下るときの歩幅にたとえると覚えやすくなります。

問33-4

学習データの一部（数十〜数百件程度）をまとめて取り出し、そのまとまりごとに勾配を求めてパラメータを更新する方法として、最も適切なものを1つ選びなさい。

①バッチ学習
②オンライン学習
③ミニバッチ学習
④転移学習

答えと解説を見る

正解 ③ミニバッチ学習

解説
勾配降下法には、1回の更新に使うデータの量によって3つのやり方があります。すべての学習データを使って勾配を求めて更新する「バッチ学習」、データを1件ずつ使って更新する「オンライン学習（確率的勾配降下法）」、そして、データを数十〜数百件程度の小さなまとまり（ミニバッチ）に分けて、ミニバッチごとに更新する「ミニバッチ学習」です。ミニバッチ学習は、計算の効率と更新の安定性のバランスがよく、ディープラーニングで最も一般的に使われています。

他の選択肢が不適切な理由
・バッチ学習：すべての学習データを一度に使って更新する方法で、データが大量だと1回の更新に時間とメモリがかかります。
・オンライン学習：データを1件ずつ使って更新する方法で、更新の方向がばらつきやすくなります。
・転移学習：ある課題で学習したモデルを、別の課題に再利用する方法で、データの取り出し方の話ではありません。

覚え方のポイント
ミニバッチの大きさ（バッチサイズ）もハイパーパラメータです。ランダムに選んだデータで更新する方法を広く「確率的勾配降下法（SGD）」と呼び、ミニバッチ学習もこれに含めて呼ぶことがあります。

問43-4

学習データが10,000件あり、バッチサイズを100としてミニバッチ学習を行う。10エポック学習したときのパラメータの更新回数（イテレーション数）として、最も適切なものを1つ選びなさい。

①100回
②10,000回
③100,000回
④1,000回

答えと解説を見る

正解 ④1,000回

解説
1エポック（学習データ全体を1周すること）あたりのイテレーション数は、「データ数 ÷ バッチサイズ」で求められます。
10,000 ÷ 100 ＝ 100回（1エポックあたり）
これを10エポック行うので、100 × 10 ＝ 1,000回となります。

他の選択肢が不適切な理由
・100回：1エポック分のイテレーション数です。10エポック分を掛け忘れています。
・10,000回：データの件数をそのまま答えています。データを1件ずつ使って1エポック学習した場合の更新回数にあたります。
・100,000回：データ数にエポック数を掛けた値で、バッチサイズで割ることを忘れています。

覚え方のポイント
「イテレーション数＝データ数 ÷ バッチサイズ × エポック数」。用語の定義（エポック＝全体を1周、イテレーション＝1回の更新）をもとに計算できるようにしておきましょう。

問53-4

誤差関数の形のうち、「ある方向から見ると谷底（極小）なのに、別の方向から見ると山頂（極大）になっている点」を何というか。最も適切なものを1つ選びなさい。

①鞍点
②大域最適解
③局所最適解
④変曲点

答えと解説を見る

正解 ①鞍点

解説
鞍点（あんてん、サドルポイント）は、ある方向から見ると極小（谷底）なのに、別の方向から見ると極大（山頂）になっている点です。馬の鞍（くら）の形に似ていることから、この名前があります。鞍点では勾配がほぼ0になるため、勾配降下法で学習していると、そこで更新がほとんど進まなくなることがあります。パラメータの多いニューラルネットワークでは、局所最適解よりも鞍点のほうが学習の妨げになりやすいとも指摘されています。鞍点の付近などで学習が停滞している状態は「プラトー」と呼ばれます。

他の選択肢が不適切な理由
・大域最適解：誤差関数全体の中で本当に誤差が最小になる点です。
・局所最適解：その周辺だけを見れば誤差が最小だが、全体の最小ではない点です。どの方向から見ても谷底になっています。
・変曲点：グラフの曲がり方（凹凸）が切り替わる点のことで、鞍点とは異なる概念です。

覚え方のポイント
「局所最適解＝どこから見ても谷底（でも一番深くはない）」「鞍点＝見る方向によって谷底にも山頂にもなる」。モーメンタムなどの慣性を使う手法は、鞍点や局所最適解から抜け出すのに役立ちます。

問63-4

最適化手法の「モーメンタム」の説明として、最も適切なものを1つ選びなさい。

①パラメータごとに過去の勾配の2乗の合計を記録し、学習率を個別に小さくする手法
②前回までの更新の方向を慣性のように引き継ぎ、振動を抑えながら効率よく進む手法
③学習のたびにニューロンの一部をランダムに無効にして、過学習を防ぐための手法
④検証データの誤差が増え始めた時点で、学習を自動的に打ち切るための手法

答えと解説を見る

正解 ②前回までの更新の方向を慣性のように引き継ぎ、振動を抑えながら効率よく進む手法

解説
モーメンタムは、物理の「慣性」の考え方を取り入れた最適化手法です。今回の勾配だけでなく、前回までの更新の方向と大きさを一定の割合で引き継いでパラメータを更新します。坂道を転がるボールが勢いをつけて進むように、同じ方向への更新が続くと加速し、方向が行ったり来たりする場合は打ち消し合って振動が抑えられます。その結果、学習が速く進み、浅い谷や鞍点を勢いで抜け出しやすくなります。

他の選択肢が不適切な理由
・過去の勾配の2乗の合計を記録して学習率を小さくする：これは「AdaGrad」の説明です。
・ニューロンの一部をランダムに無効にする：これは「ドロップアウト」の説明です。
・検証データの誤差が増えたら学習を打ち切る：これは「早期終了」の説明です。

覚え方のポイント
「モーメンタム＝慣性（勢い）」「AdaGrad・RMSprop＝パラメータごとに学習率を調整」「Adam＝その両方の組み合わせ」。最適化手法はこの3系統で整理しましょう。

問73-4

最適化手法「AdaGrad」の特徴と課題の説明として、最も適切なものを1つ選びなさい。

①小さく更新されたパラメータほど学習率を小さくするが、学習が進むと更新が発散してしまう。
②すべてのパラメータの学習率を常に同じ値に保つため、学習の途中で調整することはできない。
③大きく更新されたパラメータほど学習率を小さくするが、学習が進むと更新がほぼ止まってしまう。
④前回の更新の方向を慣性として引き継ぐため、振動が大きくなって学習が不安定になりやすくなる。

答えと解説を見る

正解 ③大きく更新されたパラメータほど学習率を小さくするが、学習が進むと更新がほぼ止まってしまう。

解説
AdaGradは、パラメータごとに、これまでの勾配の2乗の合計を記録しておき、それが大きい（これまでに大きく更新されてきた）パラメータほど学習率を小さくする手法です。パラメータごとに適した大きさで更新できる利点があります。一方、勾配の2乗の合計は学習が進むほど増え続けるため、学習率がどんどん小さくなり、やがて更新がほとんど止まってしまうという課題があります。この課題を、過去の勾配を少しずつ忘れていく（指数移動平均を使う）ことで改善したのが「RMSprop」です。

他の選択肢が不適切な理由
・小さく更新されたパラメータほど学習率を小さくする：説明が逆で、大きく更新されたパラメータほど学習率を小さくします。
・学習率を常に同じ値に保つ：AdaGradは、パラメータごとに学習率を調整する手法です。
・前回の更新の方向を慣性として引き継ぐ：これはモーメンタムの説明です。

覚え方のポイント
「AdaGrad（学習率が小さくなり続ける）→ RMSprop（過去を忘れて改善）→ Adam（RMSprop＋モーメンタム）」という改良の流れで覚えましょう。AdaGradの改良版としてはAdaDeltaも知られています。

問83-4

現在、ディープラーニングで広く使われている最適化手法「Adam」の説明として、最も適切なものを1つ選びなさい。

①すべてのパラメータに同じ学習率を使い、前回の更新の方向を一切考慮しない最も単純な手法
②勾配を使わずに、パラメータの値をランダムに変えながら誤差の小さい値を探し出す手法
③学習データの一部をランダムに無効にして、過学習を防ぐことを目的とした正則化の手法
④モーメンタムに、パラメータごとに学習率を調整するRMSpropの考え方を加えた手法

答えと解説を見る

正解 ④モーメンタムに、パラメータごとに学習率を調整するRMSpropの考え方を加えた手法

解説
Adam（Adaptive Moment Estimation）は、2014年に提案された最適化手法です。過去の勾配の平均（1次のモーメント）を使って慣性のように更新するモーメンタムの考え方と、過去の勾配の2乗の平均（2次のモーメント）を使ってパラメータごとに更新の大きさを調整するRMSpropの考え方を組み合わせています。多くの課題で安定して良い結果を出しやすく、ハイパーパラメータの調整もそれほど必要としないため、現在広く使われています。

他の選択肢が不適切な理由
・同じ学習率で前回の方向を考慮しない単純な手法：これは基本的な確率的勾配降下法（SGD）の説明に近いものです。
・勾配を使わずにランダムに探す：Adamは勾配を使う最適化手法です。
・データの一部を無効にする正則化の手法：Adamは最適化手法であり、正則化の手法ではありません。

覚え方のポイント
「Adam＝モーメンタム＋RMSprop」。最適化手法の問題では、「慣性を使うか」「パラメータごとに学習率を調整するか」の2つの観点で選択肢を見分けると、正誤を判断しやすくなります。

問93-4

ハイパーパラメータの探索方法の説明として、最も適切なものを1つ選びなさい。

①グリッドサーチは候補の組み合わせを総当たりで試し、ランダムサーチは組み合わせを無作為に選んで試す。
②ランダムサーチは候補の組み合わせを総当たりで試し、グリッドサーチは組み合わせを無作為に選んで試す。
③グリッドサーチとランダムサーチはどちらも、学習データを使わずにハイパーパラメータを決める方法である。
④グリッドサーチもランダムサーチも、テストデータでの正解率が最も高い組み合わせを選ぶ方法である。

答えと解説を見る

正解 ①グリッドサーチは候補の組み合わせを総当たりで試し、ランダムサーチは組み合わせを無作為に選んで試す。

解説
ハイパーパラメータの値は学習では決まらないため、候補を試して検証データの成績を比べ、よいものを探します。グリッドサーチは、各ハイパーパラメータの候補を格子（グリッド）状に並べ、そのすべての組み合わせを総当たりで試す方法です。確実ですが、候補が増えると組み合わせの数が爆発的に増えます。ランダムサーチは、組み合わせを無作為に選んで試す方法で、同じ試行回数でも、重要なハイパーパラメータについて多くの値を試せるため、効率がよい場合が多いとされます。これまでの試行結果から次に試す値を賢く選ぶ「ベイズ最適化」という方法もあります。

他の選択肢が不適切な理由
・ランダムサーチが総当たり：2つの方法の説明が逆になっています。
・学習データを使わずに決める：どちらの方法でも、実際に学習させて検証データで評価します。
・テストデータでの正解率で選ぶ：ハイパーパラメータは検証データ（または交差検証）で評価して選びます。テストデータで選ぶと、最終的な評価が不当に高く出てしまいます。

覚え方のポイント
「グリッドサーチ＝総当たり（確実だが重い）」「ランダムサーチ＝無作為（効率的）」「ベイズ最適化＝過去の結果から賢く選ぶ」。

問103-4

学習の初めは学習率を大きめにして素早く進み、学習が進むにつれて学習率を徐々に小さくしていく工夫として、最も適切なものを1つ選びなさい。

①荷重減衰（Weight Decay）
②学習率の減衰（スケジューリング）
③勾配クリッピング
④早期終了（Early Stopping）

答えと解説を見る

正解 ②学習率の減衰（スケジューリング）

解説
学習率は、学習の初めのうちは大きめのほうが素早く誤差の小さい領域へ近づけます。一方、最適な値の近くまで来たあとも大きいままだと、谷底を飛び越えて行ったり来たりしてしまい、細かな調整ができません。そこで、学習の進み具合（エポック数など）に応じて学習率を徐々に小さくしていく工夫が用いられます。これを学習率の減衰、または学習率のスケジューリングと呼びます。一定のエポックごとに学習率を段階的に下げる方法や、なめらかな曲線に沿って下げていく方法などがあります。

他の選択肢が不適切な理由
・荷重減衰（Weight Decay）：学習のたびに重みを少しずつ小さくする方向に補正し、重みを小さく保つ手法で、L2正則化とほぼ同じ働きをします。「減衰」という言葉が同じでも、学習率ではなく重みを小さくするものです。
・勾配クリッピング：勾配の大きさに上限を設けて、勾配爆発を防ぐ手法です。
・早期終了（Early Stopping）：検証データの誤差が増え始めた時点で学習を打ち切る、過学習の対策です。

覚え方のポイント
「学習率の減衰＝歩幅をだんだん小さくする」「荷重減衰＝重みを小さく保つ正則化」。名前が似ているので、何を減らすのかで区別しましょう。AdaGradやAdamのように、パラメータごとに更新の大きさを自動で調整する最適化手法と組み合わせて使われることもあります。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題（全480問）に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析（Googleアナリティクス）と、広告の配信・成果の計測（A8.net）のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI（人工知能）を活用して作成しています。