2026年版・4-3

正規化層・スキップ結合の一問一答

G検定（ジェネラリスト検定）「ディープラーニングの要素技術」から、正規化層・スキップ結合に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問／解説つき・基本無料

アプリ形式で解く（全480問）ディープラーニングの要素技術の要点解説を読む

問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問14-3

バッチ正規化の説明として、最も適切なものを1つ選びなさい。

①学習データ全体を一度だけ0から1の範囲にそろえ、以後は同じ値を使い続ける。
②データ1件ごとに、そのデータのすべてのチャネルをまとめて正規化する手法である。
③ミニバッチごとに各層への入力を平均0・分散1に近づけ、学習を安定させて速める。
④ネットワークの重みを正規分布に従う乱数で初期化し、学習を始める手法である。

答えと解説を見る

正解 ③ミニバッチごとに各層への入力を平均0・分散1に近づけ、学習を安定させて速める。

解説
バッチ正規化（Batch Normalization）は、ニューラルネットワークの各層で、ミニバッチ単位で入力（や出力）を平均0・分散1に近づけるように正規化する手法です。各層に入ってくる値の分布が学習中に大きく変わらないようにすることで、学習が安定して速く進み、重みの初期値への依存も小さくなります。過学習を抑える効果もあると考えられています。一方、ミニバッチの統計量を使うため、バッチサイズが小さいと効果が不安定になるという弱点があります。

他の選択肢が不適切な理由
・データ全体を一度だけ0から1にそろえる：これは前処理としての正規化の説明で、ネットワークの層の中で行うバッチ正規化とは異なります。
・データ1件ごとに全チャネルをまとめて正規化する：これは「レイヤー正規化」の説明です。
・重みを正規分布に従う乱数で初期化する：これは重みの初期化の説明です。

覚え方のポイント
正規化層は「どの範囲で平均と分散をとるか」で区別します。「バッチ正規化＝ミニバッチ全体で、チャネルごと」「レイヤー正規化＝データ1件ごとに、全チャネル」「インスタンス正規化＝データ1件ごと・チャネルごと」です。

問24-3

Transformerなどで用いられる「レイヤー正規化」の特徴として、最も適切なものを1つ選びなさい。

①ミニバッチ全体で正規化するため、バッチサイズが大きいほど効果が高い。
②チャネルをいくつかのグループに分け、グループごとに正規化する。
③重みの大きさに罰則を加え、過学習を防ぐための正則化の手法である。
④データ1件ごとに正規化するため、バッチサイズの影響を受けにくい。

答えと解説を見る

正解 ④データ1件ごとに正規化するため、バッチサイズの影響を受けにくい。

解説
レイヤー正規化（Layer Normalization）は、データ1件ごとに、その層のすべてのチャネル（ニューロン）の値をまとめて平均0・分散1に近づける正規化です。ミニバッチ全体の統計量を使うバッチ正規化と違い、ほかのデータに依存しないため、バッチサイズが小さい場合でも安定して使えます。系列の長さがデータごとに異なるRNNや、Transformerで広く使われています。

他の選択肢が不適切な理由
・ミニバッチ全体で正規化する：これはバッチ正規化の特徴です。
・チャネルをグループに分けて正規化する：これは「グループ正規化」の説明です。バッチサイズが小さい画像の課題などで使われます。
・重みの大きさに罰則を加える正則化：これはL2正則化などの説明で、正規化層とは別の手法です。

覚え方のポイント
「正規化（Normalization）」と「正則化（Regularization）」は日本語が似ていますが、まったく別の概念です。「正規化＝値の分布をそろえる」「正則化＝過学習を防ぐ罰則を加える」と区別しましょう。

問34-3

画像のスタイル変換などで用いられる、「データ1件ごと、かつチャネルごとに」正規化する手法として、最も適切なものを1つ選びなさい。

①インスタンス正規化
②バッチ正規化
③レイヤー正規化
④グループ正規化

答えと解説を見る

正解 ①インスタンス正規化

解説
インスタンス正規化（Instance Normalization）は、データ1件（1枚の画像）ごとに、さらにチャネルごとに、平均0・分散1に近づける正規化です。画像ごとの明るさやコントラストの違いを取り除く効果があり、画像の画風を別の画風に変換する「スタイル変換」などで用いられます。

他の選択肢が不適切な理由
・バッチ正規化：ミニバッチ全体のデータを使って、チャネルごとに正規化します。
・レイヤー正規化：データ1件ごとに、すべてのチャネルをまとめて正規化します。
・グループ正規化：データ1件ごとに、チャネルをいくつかのグループに分け、グループごとに正規化します。レイヤー正規化とインスタンス正規化の中間にあたります。

覚え方のポイント
4つの正規化の違いは「どのデータの範囲で」「どのチャネルの範囲で」平均と分散をとるかです。グループ数を1にするとレイヤー正規化、グループ数をチャネル数と同じにするとインスタンス正規化になる、という関係も押さえておきましょう。

問44-3

ResNetで導入された「スキップ結合（残差結合）」の説明として、最も適切なものを1つ選びなさい。

①ある層の出力を、前の層へ逆向きに戻してもう一度同じ層に入力する構造
②ある層への入力を、いくつかの層を飛び越えて出力に足し合わせる構造
③学習時にランダムに層を飛ばして、残った層だけで予測を行う構造
④不要な層を見つけて取り除き、ネットワークの層の数を減らす構造

答えと解説を見る

正解 ②ある層への入力を、いくつかの層を飛び越えて出力に足し合わせる構造

解説
スキップ結合は、いくつかの層への入力を、その層を飛び越えて（スキップして）出力に直接足し合わせる構造です。こうすると、飛び越えた層は「入力からの差分（残差）」だけを学習すればよくなり、学習が容易になります。また、足し算の経路を通じて勾配がそのまま入力側へ伝わるため、勾配消失が起こりにくくなります。この構造により、ResNetは152層という非常に深いネットワークの学習に成功し、2015年のILSVRCで優勝しました。

他の選択肢が不適切な理由
・出力を前の層へ逆向きに戻して再入力する：スキップ結合は、情報を前向きに飛び越えて伝える構造です。
・ランダムに層を飛ばして予測する：学習時にランダムに層を飛ばす手法（Stochastic Depth）もありますが、スキップ結合の説明ではありません。
・不要な層を取り除いて層を減らす：これはモデルの軽量化（枝刈りなど）の説明に近いものです。

覚え方のポイント
「スキップ結合＝近道を作って足し算」「ResNet＝残差（Residual）を学習するネットワーク」。スキップ結合はTransformerにも取り入れられている、現在のディープラーニングの基本部品です。

問54-3

2015年のILSVRCで優勝し、152層という非常に深い構造を持つことで知られるモデルとして、最も適切なものを1つ選びなさい。

①AlexNet
②VGG
③ResNet
④LeNet

答えと解説を見る

正解 ③ResNet

解説
ResNet（Residual Network）は、マイクロソフト研究所のカイミング・ヘーらが開発したモデルで、2015年のILSVRCで優勝しました。スキップ結合（残差結合）を導入することで、それまで難しかった非常に深いネットワークの学習を可能にし、152層という深さで、画像分類の誤り率を人間の水準とされる値より低くしたことで注目されました。

他の選択肢が不適切な理由
・AlexNet：2012年のILSVRCで優勝したモデルで、層の数は8層程度です。
・VGG：2014年のILSVRCで上位に入ったオックスフォード大学のモデルで、3×3の小さなフィルタを重ねた、16層や19層の構造で知られます。
・LeNet：1989年ごろから1990年代にかけてヤン・ルカンらが手書き数字の認識のために開発した、初期のCNNです。

覚え方のポイント
ILSVRCの優勝モデルの流れは「2012年 AlexNet → 2014年 GoogLeNet（VGGは同年2位）→ 2015年 ResNet → 2017年 SENet」。年と特徴（ResNet＝スキップ結合で超深層）をセットで覚えましょう。

問64-3

ネットワークの層を単純に深くしていくと、過学習ではないのに、訓練データに対する誤差までかえって大きくなってしまう現象がある。この現象を改善するために考案された構造として、最も適切なものを1つ選びなさい。

①プーリング層
②全結合層
③ドロップアウト
④スキップ結合

答えと解説を見る

正解 ④スキップ結合

解説
層を深くすれば表現力は高まるはずですが、実際には、ある程度以上に深くすると、テストデータだけでなく訓練データに対する誤差まで大きくなってしまう「劣化問題（Degradation Problem）」が知られていました。過学習であれば訓練データの誤差は小さくなるはずなので、これは過学習とは別の、深いネットワークの学習の難しさによるものです。ResNetのスキップ結合は、各ブロックが入力からの差分（残差）だけを学べばよい構造にすることで、この問題を大きく改善しました。

他の選択肢が不適切な理由
・プーリング層：特徴マップを縮小して位置のずれに強くする層で、劣化問題の解決策ではありません。
・全結合層：前の層のすべてのニューロンと結合する層で、パラメータを増やす方向の構造です。
・ドロップアウト：過学習を抑える手法です。本問の現象は過学習ではないため、主な解決策にはなりません。

覚え方のポイント
「訓練誤差まで悪化する＝劣化問題（過学習ではない）」「解決策＝スキップ結合（ResNet）」。過学習との違いを、訓練データの誤差がどうなるかで見分けましょう。

問74-3

各層が、それより前のすべての層の出力を連結（結合）して入力として受け取る構造を持つモデルとして、最も適切なものを1つ選びなさい。

①DenseNet
②ResNet
③AlexNet
④MobileNet

答えと解説を見る

正解 ①DenseNet

解説
DenseNetは、各層が、それより前にあるすべての層の出力をチャネルの方向に連結して入力として受け取る構造を持つモデルです。前の層の特徴を何度も再利用できるため、比較的少ないパラメータで高い性能が得られるとされます。ResNetのスキップ結合が出力を「足し合わせる」のに対し、DenseNetは出力を「連結する（つなげる）」点が異なります。

他の選択肢が不適切な理由
・ResNet：いくつかの層を飛び越えて入力を出力に「足し合わせる」スキップ結合を用いたモデルです。
・AlexNet：2012年のILSVRCで優勝した、ディープラーニングの躍進のきっかけとなったモデルです。
・MobileNet：畳み込みを軽量な計算に分解する「Depthwise Separable Convolution」を用い、スマートフォンなどでも動くように計算量を減らしたモデルです。

覚え方のポイント
「ResNet＝足し算（Add）」「DenseNet＝連結（Concatenate）、前の全層とつながる（Dense＝密）」と区別しましょう。

問84-3

ResNetを発展させ、層の数を減らす代わりに、各層のフィルタの数（ネットワークの幅）を増やしたモデルとして、最も適切なものを1つ選びなさい。

①DenseNet
②Wide ResNet
③GoogLeNet
④VGG

答えと解説を見る

正解 ②Wide ResNet

解説
Wide ResNetは、ResNetのように層を非常に深くする代わりに、層の数を減らし、その分だけ各層のフィルタの数（チャネル数、ネットワークの「幅」）を増やしたモデルです。深さを抑えることで学習が速くなり、それでいて元のResNetと同等以上の性能を出せることが示されました。ネットワークの性能は「深さ」だけでなく「幅」によっても高められることを示したモデルといえます。

他の選択肢が不適切な理由
・DenseNet：前のすべての層の出力を連結して入力とする構造を持つモデルです。
・GoogLeNet：2014年のILSVRCで優勝したGoogleのモデルで、大きさの異なる複数のフィルタを並列に使う「Inceptionモジュール」を持ちます。
・VGG：3×3の小さなフィルタを重ねた、16層や19層の単純で深い構造のモデルです。

覚え方のポイント
「Wide（幅広い）ResNet＝浅く・幅広く」。深さ・幅・入力画像の解像度の3つをバランスよく大きくする考え方は、のちのEfficientNetにつながります。

問94-3

バッチ正規化の弱点として指摘される内容として、最も適切なものを1つ選びなさい。

①バッチサイズが大きいほど、ミニバッチの平均や分散が不安定になり効果が落ちる。
②正規化によって、ネットワークの重みがすべて0の値に固定されてしまう。
③バッチサイズが小さいと、ミニバッチの平均や分散が安定せず効果が落ちる。
④学習時と推論時で、同じミニバッチの統計量を必ず使わなければならない。

答えと解説を見る

正解 ③バッチサイズが小さいと、ミニバッチの平均や分散が安定せず効果が落ちる。

解説
バッチ正規化は、ミニバッチの中のデータの平均と分散を使って正規化します。そのため、バッチサイズが小さいと、ミニバッチごとの平均や分散のばらつきが大きくなり、正規化が不安定になって効果が落ちやすくなります。また、推論（予測）のときは、ミニバッチではなく1件ずつ処理することもあるため、学習中に記録しておいた平均と分散の値を使う必要があります。こうした弱点を補うため、データ1件ごとに正規化するレイヤー正規化やグループ正規化が考案されています。

他の選択肢が不適切な理由
・バッチサイズが大きいほど統計量が不安定になる：逆です。バッチサイズが大きいほど、ミニバッチの平均や分散は安定します。
・重みがすべて0に固定される：正規化するのは層への入力（出力）の値で、重みを0に固定するわけではありません。
・推論時も同じミニバッチの統計量を使う：推論時は、学習中に求めておいた平均と分散の移動平均を使います。1件ずつ推論する場合もあるためです。

覚え方のポイント
「バッチ正規化はバッチサイズに依存する」が最大の弱点です。「小さなバッチ・系列データ・Transformer＝レイヤー正規化」「バッチが小さい画像の課題＝グループ正規化」と使い分けを覚えましょう。

問104-3

学習中に、前の層のパラメータが更新されることで、各層に入力される値の分布が変わってしまう現象で、バッチ正規化が提案された背景として説明されたものとして、最も適切なものを1つ選びなさい。

①コンセプトドリフト
②次元の呪い
③モード崩壊
④内部共変量シフト

答えと解説を見る

正解 ④内部共変量シフト

解説
内部共変量シフト（Internal Covariate Shift）とは、ニューラルネットワークの学習中に、前の層のパラメータが更新されるたびに、後ろの層に入力される値の分布が変化してしまう現象です。後ろの層は、入力の分布が変わり続ける中で学習しなければならず、学習が不安定になると考えられました。バッチ正規化は、この現象を抑えるために提案された手法です。なお、その後の研究では、バッチ正規化が効果を上げる理由は、内部共変量シフトの抑制よりも、誤差関数の形をなめらかにすることにあるという見方も示されています。

他の選択肢が不適切な理由
・コンセプトドリフト：運用中に、予測の対象とする現実の関係（データと正解の関係）が時間とともに変化し、モデルの精度が落ちる現象です。
・次元の呪い：特徴量の数が増えると、必要なデータ量が急増して学習が難しくなる現象です。
・モード崩壊：GANの学習で、生成器が似たようなデータばかり生成するようになる現象です。

覚え方のポイント
「内部共変量シフト＝ネットワークの内部で入力の分布がずれる」「コンセプトドリフト＝運用中に現実のほうが変わる」。どちらも「ずれ」を表す言葉なので、どこで起きるかで区別しましょう。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題（全480問）に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析（Googleアナリティクス）と、広告の配信・成果の計測（A8.net）のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI（人工知能）を活用して作成しています。