G検定
G検定|注意の内積が次元数とともに大きくなり過ぎないように…
QUESTION
注意の内積が次元数とともに大きくなり過ぎないように…
注意の内積が次元数とともに大きくなり過ぎないようにしたい。最も適切なものはどれですか。
ANSWER & EXPLANATION
正解:A
内積をキー次元の平方根で割って値を調整することです。層と演算の役割を区別して理解します。
選択肢のポイント
- A正解です。内積をキー次元の平方根で割って値を調整することです。
- B正規化層の学習可能な係数は正規化値を再調整する倍率と加算値です。この設問で求めるものとは異なります。
- C時系列畳み込みは時間軸上の局所的なパターンを捉える方法です。この設問で求めるものとは異なります。
- D畳み込みの重み共有は同一フィルタを複数の場所へ適用することです。この設問で求めるものとは異なります。
関連キーワード
- 注意スコアのスケーリング
- ニューラルネットワークの構造
参考にした公式情報:日本ディープラーニング協会 G検定の試験範囲 / 確認日:2026年9月29日