正解: D
大規模言語モデル (LLM) のパラメータは、トレーニング プロセス中に調整される統計的な重みです。包括的な説明は次のとおりです。
パラメータ: パラメータは、トレーニング データから学習されるニューラル ネットワークの係数です。入力データがどのように出力に変換されるかを決定します。
重要性: LLM のパラメータ数は、データ内の複雑なパターンをモデル化する能力の重要な要素です。パラメータの数が多いほど、モデルは強力になりますが、より多くの計算リソースも必要になります。
LLM での役割: LLM では、パラメータを使用して言語パターンと関係をキャプチャし、モデルが一貫性があり文脈に適した言語を生成できるようにします。
参考文献:
Vaswani、A.、Shazeer、N.、Parmar、N.、Uszkoreit、J.、Jones、L.、Gomez、A.N.、... & Polosukhin、I.
(2017) 「注意こそがすべて」。ニューラル情報処理システムの進歩。
Radford, A., Wu, J., Child, R., Luan, D., Amodei, D., & Sutskever, I. (2019)。言語モデルは教師なしマルチタスク学習者です。OpenAI ブログ。