多項選擇題關(guān)于大模型(如GPT-3、Turing-NLG)的訓(xùn)練,下列哪些說法是正確的?()

A.使用了大量未標注文本數(shù)據(jù)進行預(yù)訓(xùn)練
B.需要極大規(guī)模的計算資源
C.微調(diào)階段通常需要較少的數(shù)據(jù)就能達到很好的效果
D.模型參數(shù)量通常超過億級別


您可能感興趣的試卷

你可能感興趣的試題

1.多項選擇題在自然語言處理中,以下哪些是Transformer模型相較于RNN/LSTM的優(yōu)勢?()

A.參數(shù)量更少,訓(xùn)練速度更快
B.并行計算能力更強
C.更適合長序列輸入
D.自注意力機制能捕捉全局依賴

2.多項選擇題以下哪些技術(shù)可以用于解決計算機視覺中的小目標檢測問題?()

A.anchor-free檢測器
B.高分辨率網(wǎng)絡(luò)分支
C.FPN(Feature Pyramid Network)
D.數(shù)據(jù)增強,如MixUp和CutMix