G検定模擬問題（２）　問189　解答

2021.08.272021.10.31

解答　③　単語をより低次の実数ベクトルで表現する

分散表現 : 文・単語・文字等を、低次元 (100〜1000次元くらい)のベクトルで表現したもの。 BERTを理解するためには分散表現, Attention, Self Attention, Transformerを理解する必要が有る。