BERTの学習で用語がごちゃごちゃになったので整理
BERTの本を読んでいて、見慣れない言葉がいっぱい出てきてゴチャゴチャニなってしまいました。ここでいったん整理したいと思います。
Hugging Face：アメリカの企業名。いろんなライブラリーが公開されています。 クリック→
Hugging Faceが公開しているライブラリー。
●Transformers
Transformersから様々な学習済みモデルを利用することができます。BERTは学習済みモデルの一つ。
その他どんなものがあるかというと、言語系ならば
テキスト生成用にGPT-2
要約用にBART（Ａです）
質疑応答用のDistilBert
翻訳用のT5
●datasets
いろんなデータセットをダウンロードできます。また自分で作ったデータセットをコミュニティで公開できます。
●accelerate
GPUを使うときのコードの書き方をスッキリさせることができるらしいが、使っていないのでよくわかりません。
ここでは紹介しませんが、まだまだあります。興味がある方は、こちらからどうぞHugging Face · GitHub
Pytorch：機械学習ライブラリー。TensorFlowとよく比較されます。
肝心なところをまとめると、「Transformersの中にBERTがある」というイメージですね。
閲覧数：9