AI・機械学習 【論文解説】Don’t Stop Pretraining – 追加で事前学習を行う効果について
今回は、RoBERTaを使って、さらなる事前学習することによる効果を分析している“Don't Stop Pretraining: Adapt Language Models to Domain and Tasks”という論文を解説したいと...
事前学習
AI・機械学習 
データ分析実践 【データ分析実践】口コミを使ったキャンプ場に関する分析(事前学習-ファインチューニング実装編)
以下の投稿では、事前学習-ファインチューニングについて解説しました。この考え方は非常に重要なので一度簡単なモデルを使って実装してみたいと思います。
事前学習-ファインチューニングとは
事前学習とは簡単に言うと、特定...
AI・機械学習 事前学習 – ファインチューニングを理解する
今回は「事前学習(pre-training) - ファインチューニング(fine-tuning)」を説明したいと思います。
以下の2015年の論文を参考に説明していきます。
『Semi-supervised Sequence ...