AI・機械学習 Reformerを理解する 今回はTransformerの改良版であるReformerを解説したいと思います。 BERTもそうですが、Transformerで長文を処理しようとすると、非常にメモリ使用量が多く、2000単語ぐらいでも非常に遅くなります。 ... 2020.06.17 AI・機械学習自然言語処理
AI・機械学習 ニューラルネットワークを使った自然言語処理の歴史を理解する では、今回は今まで見てきたモデルを中心に、自然言語処理の発展の歴史を確認していきたいと思います。 最近話題のBERTやその発展形であるXLNetなども歴史を追っていくと、どこがどうすごいのか、どういった経緯で考え出されたアイデアなの... 2020.06.02 AI・機械学習自然言語処理
AI・機械学習 AI・機械学習 
AI・機械学習