楽しみながら学ぶ AI 入門

※ 本サイトはプロモーションが含まれています

月別アーカイブ：2020年04月

: 事前学習-ファインチューニングをもう少し理解する

2021/6/20

こちらの記事で事前学習-ファインチューニングについて説明しましたが、もう少し深く理解したいと思い、論文を読みましたので紹介したいと思います。 https://data-analytics.fun/20 ...

AI・機械学習自然言語処理

: 【論文解説】OpenAI 「GPT」を理解する

2024/2/15 Open GPT, 自然言語処理

今回は OpenAI が提案する OpenAI 「GPT」を解説したいと思います。なお、現在ではGPT2、GPT3、GPT4 とどんどん発展していますので、そちらが気になる方は以下の記事をご参照くだ ...

AI・機械学習自然言語処理

: ULMFiTを理解する

2021/6/20 ULMFiT, データ分析, 自然言語処理

前回、事前学習-ファインチューニングに関する記事を書いたので、次はその発展形ともいえるUniversal Language Model Fine-tuning(ULMFiT)について説明していきたいと ...

AI・機械学習自然言語処理

: 【データ分析実践】口コミを使ったキャンプ場に関する分析(事前学習-ファインチューニング実装編)

2020/4/15 データ分析, ファインチューニング, 事前学習, 自然言語処理

以下の投稿では、事前学習-ファインチューニングについて解説しました。この考え方は非常に重要なので一度簡単なモデルを使って実装してみたいと思います。 https://data-analytics.fun ...

データ分析実践

: 事前学習 - ファインチューニングを理解する

2021/8/20 ファインチューニング, 事前学習, 自然言語処理

今回は「事前学習(pre-training) - ファインチューニング(fine-tuning)」を説明したいと思います。以下の2015年の論文を参考に説明していきます。『Semi-supervi ...

AI・機械学習自然言語処理

: Transformer-XLを理解する

2021/6/20 自然言語処理

今回は、Transformerの改良版であるTransformer-XLの論文を読んでみたので、詳しく見ていきたいと思います。 Transformer-XLは“Transformer Extra La ...

AI・機械学習自然言語処理

: 【データ分析実践】口コミを使ったキャンプ場に関する分析8 ~Transformer実装編 ~

2021/11/16 AI, attention, Transformer, データ分析, 自然言語処理

今回はTransformerで口コミの評価をしたいと思います。 Transformerは、RNNやCNNを使わないことから、高速に計算できるモデルとして、BERTやXLNetなどでも使われている重要な ...

データ分析実践

: 【データ分析実践】RNNを使って文章生成を実装してみる

2022/12/14 keras, RNN, Tensorflow, 文章生成, 自然言語処理

では、今回は今までの星の数当てではなく、再帰的ニューラルネットワーク(RNN)を使って、文章生成をやってみたいと思います。こちらのTensorflowのチュートリアルを参考にしています。 RNNにつ ...

AI・機械学習データ分析実践自然言語処理

: 【論文解説】Transformerを理解する

2024/3/1 attention, Attention is All You Need, Transformer, 自然言語処理

では、今回は2017年に論文「Attention Is All You Need」で提案された “Transformer” について詳しく解説したいと思います。『Attention is All Y ...

AI・機械学習自然言語処理