AI・機械学習 【入門者向け】Perplexityを直観的に理解する
今回は、BERTやGPT3などの言語モデルを評価する際に一般的に利用されているperplexity(パープレキシティ)について解説したいと思います。
ここでは、厳密な説明というよりは直観的にわかりやすく、論文等を読んでいてぱっとイメ...
AI・機械学習
AI・機械学習 
AI・機械学習 Frechet Inception Distance(FID)を理解する
前回の記事ではGANの評価指標としてよく用いられているInception Scoreについて解説しました。
今回はもう一つの代表的な評価指標であるFrechet Inception Distance(FID)について解説...
AI・機械学習 Inception Scoreを理解する
さて、今回はGANの評価指標としてよく使われているInception Score(IS)について解説したいと思います。
Inception Scoreの評価式は以下で表され、大きければ大きいほどGANの性能が良いと言われます。
...
AI・機械学習 OpenAI GPT-3 APIの使い方を解説
2021年11月18日にOpenAIが「GPT-3」のウェイティングリストを解除すると発表しました。
これにより申請すれば誰でもGPT-3のAPIを使用できるようになります。
ということで、GPT-3のAPIについて実...
AI・機械学習 【入門者向け】畳み込み演算と転置畳み込み演算を理解する
今回は畳み込みニューラルネットワーク(Convolutional Neural Network; CNN)で使われている畳み込み演算(convolution, コンボルーション)や、GAN(Generative Adversarial N...
AI・機械学習 【論文解説+実装(PyTorch)】DCGANを理解する
さて、今回は2015年に提案されたDCGAN(Deep Convolutinoal Generative Adversarial Networks)について解説していきたいと思います。
DCGANは学習が難しいとされていた畳み込み層...
AI・機械学習 【論文を使って丁寧に解説】ドロップアウト(Dropout)を理解する
今回はバッチ正規化(Batch Normalization)に続き、ディープラーニングでは一般的となっているドロップアウト(Dropout)について解説したいと思います。
ドロップアウトはオーバーフィッティングを減らすことができる非...
AI・機械学習 ドラクエ画像でOpenAI 『CLIP』を使う
さて今回は、以前こちらの記事で紹介しているOpenAIの『CLIP』を使って遊んでみたいと思います。
ここでは、CLIPの詳細については全く触れないので、興味がある方は以下の記事を参考にしてください。
CLIP(C...
AI・機械学習 【解説+実装】PixelCNNを理解する
さて、今回は画像の生成モデルの一つであるPixelCNNを解説し、最後にPyTorchで簡単に実装していきたいと思います。
PixelCNNは、まず2016年に以下の論文でPixelRNNなどとともに提案された画像の生成モデルです。...
AI・機械学習 【論文解説】VQ-VAE2を理解する
これまでVAE(Variational Auto-Encoder)やVQ-VAE(Vector-Quantized VAE)について解説しましたが、今回はGANとも並ぶ精度を実現したVQ-VAE2(Vector Quantized-Var...