mm_0824

コンサルティング会社の管理職兼データ・サイエンティスト。 会社員をしながらAI 関連で起業しました。 皆様の業務や勉強のお役に立てれば嬉しいです。 Twitterでも新規記事についての発信をし始めたので是非フォローしていただけると嬉しいです! ↓↓↓

【論文解説+Tensorflowで実装】VQ-VAEを理解する

2022/9/28    , ,

今回は、VQ-VAE(Vector Quantised-Variational AutoEncoder)を解説したいと思います。 VQ-VAEもVAE(Variational AutoEncoder) ...

【Python (Tensorflow) による実装付き】Variational Auto-Encoder (VAE) を理解する

今回は、2014年に提案された画像生成モデル “Variational Auto-Encoder (VAE) ” について解説していきたいと思います。 仕組みの詳細まで踏み込んでいるため、計算などが複 ...

Gumbel-Max Trick(ガンベル最大トリック)を理解する

さて、今回はカテゴリカル分布から効率的にサンプリングする方法であるGumbel-Max Trick(ガンベル最大トリック)について解説したいと思います。 Gumbel-Max Trickを使うと、De ...

【論文解説】自然言語処理と画像処理の融合 - OpenAI 『CLIP』を理解する

2022/10/12    , ,

今回はOpenAIの『CLIP(Contrastive Language-Image Pre-training)』を解説したいと思います。 CLIPは画像の分類に利用されるモデルですが、今までのモデル ...

【論文解説】BARTを理解する

2022/1/15  

今回は、『BART(Bidirectional Auto-Regressive Transformer)』を解説したいと思います。 簡単に言うと、BARTはBERTをSequence-to-Seque ...

【論文解説】Open Domain Question Answering 「REALM」を理解する

2021/6/20    ,

前回、オープン・ドメインの質疑応答タスクに対して、BERTを全面的に採用し、End-to-Endで学習することができるORQA(Open Retrieval Question Answering)を紹 ...

【論文解説】Open Domain Question Answering 「ORQA」を理解する

2021/6/20    

今回は、ドメインが指定されていない質疑応答タスクであるOpen Domain Question AnsweringをEnd-to-Endで学習するモデル「ORQA(Open-Retrieval Que ...

文章から画像を生成するOpenAI 「DALL-E」について解説

2022/7/26    , , ,

2021年1月5日にOpenAIのサイトに「DALL·E: Creating Images from Text」という記事が公開されました。 OpenAIは最近、自然言語処理技術を使って非常に自然なニ ...

【論文解説】Sparse Transformerを理解する

2021/6/20    ,

さて、今回はOpenAIから提案された、attentionを効率化することで長い系列を取り扱うことを可能にしたSparse Transformerの論文について解説したいと思います。 この仕組みはGP ...

【論文解説】Image GPTを理解する

2021/10/29    

このサイトでは基本的に自然言語処理の論文等をご紹介してきましたが、今回はOpenAIが発表した画像生成モデル『Image GPT』の論文を解説したいと思います。 こちらはOpenAIの記事で紹介されて ...