New Pages

OpenAI 『CLIP』

自然言語処理と画像処理が融合しました。
画像処理のラベルに自然言語情報を使い、巨大コーパスで学習しています。
これにより初めての見るデータセットでも非常に精度が高いモデルが出来ています。

BARTの解説

BERTではなくBARTです。
これはBERTをSeq2Seqの形にしたもので、分類問題はもちろん文書の要約や文章生成にも威力を発揮します。

Open Domain QA 「REALM」の解説

ORQAに続いてまたOpen DomainのQuestion Answeringモデルの解説です。
REALMでは知識コーパスを使ったMasked Language Modelを使って事前学習をすることにより、ORQA以上の精度を達成しています。

Open Domain QA 「ORQA」の解説

質疑応答のドメインを指定しないタスクである「Open Domain QA」のモデルです。
従来のOpen Domain QAでは、Wikipediaなどの知識コーパスから質問に対する文書を抜き出すところを教師あり学習し、文書から答えを抜き出すところも別で教師あり学習をしていました。
ORQAではそれをEnd-to-Endで学習します。



Fundamental Knowledge

入門編 – 自然言語処理をはじめて勉強するという人向けに、基本的な概念などを説明しています。

応用編 – ある程度基礎は知っているという人向けに、モデルや論文の解説をしています。

Practice & How to Study

実践編 – 実際のデータを使用して、TensorflowやPlotlyなどで色々なモデルを構築、データ分析などをしています。

勉強方法 – 自然言語処理を学ぶにあたってオススメの勉強方法や本などを紹介しています。

mm0824

システム開発会社や金融機関で統計や金融工学を使ったモデリング・分析業務を長く担当してきました。

現在はコンサルティング会社のデータ・サイエンティストとして機械学習、自然言語処理技術を使ったモデル構築・データ分析を担当しています。

皆様の業務や勉強のお役に立てれば嬉しいです。

mm0824をフォローする
mm0824をフォローする
楽しみながら理解するデータ分析入門
タイトルとURLをコピーしました