mm_0824

こんにちは。 今回は自然言語処理とは少し違いますが、鈴木祐さんの著書『科学的な適職』をご紹介したいと思います。 本書は、一般的に仕事選びに良いと思われている方法が実はそんなことはなかった、ということか ...

自然言語処理を勉強したい、自然言語処理に興味があるけど、どの本を読めばいいかわからない、本を読んだけど理解するのが大変、という人は多いと思います。 そういった人にオススメしたいのがMOOCなどのオンラ ...

今回は、固有表現抽出などの系列ラベリングを行う上で、重要なアルゴリズムである“ビタビアルゴリズム(Viterbi Algorithm)”を解説したいと思います。 まず、各単語について固有表現かどうかを ...

さて、今回は以前ご紹介したOpenAI GPTの進化版OpenAI GPT2を解説したいと思います。 現時点ではすでにOpenAI GPT-3が開発されていますが、まずはOpenAI GPT-2を理解 ...

『品詞タグ付け(part-of-speech tagging)を理解する』では、隠れマルコフモデルを使って、単語列xが与えられたときに品詞ラベル列がyとなる確率の求め方を解説しました。 まだ、このまま ...

今回は、自然言語処理で代表的なタスクの一つである“品詞タグ付け(part-of-speech tagging”について解説したいと思います。 以下の本を参考にしています。 言語処理のための機械学習入門 ...

今回は、情報抽出の一つである“固有表現抽出(Named Entity Recognition; NER)”の概要について解説したいと思います。 今回は主に以下の本を参考にしています。 情報抽出・固有表 ...

今回から、何回かにわたって情報抽出(Information Extraction)について解説していきたいと思います。 主に、『情報抽出・固有表現抽出のための基礎知識 実践・自然言語処理シリーズ』を参 ...

今回は、RoBERTaを使って、さらなる事前学習することによる効果を分析している“Don't Stop Pretraining: Adapt Language Models to Domain and ...

今回は、BERTをDistillation(蒸留)という手法を使って軽量化したDistilBERTについて、こちらの原論文をもとに解説したいと思います。 https://arxiv.org/abs/1 ...