BERTやModernBERT（Ruri-v3など）のようなTransformerベースのモデルは、内部的に Self-Attention メカニズムを持っており、文全体のコンテキストを考慮して各トークンのベクトルを決定しています。そのため文脈を考慮して、NERでは地名（LOC）か企業名（ORG）と言った固有表現を抽出できます。大変便利です。すっかり高…

地平線まで行ってくる。

コンテキスト指向な NER をColabで味見してみる。