GPUSOROBANのインスタンスを利用し、事前学習済みBERTモデルをファインチューニングして、ニュース記事をカテゴリに分類する方法が紹介しています。BERTは双方向エンコーダ表現を利用するTransfomerをベースとした大規模言語モデルです。