進捗報告資料研究進捗報告

佐藤 真|2026年6月4日(木)

01MNLI データセットの調査

データセット概要

3つのスプリット

スプリット ジャンル・備考 件数 アノテーター数
train fiction, government, slate, telephone, travel 392,702 1
dev_matched 同上 9,815 5
dev_mismatched 9/11, face-to-face, letters, OUP, verbatim 9,832 5

データ例

{
    "annotator_labels": ["neutral", "entailment", "neutral", "neutral", "neutral"],
    "genre": "slate",
    "gold_label": "neutral",
    "pairID": "63735n",
    "promptID": "63735",
    "sentence1": "The new rights are nice enough",
    "sentence1_binary_parse": "( ( The ( new rights ) ) ( are ( nice enough ) ) )",
    "sentence1_parse": "(ROOT (S (NP (DT The) (JJ new) (NNS rights)) (VP (VBP are) (
        ADJP (JJ nice) (RB enough)))))",
    "sentence2": "Everyone really likes the newest benefits ",
    "sentence2_binary_parse": "( Everyone ( really ( likes ( the ( newest benefits )
        ) ) ) )",
    "sentence2_parse": "(ROOT (S (NP (NN Everyone)) (VP (ADVP (RB really)) (VBZ likes
        ) (NP (DT the) (JJS newest) (NNS benefits)))))"
}

02タスク定義

03クラス分布と評価指標

クラス 件数 割合
合意 (agree) 16,602 83.0%
不合意 (disagree) 3,398 17.0%

04実験結果(評価:valid セット)

# カテゴリ モデル accuracy f1_macro f1_disagree f1_agree
1 ランダム majority_class(常に合意と予測) 83.0% 0.454 0.000 0.907
2 ランダム uniform_random(50/50) 50.3% 0.443 0.260 0.626
3 ランダム stratified_random(訓練分布に従う) 72.5% 0.508 0.181 0.835
4 単純 ML LightGBM / TF-IDF(5-fold CV) 72.0% 0.519 ± 0.007 0.209 0.830
5 単純 ML LightGBM / SBERT(密なベクトル) 81.9% 0.483 0.065 0.899
6 Transformer BERT-base-uncased 77.8% 0.523 0.174 0.872
7 特徴量設計 LightGBM / NLI 信頼度 + TF-IDF(5-fold CV) 76.8% 0.614 ± 0.010 0.371 0.858
8 Transformer cross-encoder/nli-deberta-v3-base(fine-tune) 78.6% 0.661 0.455 0.834

考察

05まとめ

06今後の方針