大規模言語モデルを用いたオントロジー自動構築のためのゼロショット・プロンプトの比較と基礎的評価

項目 内容
論文ID P59
区分・分類 論文・スキーマ・オントロジー
著者・所属 古崎 晃司、洲濱 美幸、鈴木 陽太(大阪電気通信大学)
発表先 人工知能学会全国大会論文集(JSAI 2025)
発表日 2025-05
引用数 未取得(OpenAlex 2026-10-06時点)
言語 日本語
URL https://cir.nii.ac.jp/crid/1390023229740669184
PDF 論文/pdf/P59.pdf(J-STAGE)
読んだ範囲 全文

論文タイプ

評価。2種類のゼロショット・プロンプト手法を提案するが、目的は両者の比較による基礎的評価と使い分け指針の提示にある。

研究の目標

オントロジーは構築コストが課題。本研究は、新しい領域で学習用の事例を用意しにくい場面を想定し、文書・用語などの事前知識なしに学習済みLLMだけで初期的なオントロジーを作る(用語/概念の抽出と関係抽出を同時に行う)。再帰的プロンプトと単一プロンプトを比較し、使い分けの指針を示すことが到達点。

技術的なやり方

再帰的プロンプト 単一プロンプト
入力 最上位概念名・is-a階層の深さ・幅 同左
手順 「〇〇のsubclassを単語で列挙」(個数=幅、「〇〇に関連する内容であること」を条件)で下位概念を得て、それを次段の入力に使い指定の深さまで繰り返す。得た各概念について part-of と attribute-of をそれぞれ別プロンプトで列挙 「単語〇〇のd段w幅の"is-a"関係のみをツリー構造で生成」と1回で指示。総単語数n、日本語の単語、親子に同じ単語を含めない、段数分の空白で出力などの条件を付ける
出力 is-a階層+part-of・attribute-of関係 is-a階層のみ
実装 ChatGPT API+JavaScript、GPT-4 Turbo ChatGPT API+JavaScript(モデル名は論文に記載なし)。Wikidataのクラス階層と比較する評価機能付き

評価方法: - 再帰的プロンプト:最上位概念「気候変動」(深さ3・幅15)、「食品」「家具」(深さ3・幅10)。気候変動は環境の専門家1名、食品・家具は大学生4名が正誤を判定。is-a以外の関係は無作為に抜粋して評価 - 単一プロンプト:「家具」「生物」「食物」「教育機関」「職業」「菓子」「店」「ドレス」「車両」「家電製品」の10語、深さ1〜3段・幅1〜10。Wikidataのクラス階層との文字列一致(名称・別名)で上位-下位の組を照合。加えて大学生6名の多数決でis-a関係の正誤を判定

結果

項目 内容
再帰的・規模 気候変動:下位概念231・is-a以外の関係5,218。食品:110・2,636。家具:107・2,583
再帰的・is-a 段が深いほど正しい下位概念の割合が下がる。全体では気候変動が10%(本文の記載どおり)、食品・家具が80〜100%
再帰的・is-a以外 どの事例も80〜90%が正しいと判定
単一・Wikidata比較 同じ深さ・幅でも最上位語で得られる概念数が異なり、is-a階層が得られない条件もあった
単一・人の評価 正しいと判定された割合は最上位語によって60〜90%。Wikidataに概念がある場合とない場合で大きな差はない
単一・深さ別 Wikidata一致率・人の評価のどちらも段数が増えると下がり、1段と3段で2倍以上の差
手法比較 共通の「家具」「食品(食物)」では両手法とも80〜90%で大差なし。深くなるほど下がる傾向は両手法にあるが、単一プロンプトの方が下がり幅が大きく、深いis-a階層には再帰的プロンプトが適している

限界・課題

要点

事前知識なしのゼロショット・プロンプトでLLMにオントロジーを作らせる2手法(再帰的/単一)を比較した。is-a以外の関係は80〜90%が正しく、is-a階層は深くなるほど精度が落ちる。深い階層には再帰的プロンプトが向く。