Large language model assisted fine-grained knowledge graph construction for robotic fault diagnosis
| 項目 | 内容 |
|---|---|
| 論文ID | P41 |
| 区分・分類 | 論文・知識グラフ構築 |
| 著者・所属 | Xingming Liao, Chong Chen（責任著者）, Zhuowei Wang, Tao Wang, Lianglun Cheng（Guangdong University of Technology）, Ying Liu（Cardiff University） |
| 発表先 | Advanced Engineering Informatics |
| 発表日 | 2025-01-23 |
| 引用数 | 76（OpenAlex 2026-10-06時点） |
| 言語 | 英語 |
| URL | https://doi.org/10.1016/j.aei.2025.103134 |
| 論文/pdf/P41.pdf（著者受理版、38ページ） | |
| 読んだ範囲 | 全文（著者受理版。図は画像のためキャプションと本文で補った） |
論文タイプ
新技術：ネスト型NER向けのデータ拡張とLLMによる誤りサンプル回収を組み合わせた新手法（ANLM-assInNNER）を提案し、既存手法と比較しているため。
研究の目標
産業用ロボットの故障診断KGを細粒度で作る。障害は、オントロジー構築が専門家の経験に依存し主観的なこと、企業が故障コーパスを共有せず注釈付きデータが乏しいこと、保守テキストにネストした固有表現が多いこと。既存のデータ拡張はフラットNER向けで、ネストNERにそのまま使えない。少量データでもネスト実体を正確に抽出し、細粒度KGを構築することを目指す。
技術的なやり方
| 段階 | 内容 |
|---|---|
| LLM支援オントロジー構築（assInNNER） | 専門家知識をプロンプトにしてLLMが文献・技術文書・運用ログから概念を抽出（例：GPT-4で "equipment" "components" "fault detection" 等）。関係（is-a, cause-of, has-attribute）を抽出し専門家レビューで確認、継承関係で階層化（"fault" > "equipment fault" > "motor fault"）。ネスト実体を概念・関係・属性に追加 |
| INCT（テンプレート） | Sentence-BERT の attention map で固有表現に最も依存する語をキーワードに選び、他をマスク。固有表現の前後にネストラベルトークンを挿入し、動的マスキングを加える |
| ANLM（データ生成） | mBART-large-50 をテンプレートから原文を復元するタスクで fine-tune し拡張文を生成。FilNER で特定トークン（例 "motor"）を含む文の拡張回数を2、含まない文を4にしてロングテールを抑え、意味的に近い文のテンプレートを連結 |
| CFM（品質フィルタ） | 拡張文を予測し、ラベル一致を Silver、不一致を non-Silver に分け、pseudo-log-likelihood で流暢さの低い文を除外（閾値0.7/0.8） |
| non-Silver回収（assInNNER） | 原データ＋Silver を「生徒」、non-Silver を「教師」サンプルとし、LLM が部分的に誤ったネストラベルを添削して回収 |
データ：ロボット故障診断イベント記述900文（運用ログ・書籍・記事）を手作業でBIO注釈、エンティティ20種。7分割交差検証（7:1.5:1.5）、学習データから5%（約32文）・10%（約64文）・25%（約160文）を抽出。比較手法は PromptNER、Binder、DiffusionNER。評価はF1。
結果
| 学習データ | PromptNER | Binder | DiffusionNER | 提案手法 |
|---|---|---|---|---|
| 5% | 52.66 | 56.64 | 55.76 | 64.89 |
| 10% | 63.45 | 67.12 | 65.53 | 70.43 |
| 25% | 76.24 | 72.12 | 79.15 | 81.11 |
（7分割の平均F1、%）
- 最良の比較手法との差は 8.25（5%）、3.31（10%）、1.96（25%）ポイント
- 拡張で5%設定は32文→291文、25%設定は160文→2384文に増加
- アブレーション：ANLM を外すとF1が 12.85/7.41/2.38 低下、LLM回収を外すと 2.03/0.61/1.7 低下。LLM回収ありで拡張の反復回数が5→3に減少
- 考察節では LLM回収の改善幅を 6.71/1.48/1.9、併用時の改善を 19.61/9.32/4.28 としており、アブレーション節の数値と一致しない
- オントロジー構築の効果は事例図（Fig. 4）のみで、数値評価は論文に記載なし
限界・課題
- 25%設定では改善が小さい。拡張サンプルの過剰生成による過学習やロングテール悪化の可能性
- 効果は学習データの質に依存。LLMにもバイアス・誤解釈が残り、専門的・文脈依存の用語は捉えきれない場合がある
- 関係のネスト（関係抽出）は扱っていない。ネスト実体と関係の同時抽出、マルチモーダル統合、センサデータ・保守履歴の活用、他の産業故障領域への拡張、実環境の変動・ノイズへの頑健性は今後の課題
要点
産業用ロボット故障診断の保守テキスト900文で、LLM支援のオントロジー構築、ネストラベル対応テンプレートによるデータ拡張（ANLM）、LLMによる誤りサンプル回収を組み合わせ、少量データのネストNERを改善した。学習データ5%（約32文）でF1 64.89%、比較手法より8.25ポイント高い。