AIがもっともらしいウソをつく問題の解決へ 三谷産業、AIの回答プロセスを制御する 信頼性ガバナンス基盤を体系化し、米国にて特許出願

三谷産業株式会社（本社：石川県金沢市／代表取締役社長：三谷 忠照、以下 三谷産業）は、社会全体で生成AIの活用が進む中、企業や行政の重要業務に求められる「情報の根拠の明確化」と「不確実な場合に停止できる安全性」に着目し、AIの処理プロセス全体を一貫して制御する「AI信頼性ガバナンス基盤」を発明・体系化しました。あわせて、これを構成する7件の要素技術について米国特許を仮出願いたしました。
本取り組みは、生成AIが高度化する一方で、業務利用の際に依然として課題となっている、回答の信頼性・説明性・検証可能性の確保を目的としたものです。また、日本発のAIガバナンス技術として国際的なAI安全性の議論にも資する知財の確立を目指しています。

■背景：精度競争から、「信頼性の向上」へ
生成AIは業務効率化に大きく寄与しており、その実用性は近年さらに高まっています。一方、もっともらしく見えても誤っている回答（ハルシネーション）が生じ得るリスクは依然として存在しており、企業の業務判断に影響を及ぼす課題となっています。こうした状況でAIを重要業務に活用するには、回答の正しさを求めるだけでなく、「情報の根拠を確認できること」や「不確実な場合に回答を止められること」といった、検証可能性や信頼性の確保が欠かせません。
金融・法務・製造・行政サービスなど、特に高い正確性と説明性が求められる領域では、AIが自然に答えられるかどうかよりも、誤った情報を出さない運用が最優先となります。そのためには、回答の根拠や時点の確認といった「説明できる仕組み」や、不確実な回答を検知し、人の判断へ切り替えられる「止まれる仕組み」を備える必要があります。
こうした課題に対し、当社が体系化した「AI信頼性ガバナンス基盤」は、情報の「入口／工程／出口」を段階的に管理し、情報の出所や時点（鮮度）、意味構造との整合性といった多面的な観点からAIの処理プロセス全体を制御する仕組みです。この仕組みにより、AIが誤った前提のまま回答するリスクを運用面で抑えます。

■「AI信頼性ガバナンス基盤」の全体像と当社の提供価値
「AI信頼性ガバナンス基盤」は、データの入出力の流れ（入力→処理→出力）を三つの"関所"（入口／工程／出口）で段階的に管理し、誤った前提で回答を出させないことを中核に据えた設計思想です。
入口では参照情報に出所や時点といった根拠をタグ付けし、関所を通過させるべき情報と遮断するべき情報を判断します。工程では、AIが持つ知識が信頼できるかどうかを判断する仕組み、データを効率よく整理する情報圧縮の技術、信頼できる範囲を基準にした判別方法、判断する・しないの境界を高速に見極められる技術を組み合わせることで、処理の精度とスピードの両方を高めています。出口では誤回答のリスクに応じた基準にもとづき、不確実な回答は「分からない」に切り替えて、必要に応じて人による確認へ誘導します。
この一連の制御により回答前に根拠（出所・時点）、最新性、整合性が満たされ、重要業務で求められる信頼性を仕組みとして担保します。

■今後の展開
当社は、今回の米国特許仮出願を機に、PCT出願^※等による日本および諸外国での権利化を進めるとともに、国内外の企業・研究機関との共同実証やパートナー連携を通じて、重要業務におけるAI活用の信頼性基盤の実用化を推進してまいります。あわせて、学術論文の投稿などを通じて技術情報を発信し、理論的裏付けと透明性の確保にも取り組んでまいります。
三谷産業は今後も、AIの利便性と安全性を両立させ、企業が安心して活用できるAI基盤の実現に取り組んでまいります。

※特許協力条約（Patent Cooperation Treaty、PCT）に基づく国際出願制度であり、ひとつの国際出願によりPCTに加盟するすべての国へ同時に出願した効果を得られるもの。

（補足情報）
【三谷産業グループについて】 https://www.mitani.co.jp/
石川県金沢市で創業して98年、ベトナムで創業して31年の複合商社です。北陸、首都圏、ベトナムを拠点に、化学品／情報システム／樹脂・エレクトロニクス／空調設備工事／住宅設備機器／エネルギーの６セグメントで事業を展開しています。商社でありながら、時にメーカーとして、また時にコンサルタントとして、お客さまにとっての最適を追求するとともに、「もうすぐ創業100周年を越えるベンチャー企業」として更なる進化へと挑戦しています。
2025年3月期：連結売上高103,072百万円／連結従業員数3,563名