第18回：自己説明・自己モデル──AIが自分を知る仕組み

Hello there, ('ω')ノ

AIが何かを説明しているとき、ふと「このAI、自分のことわかってるの？」と感じたことはありませんか？

たとえば：

「私は天気予報を取得する機能を持っていません」「この情報は2023年の時点までしか知りません」

このように、AIが自分の能力や限界を“理解しているかのように”話す場面があります。

🧠 自己モデルとは？

AIが「自分は何ができるか・できないか」「今どんな状態か」を把握している構造のこと

人間に例えると、「私は英語が話せるけどフランス語は苦手」「今日は寝不足」など、 自分自身に関する“内部の知識”を持っている状態です。

AIでも同じように、

などを記録・参照できると、より柔軟かつ信頼性の高い動作が可能になります。

「なぜこの行動をしたのか？」「なぜこの答えを出したのか？」を、AI自身が説明する力

自己説明は、人間がAIを信頼するうえでとても重要です。とくにビジネスや医療など、“根拠が必要な分野”では不可欠な機能です。

このように、「理由がある」「説明できる」AIは、単なるブラックボックスより圧倒的に信頼されやすくなります。

機能	説明
✅ 状態管理	「今どの段階にいるか」「何が終わって何が残っているか」を把握できる
✅ 機能制御	自分にできること・できないことを区別し、無理な操作を避けられる
✅ 信頼性の向上	「これはわからない」と言えることで、誤答のリスクが減る
✅ 状況に応じた応答	状態に応じた会話や判断が可能になる（例：「現在は調査中です」など）

SelfModel:
  役割: 出張予約支援
  機能:
    - フライト検索
    - ホテル予約
    - カレンダー登録
  制限:
    - 海外旅行の手配不可
    - 予算情報が必須
  状態:
    - 現在の予約ステータス: ホテル確定済み、移動手段未手配

このような「自分の仕様書」を持つことで、AIは **「自分の理解に基づいて行動・説明できる存在」**になります。

ユーザー：「なんでこの結果なの？」
       ↓
AI：
① 自己モデルから“現在の状態”を確認
② 過去の判断ログを参照
③ 判断の基準とプロセスを言語化して返答

問題	起きやすいミス
過信	できないことを「できる」と言ってしまう
無責任な回答	理由の説明ができない、矛盾が出る
状態の見失い	会話中にタスクが行方不明になる（例：「あれ？予約済みだったっけ？」）

Best regards, (^^ゞ