AIエージェント
AIエージェントは、目標を受け取り、達成までの手順を計画し、ツールやAPIを呼び出して実行し、報告の前に自らの進捗を確認するプログラムです。チャットボットと異なり、システムについて文章を生成するだけでなく、システムに対して実際に働きかけます。
AIエージェントの構成要素
- モデル：目標とこれまでの観測に基づき、次に何をするかを決定します。
- ツール：エージェントが呼び出しを許可された関数、API、データベース。それぞれ定義された入出力を持ちます。
- メモリ：一つのタスク内で各手順に引き継ぐ情報と、タスクをまたいで保持する情報。
- 制御ループ：続行するか、人に確認するか、停止するかを判断します。
- 記録：全手順の記録。これがないと、なぜその動作をしたのかを誰も再構成できません。
セキュリティ境界を定めるのはツールの一覧です。エージェントはツールが与えられた対象にしか影響を及ぼせないため、企業導入における確認事項は、基盤モデルの能力よりも、どのツールが存在し、各ツールが何に触れてよいかです。
エージェントとチャットボットの違い
| チャットボット | エージェント | |
|---|---|---|
| 出力 | 文章 | 動作、その後に文章 |
| 1要求あたりの手順 | 1回 | 実行時に決まる複数回 |
| 他システムへの作用 | なし | 定義されたツールを通じてあり |
| 失敗の形 | 誤った回答 | 誤った動作。取り消せない場合もある |
| 確認に必要なもの | 回答の品質 | 手順と呼び出しの監査証跡 |
両者を別の枠組みで統制する理由は、この失敗の形にあります。誤答するチャットボットは読み手の時間を奪うにとどまりますが、誤って動作したエージェントは記録を変更し、メッセージを送信し、資金を動かした後です。重要な統制は、どの動作を実行前の確認対象とするかです。
企業導入で統制すべき事項
- 各ツールの権限を、業務が成立する最小限に絞ります。個人の資格情報ではなくサービス用の識別情報を用います。
- 取り消せない動作の実行前に確認を必須とし、どれが該当するかを明確に定義します。
- すべての手順、ツール呼び出し、結果を、数か月後に監査担当者が読める形式で記録します。
- 手順数または時間の上限を設定し、誰かが気づくまで動き続けるのではなく確実に終了させます。
- モデルの実行場所を決定します。社内データを外部提供のモデルへ送ることは、見た目の操作にかかわらずデータの移転です。
よくある質問
- AIエージェントとは何ですか。
- AIエージェントは、目標を受け取り、達成までの手順を計画し、ツールやAPIを呼び出して実行し、報告の前に進捗を確認するプログラムです。チャットボットと区別される点は、文章を生成するだけでなく、システムに対して実際に働きかけることです。
- AIエージェントとチャットボットの違いは何ですか。
- チャットボットは1回の処理で文章を生成します。エージェントは実行時に手順の並びを決め、メッセージ送信、記録の更新、問い合わせの実行など、対象を変化させるツールを呼び出します。この作用の違いにより、エージェントには動作単位の権限と監査証跡が必要になります。
- AIエージェントはどのようなツールを使えますか。
- 与えられたツールのみです。ツールは、入出力と権限範囲が定義された関数であり、データベース照会、HTTP呼び出し、ファイル操作、メッセージ送信などが該当します。ツールがない対象には影響を及ぼせないため、ツール一覧が導入のセキュリティ境界になります。
- AIエージェントを本番環境で安全に運用できますか。
- 周囲の権限設計と確認手順の水準と同じだけ安全になります。重要な統制は、最小権限でのツール設定、取り消せない動作の前の確認、手順と呼び出しの完全な記録、そしてループが自ら終了するための手順数または時間の上限です。
- AIエージェントはオンプレミスで動作しますか。
- モデル、ツール、制御のすべてをローカルのハードウェアで実行する構成であれば動作します。Ayonix ATLASのエージェントは、エアギャップ環境を含むこの用途を前提に構築されています。実際の制約はエージェントの構造ではなく、利用可能なハードウェアに対するモデル規模です。
- AIエージェントは人員を置き換えますか。
- 機能している導入では、業務の機械的な部分を担い、判断と承認は人に残しています。端から端まで無監督でエージェントに任せる運用こそが、報じられるような失敗を生みます。誤りを検出する工程が存在しないためです。