MakerChecker: AIエージェント向けオープンソースセキュリティレイヤー

MakerCheckerは、AIエージェントにガバナンスをもたらすために設計されたオープンソースのセキュリティレイヤーです。エージェントとそのツール呼び出しの間に位置し、デフォルト拒否の権限を強制し、高リスクアクションには人間の承認を要求し、改ざんが明らかな監査証跡を維持します。このプロジェクトは、リスクのあるエージェント機能を特定する静的スキャナー、ツールをガバナンスでラップする組み込みライブラリ、集中管理とレビューのためのオプションのセルフホストサーバーを提供します。

仕組み

MakerCheckerは3つの独立したパッケージで構成されています。静的スキャナー（mc scan）はエージェントコードを分析し、アクションをリスクレベルで分類し、データ削除、資金移動、シェルコマンド実行などの操作をフラグ付けします。組み込みライブラリ（@makerchecker/embedded）により、開発者はロール、スキル、エージェントを定義し、許可されたアクションのみが実行されるようにツール呼び出しをラップできます。セルフホストサーバーは、人間の承認受信箱、レビューコンソール、検証可能な監査ログを提供します。

主な機能

• デフォルト拒否の強制: エージェントは、そのロールに明示的に許可されたスキルのみを実行できます。許可されていない呼び出しは実行前に拒否されます。
• 人間参加型の承認: 高リスクアクションには別途人間の承認が必要であり、エージェントが自身の作業を承認することを防ぎます。
• 暗号署名された監査ログ: すべての決定とツール呼び出しは、ハッシュチェーン化され、Ed25519署名されたログに記録されます。改ざんは検証を破壊し、バンドルはオフラインで検証できます。
• フレームワーク統合: LangChain、Claude Agent SDK、TypeScript/Python SDK用のドロップインコネクタにより、既存のエージェントワークフローにガバナンスを簡単に追加できます。

ユースケース

このプロジェクトには、ファーマコビジランスケース処理、医療機器苦情トリアージ、腫瘍患者アクセス、日次現金照合などの実装例が含まれています。これらは、MakerCheckerが実際のエージェント展開において職務分離と規制コンプライアンスを強制する方法を示しています。

はじめに

既存のエージェントコードベースをリスクスキャンするには、npx @makerchecker/scan .を実行します。新しいエージェントにガバナンスを組み込むには、@makerchecker/embeddedをインストールし、ロールとスキルを定義します。人間の承認受信箱による集中管理の場合は、docker compose upを実行してセルフホストサーバーを起動します。このプロジェクトはデュアルライセンス（非本番用はApache 2.0、本番用は商用）で利用可能です。