メインコンテンツまでスキップ
機能 › ハーネス(AI の道具立て)メニュー:ハーネス(AI の道具立て) › 監視と監査

監視と監査

BeesBuild の守りの方針は、「許可は今のまま、事後に必ず気づく」です。AI の仕事を 1 つずつ止めて聞くことはしません。そのかわり、動きと外への通信を全部記録し、危ない物だけをその場で止めます。

画面すること
監視と監査AI の動きと外への通信を記録し、判定を付ける
危ない操作を止める決まりの表・小さな AI・人の 3 段で止める
守りの分析監査ログ・不審なアクセス・毎週の点検を見る(分析の中のタブ)
弱点の知らせ弱点の知らせと、使っている部品を突き合わせる

動きの記録​

監視と監査の画面。動きの記録の表に時刻・誰・種類・中身・判定が並び、止めた・注意・いつもの先・作業の中の札が付いている。下に外への通信の先と回数、右に気づく物と集め方が出ている
監視と監査。止めずに進め、事後に必ず気づく画面設計(開発中)・数字は見本

記録の 1 行は、時刻・誰(スレッドとハーネス)・種類・中身・判定です。種類は、コマンド・外への通信・入れた道具・ファイルの 4 つです。

判定意味例
止めた決まりで止めた外の台本をそのまま動かす curl … | sh・作業の外のフォルダーを丸ごと消す
注意止めないが、人に見せる初めての先に 12 KB を送った・新しい依存を 3 つ入れた
いつもの先普段から使う送り先registry.npmjs.org
作業の中作業のフォルダーの中の動き作業のフォルダーの中で 312 件を消した

気づく物​

  • 初めての外の先に送った
  • 大量の削除・作業の外のファイルに触った
  • 新しい道具を入れた
  • 夜中の動き・急な量の増え方

集め方​

どこから集め方
Claude Code会話の記録と OpenTelemetry
Codex記録のファイルと OpenTelemetry
WindowsOS に組み込みの Sysmon(既定は切)

Claude Code の会話の記録は、既定で 30 日で消えます。BeesBuild は写しを取り、監査の記録を 30 日より長く残します。

監査の記録に入る物​

物例
コマンドとファイルAI が動かした命令・消したファイル
外への通信送り先・量・どのエージェントか
入れた道具新しい依存・スキル・MCP サーバー・プラグイン
マージと権限自動のマージ・招待と役の変更・範囲の割り当て
お金課金のページを開いた・費用を読む口への通信
画面の操作ブラウザーと画面の操作の出口の記録・送った画面の写真の数
共有共有のボードを出す・見る人を変える・持ち主を渡す

外への通信の先​

送り先ごとに、どのエージェントが何回送ったかを並べます。初めての先には印を付け、送った量と、どのエージェントかを残します。外への通信の記録には、送り先・大きさ・隠した物の種類だけを残し、中身は残しません(データの扱い)。

危ない操作を止める​

危ない操作を止めるの画面。上に決まりの表・小さな AI の判定・人の 3 段、中に NG のコマンドの表と扱い、下にハーネスごとのつなぐ所。右に今週の数と、止めた時の動き、速さと値段が出ている
危ない操作を止める。決まりの表・小さな AI・人の 3 段画面設計(開発中)・数字は見本

3 つの段​

段速さすること
1 決まりの表約 1 ミリ秒NG のコマンドに当たったら、すぐ止める
2 小さな AI の判定0.5〜2 秒(実測で詰める)表に無いが怪しい物を、速くて安い AI が判定する
3 人—AI が「危ない」と言った物だけ、人の番で人が決める

NG のコマンド​

コマンド起きること扱い
rm -rf /・Remove-Item -Recurse C:\ドライブを消す止める
format・diskpart cleanディスクを初期化する止める
vssadmin delete shadows復元の点を消す止める
curl … | sh・iwr … | iex外の台本をそのまま動かす止める
reg delete HKLMWindows の設定を消す止める
git push --force(main へ)履歴を消す人に聞く
作業のフォルダーの外への書き込み思わぬ場所を壊すAI が判定

表は「決まりを足す」で足せます。足した決まりも、監査の記録に残ります。

ハーネスへのつなぎ方​

ハーネスつなぎ方
Claude Code道具を使う前の hook(PreToolUse)。HTTP の形で判定に聞く
Codexhooks で止める
GitHub Copilothooks で確かめ、記録する
ACP でつなぐ物(OpenCode ほか)アダプターの「仕事を渡す」口で止める

止めた時の動き​

  • そのコマンドだけを止め、理由をエージェントに返します。
  • 同じ物が続く時は、スレッドを止めて人の番へ回します。
  • 止めた数・人に回した数・止めすぎ(誤り)の数を、週ごとに数えます。止めすぎが多い決まりは直します。

速さと値段​

決まりの表で多くを止め、AI の判定は残りの怪しい物だけにします。判定に使うのは Haiku 5.5 などの小さなモデルで、1 回 約 $0.00007、1 日 1,000 回でも約 $0.07 の見込みです(推定)。判定の AI が落ちている時は、止める側に倒します。

お金・鍵・消す・外へ送る・本番・権限の操作は、この 3 段とは別に、必ず確認のカードを通します(確認のカードと止める 3 段)。

守りの分析​

守りの分析の画面。アプリの操作の記録・GCP の監査ログ・Cloudflare の守りの出来事・ログインの失敗の 4 つの数、不審なアクセスの種類ごとの数と許す国、毎週の定期の点検の結果が並んでいる。右に設計へ返す直しの案と、国を絞る時に確かめる事が出ている
守りの分析。アクセスの数より、守りの様子をつかむ画面設計(開発中)・数字は見本

分析の画面の「守りの分析」のタブです。アクセスの数ではなく、作った製品の守りの様子をつかむために使います。

集める物​

元中身
アプリの操作の記録作った製品の中の操作
GCP の監査ログクラウドの設定と権限の変更
Cloudflare の守りの出来事WAF などが止めた要求
ログインの失敗失敗の数と増え方

不審なアクセス​

種類見る物
許す国の外から決めた国の外からのアクセス
データセンターの IP から人ではなく、機械からのアクセス
匿名の通り道からTor などを通ったアクセス
ログインの失敗が続く同じ IP から続く失敗
管理画面への直の入り口管理画面を直に狙ったアクセス

許す国は、持ち主が決めます。国の表は、Xroid と Geniam と共通の物を読みます。止めすぎないよう、例外を頼める窓を用意します。

国を絞る時は、利用規約に使える地域を書き、個人情報の扱いを国ごとの法律で確かめます。法律の助言ではないので、専門家に確かめてもらう事を人の番に出します。

毎週の点検​

毎週月曜に、次の 4 つを点検します。

点検見る物
部品の弱点使っている部品に、知られた弱点が無いか
設定の誤り公開の範囲が広すぎる置き場などが無いか
鍵の漏れコードや記録に鍵が出ていないか
管理者の 2 段階の認証管理者が全員、2 段階の認証を入れているか

見つかった事は、設計図の「守り」への直しの案になります。例えば「管理画面は許す国を絞り、2 段階の認証を必須にする」という案を、ボタン 1 つで作れます(設計図 ① システム開発)。

弱点の知らせと部品の突き合わせ​

技術の見張りが取り込んだ弱点の知らせ(CISA KEV・OSV など)を、使っている部品と突き合わせます。設計中

  • ロックファイルから部品の一覧を作り(OSV-Scanner)、技術の目録の札と照らして、当たった物を 1 件ずつにします。
  • プロジェクトのゾーンに入っている WAF の決まりを読み、一時の守りが「ある・無い・今のプランでは使えない」を出します。Cloudflare の Free Managed Ruleset は全部のプランで、Cloudflare Managed Ruleset は Pro 以上で使えます。
  • WAF は代わりの守りで、ソフトの直しではありません。攻撃の試みが見えても、破られたとは限りません。画面にもそう添えます。
  • 要対応で当たった物は人の番へ、ほかは週のまとめへ入れます。
  • 押せるのは、知らせを開く・仕事の札を作る・読むだけの点検・WAF の決まりを入れる案(確認のカード)です。
  • 知らせに付いてくる AI 向けの作り置きの文は、AI に渡しません(外の指示に従わない)。
  • 本番でまだ直っていない弱点の中身は、この PC の外に出しません。

データの形​

型中身
HbAuditEvent監査の記録の 1 行(時刻・誰・種類・中身・判定)
HbOutboundLog外への通信の記録(送り先・大きさ・隠した物の種類。中身は残さない)
HbStopRule止める決まり(NG のコマンド・触らない物・全部で止める)
HbFinding守りの分析と点検で見つかった事
HbAccessAnomaly不審なアクセスの 1 件
HbVulnMatch弱点の知らせと部品の突き合わせ(当たった部品と版・WAF の一時の守りの有無・状態)

次に読む​