AI に送る前に機密情報を伏せるライブラリ「makkuro」を作った | TechDistill

> Source: Qiita_Trend

// Problem

生成AIの利用拡大に伴い、プロンプトへの意図しない機密情報（APIキーや個人情報）の混入が深刻なリスクとなっている。人間による手動の確認には限界があり、入力ミスによる情報漏洩を技術的に防ぐ「ガードレール」の仕組みが求められている。

// Approach

AI CLIとAPIプロバイダの間にHTTPプロキシを配置する構成を採用。プロンプトを正規化し、検出器を用いてPIIやシークレットを特定、プレースホルダーへ置換して転送する。レスポンス受信時には元の値へ復元し、検出メタデータをJSONL形式で監査ログとして記録する設計である。

// Result

日本語圏特有の個人情報（マイナンバー、日本の電話番号等）への対応や、独自の正規表現によるカスタマイズ、動作モード（mask/block/warn）の切り替えが可能。現在はアルファ版として、開発者のUXを損なわずに機密情報の流出を防止する仕組みを提供している。

Senior Engineer Insight

> 「人間による注意」に頼らないガードレールの実装は、AI利用の民主化において不可欠なアプローチだ。ローカルプロキシ方式は導入コストが低く、既存のCLIツールをそのまま利用できる点で開発体験（DX）に優れている。しかし、大規模な現場で導入する場合、プロキシによる通信遅延（レイテンシ）の増大と、検知精度の限界によるリスク管理が課題となる。実運用では、検知エンジンの高速化と、検知精度を担保するための継続的なルール更新、および中央集権的なログ管理との連携が求められるだろう。