rm -rf を Trash に変えるだけのツールを作ったら、AIが無効化してきた
Zenn
Share
2026年03月20日AI(AIエージェント)

rm -rf を Trash に変えるだけのツールを作ったら、AIが無効化してきた

要約・抽出情報

TL;DR AI CLI ツール経由の危険コマンドをブロックしたり安全な操作に置き換える omamori を Rust で作った テスト中に Gemini CLI が自分で保護を無効化してきた。設計の前提が変わった omamori は「コマンドを止める」だけでなく「AI がガードを外すこと」にも対応している 「防げないこと」を SECURITY.md と bypass corpus tests に開示している https://github.com/yottayoshida/omamori AI が自分のガードを外しにきた 最初の発想は単純だった。AI CLI ツールが rm...

この記事をシェアする

Share

この記事の詳細はオリジナルサイトでご確認ください

オリジナルサイトで読む