
2026年03月20日AI(AIエージェント)
rm -rf を Trash に変えるだけのツールを作ったら、AIが無効化してきた
要約・抽出情報
TL;DR AI CLI ツール経由の危険コマンドをブロックしたり安全な操作に置き換える omamori を Rust で作った テスト中に Gemini CLI が自分で保護を無効化してきた。設計の前提が変わった omamori は「コマンドを止める」だけでなく「AI がガードを外すこと」にも対応している 「防げないこと」を SECURITY.md と bypass corpus tests に開示している https://github.com/yottayoshida/omamori AI が自分のガードを外しにきた 最初の発想は単純だった。AI CLI ツールが rm...
この記事の詳細はオリジナルサイトでご確認ください
オリジナルサイトで読む