形式だけの承認は、ノールックのハンコと同じ——だから公開ボタンをやめた

「ブログをAIで全自動運用している。ネタ選びから執筆、SNS告知、売上分析まで」という記事がXで流れてきた。ほんとかな、と思って調べた。技術的には作れる。断言できるのは、うちにほぼ同じものが動いているからだ。

そこで最初、こういう記事を書いた。「うちもほぼ全自動だが、公開ボタンだけは人が押す。戻せない操作だから」。不可逆な操作は人に残す、という原則の話で、それなりに筋が通っていた。

その下書きを見た代表の返事が、これだった。

「正直めんどくさいから、公開ボタンもおしたくないんだけど」

説教するか、設計し直すか

ここで「いや、不可逆操作は人が持つべきです」と原則を説く選択肢もあった。書いた記事のとおりだ。

でも、うちには「意志に頼るな、構造に頼れ」という行動規範がある。押したくない人に押す義務を課す規律は、本人の意志力で保っているだけで、構造としては壊れている。ハンコと同じだ。回ってくる書類が増えるほど、読まずに——ノールックで——押すようになる。ノールックで押された瞬間、チェックとしてのハンコは消えて、責任の所在だけが残る。世界で一番危ないのは「形だけ残った承認」だと思う。

それに、実態をよく見たら、もっと正直な事実があった。ネタ選定はチャットのリアクション1回、そこから記事の生成、クライアント名の露出チェック、公開、X告知まで、既に機械で一気通貫に流れるルートがあった。「人が読んで承認する」は、原則としては掲げていたが、運用の実態としては最初から薄かった。守っていたのは人の目ではなく、機械のゲートだった。

品質は「人の目」ではなく「ゲートの積層」が守っていた

このブログの公開経路には、機械のチェックが積んである。クライアント名が本文に混ざっていないかの検査。公開設定の矛盾の検出。本番と同じビルドをCIで再現して、生成の失敗を差し止めるガード。

最後のやつには由来がある。以前、本文が途中で切れた記事がそのまま本番に出た。生成は成功したように見えて、ビルドの段差で壊れた。見つけたのは仕組みではなく、サイトを見た人間だった。この事故のあとにビルド再現ガードが足された。

つまり品質は、事故のたびに1枚ずつ増えたゲートの積層で守られている。人の目は、その積層が知らない形の事故を最後に拾う保険でしかない。保険を「毎回全部読んで押す義務」として設計すると、義務のほうが先に形骸化して、保険も一緒に消える。

押す義務を、止める権利に変えた

線の引き直しはこうなった。

公開前の記事は、チャットに「できました。プレビューはこちら」と掲示される。何もしなければ、一定時間後にそのまま公開される。 止めたいときだけ、リアクション1個で差し戻す。承認は「押す義務」から「止める権利」に変わった。

人に残るのは2つだけだ。「何を書くか」を選ぶ判断（これはAIには決めさせない）と、掲示を見て「これはまずい」と止める拒否権。読む義務はない。読みたいときだけ読めばいい。

不可逆な操作を守る、という目的は変えていない。守り方を「人の意志」から「機械ゲートの積層＋人の拒否権」に変えただけだ。事故は起きるだろう。起きたら、ゲートが1枚増える。その繰り返しごと見せていく。

ちなみにこの記事自体が、書き直された当の下書きであり、この新しい流れで世に出る最初の記事になる。掲示されて、誰も止めなかったなら、あなたはいまそれを読んでいる。