絵の中の枝を、そよ風でひと呼吸だけ揺らしてほしい——AIへの注文は、それだけでした。
出てきた動画では、枝の先から謎の蒸気が噴き出していました。しかも、3回連続で。
プロンプトに「霧」「雲」「煙」の単語は、ひとつもありません。機械検索までして確かめたので、断言できます。絵にも霧は描いていません。それでも蒸気は、3回とも律儀に噴き出しました。
犯人は、プロンプトの外にいました。今日は「AIの常識は、指示文の外で動いている」という話です。
実話｜3回連続で、頼んでいない霧が出た
私はAIで映像コンテンツを作っています。そのシリーズは、墨の濃淡で描く水墨画調。紙の白を塗り残す「余白」が主役の、静かな絵です。
1回目——「たまたまでしょう」
楓の枝を揺らす注文で、枝先から蒸気。生成AIには出来のばらつきがあるので、「引きが悪かった」と流しました。
2回目——「この絵だからでしょう」
別の絵で、萩の枝。また蒸気。今度は「この絵は白っぽくて霧に見えやすいから」と、条件付きの説明をひねり出しました。
3回目——ようやく地面を疑った
竹でも噴いた。3枚とも別の絵、別のプロンプト、共通するのは水墨画という様式だけ。ここでやっと、転び方ではなく、立っている地面のほうを疑いました。
真因｜白い紙が、AIには霧に見えていた
水墨画の余白は、人間には「まだ何も描いていない白い紙」です。ところが動画AIは、あの白をずっと霧や雲として解釈していたようなのです。
だから、枝を揺らして画面に「風」が生まれた瞬間、AIの中で物理の常識が発動します。風が吹けば、霧は流れる。絵のどこにも描かれていない霧を、AIはどこからか律儀に噴かせて、常識のつじつまを合わせていました。
状況証拠もそろっていました。同じ絵で猫のしっぽの先だけを動かした回は、2回とも無事だったんです。植物が揺れる＝風が吹いた、しっぽが揺れる＝猫の意思。AIは動きの「原因」を勝手に推理して、風のときだけ霧を連れてきていました。
言葉を全部消しても、様式が語彙を持っている
この事故のいやらしさは、プロンプトの検閲では防げないところにあります。
うちは以前、指示の単語がひとつだけ静かに捨てられる事故を経験してから、プロンプトの言葉選びにはかなり気を使ってきました。霧を呼びそうな単語は、最初から入れていません。
それでも霧は出ました。言葉ではなく、参照させた絵の「様式」そのものが、AIに語りかけていたからです。水墨画の余白は、人間の目には無言でも、AIには「ここは霧です」と書いてあるのと同じでした。
ちなみに「霧を描かないでください」と否定形で書く手は、言及したものほど暴走するのでもっと危険です。それ以前に今回は、こちらが何も言っていないのに出てきているので、否定形が読まれるかどうかの土俵にすら立てていません。
対策｜うまく指示するのを、あきらめた
「解釈の起点」ごと消す
採用した対策は、プロンプトの改良ではありません。植物を動かすこと自体をやめました。動かすのは動物と小物だけ、とルール台帳に明記。「風」という解釈が生まれなければ、霧が呼ばれる理由も生まれません。
3回分の失敗と対照実験2回分の成功が、このルールの根拠です。以来、蒸気は一度も出ていません。
3回転んだら、地面を疑う
ふりかえると、私の説明は1回目=偶然、2回目=条件、3回目=構造と変わっていきました。これはたぶん失敗全般の法則で、同じ場所で3回転んだら、歩き方の工夫をやめて地面を調べたほうが早いです。原因が構造（様式）の中に住んでいる場合、努力は全部その上で空回りします。
ブログ運営に置き換えると
「様式が勝手に語る」は、映像に限らずAIに何かを作らせる場面の共通ルールです。
- アイキャッチ生成——「手書き風で」と頼むと、文字まで手書き風に崩れる。様式の指定は、内容にも波及する
- 参考画像の添付——お手本を渡すことは、そのお手本の暗黙の語彙（色・構図・時代感）ごと渡すこと。全部同じ構図になる事故も同じ根っこです
- 文体指定——「丁寧な文体で」と頼むと、内容まで当たり障りのないものに寄っていく。様式は内容を引っぱる
- 繰り返す不具合——同じ場所で3回転んだら、プロンプトでなく素材・テンプレート・テーマ側を疑う
よくある質問
様式のほうを変えればよかったのでは？
その様式はシリーズの看板なので、変えたら別物になってしまいます。守るものを決めて、動かすものを変える——今回は様式を守り、動かす対象を植物から動物・小物に変えました。
本当に様式が原因だと、どう確かめたのですか？
2つです。①プロンプト全文を機械検索して、霧系の単語がゼロだと証明した。②同じ絵で動かす対象だけ変えた対照実験（猫のしっぽ）が2回とも無事だった。言葉でも絵の個体差でもないなら、残るのは様式でした。
AIのアップデートで直りませんか？
直るかもしれませんが、待つのは対策ではありません。それに「風が吹けば霧が流れる」は間違いではなく、常識が正しく働いた結果です。賢くなるほど、常識の発動はむしろ増える気がしています。
まとめ｜AIの常識は、プロンプトの外にある
- 頼んでいない霧が3回出た。原因はプロンプトでも絵でもなく、様式（水墨画の余白）だった
- 言葉を全部消しても、見せた絵の様式が語彙を持っている。プロンプト検閲では防げない事故がある
- 否定形の禁止は、言及した瞬間に呼び水になる。土俵が違う
- 対策は「うまく指示する」ではなく「解釈の起点を消す」。風を生む動きをやめたら、霧の理由が消えた
- 1回目=偶然、2回目=条件、3回目=構造。同じ場所で3回転んだら、地面を疑う
- 確かめ方は対照実験。動かす対象だけ変えて、様式の犯行だと特定した
白い紙は、人間には「まだ何も描いていない場所」です。AIには「もう霧が描いてある場所」でした。
同じ絵を見ていても、見えているものは違う。それを前提に頼みごとをするようになってから、うちの事故は目に見えて減りました。
