※本記事はアフィリエイト広告（PR）を含みます。
AIに何かを作らせるとき、私たちは指示を10個くらい書きます。
そのうち1個だけが静かに捨てられていても、残りの9個で作品は完成します。エラーは出ません。警告も残りません。出てきたものは、単体で見ればちゃんと良い出来です。
先日、まさにこれをやられました。気づけたのは、生成の瞬間に画面のすみで何かが一瞬光って消えたのを、たまたま見ていたからです。
先に結論をお伝えします。AIの失敗は、止まってくれません。止まらないから気づけないんです。この記事では、静かに消える指示の見つけ方と、消されにくい書き方をまとめます。
何が起きたか｜専門用語が、実在するバンド名だった
音楽をAIに作らせていたときの話です。ギターの弾き方を、専門用語で1語だけ指定しました。裏拍を短く切る、あの独特のカッティングを指す言葉です。
生成した瞬間、画面に見慣れない表示が一瞬だけ出て、すぐ消えました。「アーティストがどうこう」と書いてあったような気がする、という程度です。
調べてみたら、その専門用語は海外の有名なロックバンドの名前と、まったく同じつづりでした。1990年代から活動している、実在のバンドです。
つまりAI側はこう解釈していました。
【こちらの意図】
ギターの弾き方（奏法）を指定した
【AIの解釈】
アーティスト名を指定された
→ 特定アーティストの模倣はできないので、この指定は無効にするそして生成は普通に完走しました。それらしい曲が、ちゃんと出てきます。ただし「裏拍で切る」という肝心の指定だけが、きれいに消えていました。
ルールは守っていたつもりでした
ここが今回いちばん怖かったところです。
「アーティスト名は書かない」というルールは、ちゃんと守っていました。歌詞にも、アーティスト指定の欄にも、固有名詞は1つも入れていません。
それでも破れました。破れたのは、ジャンル用語や奏法用語の側からです。専門用語がバンド名と同じつづりになっている、なんて想定していませんでした。
ルールを守っているつもりでも、思ってもいない入口から抜けることがあります。以前ルールを埋め込む話で「ルールは守りやすくしないと破られる」と書きましたが、今回は守っていたのに、ルールが想定していない道から漏れた形でした。
もっと悪い続き｜消すだけでなく、すり替えていた
実際に送信された内容を確認して、もう一段ぞっとしました。その指定は、消えていたのではなく、別のものに置き換わっていたんです。
ギター1本の弾き方の指定が、ジャンル名4つに化けていました。
- もとの指定＝楽器の弾き方（細かい形容詞レベル）
- 置き換え後＝ジャンル指定4つ（曲全体の舵を切る強い指示）
- そのうち2つは方向として近いが、残り2つは完全に別ジャンル
問題は指示の階層が上がっていることです。ジャンル指定は、楽器の形容詞よりずっと強く効きます。落ち着いた雰囲気の曲を注文したつもりが、もっと激しい方向へ化ける可能性がありました。
親切な自動修正が、注文そのものを作り変えていたわけです。しかも黙って。
なぜ気づけないのか｜失敗が止まってくれない
理由は単純でした。失敗しても、処理が止まらないからです。
- 指定が10個あって1個落ちても、残り9個で完成してしまう
- 出てきたものは「それらしい」。単体で見れば、ちゃんと良い
- だから比較対象がないと分からない
ここから、判断基準を変えました。「単体で良いか」ではなく「ほかの9つと並べて浮いていないか」で見る。これは画像が同じ構図になる問題のときと同じ結論です。並べないと見えないものが、本当に多い。
同じ日に、別のところでも同じ形を踏んでいました
まったく別の作業で、必ず失敗すると分かっている通信を投げ続けていたことも判明しました。1日に使える回数の、3割をそれで捨てていました。
これも失敗として扱われていません。「想定内の再試行」として静かに処理され、全体としては成功していたからです。数を数えるまで、まったく見えませんでした。
禁止したのに抜けた｜「やり方」ではなく「変わる属性」で書く
もう1つ、同じ日に学んだことがあります。こちらは映像を作らせていたときの話です。
絵の一部を動かさないように、こう禁止していました。
曲がらない・波打たない・動かないそれなのに、絵の中の細い線がにゅうっと伸びていきました。
よく考えると、指示は破られていません。伸びた線は、曲がっても波打っても動いてもいないんです。ただ長くなっただけ。禁止した3つの動詞の、どれにも当たりません。
ここから得た教訓がこれです。
×「動き方」で禁止する（曲がるな・揺れるな・動くな）
→ 書いていない動き方で抜けられる
○「変わりうる属性」で固定する（長さ・本数・大きさ・位置を保つ）
→ 抜け道が減る位置と姿勢は止めていたのに、長さを止めていなかった。だから長さの方向へ抜けました。指定しない項目は漂流するで書いた話と、根っこは同じです。
おまけに、笑えない発見もありました。伸びていく先の余白は、私が自分で用意していたんです。文字を入れるために画面の一角を意図的に空けておいて、そちらへ向けて絵の要素を配置していました。空いている方向に、伸びるものを向けていたわけです。
対策｜静かに消える指示を見つける3つの習慣
①「実際に送られた内容」を見る
自分が書いた指示ではなく、加工されたあとの、実際に処理された内容を確認します。今回のすり替えも、送信内容を見て初めて分かりました。多くのツールはどこかに表示されています。
②一瞬の表示を無視しない
今回の発端は「何か出た気がする」でした。すぐ消える通知ほど、重要なことが書いてあります。気になったらもう一度同じ操作をして、今度は目で追う。それだけで拾えます。
③並べて、浮いているものを探す
単体では判定できません。同じ条件で作ったものを何個か並べて、1つだけ違う顔をしているものを探す。指示が落ちたものは、たいてい群れから少しずれます。
よくある質問
なぜAIは「その指定は使えません」と言ってくれないのですか？
止めるより、続けるほうが親切だと判断されているからだと思います。実際、多くの場面ではそのほうが便利です。1個落ちても完成品が出てくるのは、利点でもあり欠点でもある。厄介なのは、こちらがその判断に気づけないことです。
専門用語が固有名詞とかぶるのは、どう防げばいいですか？
完全には防げません。私は用語を1語で書かず、説明で添えるようにしました。「〇〇（裏拍を短く切る弾き方）」のように書けば、片方が弾かれても意図は残ります。文章でも同じで、専門用語には言い換えを添えておくと安全です。
ブログの執筆でも起きますか？
起きます。「この単語は使わないで」「見出しは4つで」といった指示が、長文の生成では静かに落ちることがあります。しかも文章は読めてしまうので、なおさら気づきにくいです。私は指示のうち絶対に外せないものだけ、生成後に検索して確認しています。
まとめ｜AIの失敗は、止まってくれない
- 指示はエラーも出さずに1個だけ消えることがある。残り9個で完成するから気づけない
- 消えるだけでなく、もっと強い指示にすり替わることもある
- ルールを守っていても、想定していない入口から破れる（専門用語が固有名詞だった）
- 禁止は「やり方」ではなく「変わりうる属性」で書く。長さ・本数・大きさ・位置
- 対策は実際に送られた内容を見る・一瞬の表示を無視しない・並べて浮きを探す
AIは、できないことを「できません」と言ってくれるとは限りません。黙って1個だけ捨てて、残りで完成させてくることがあります。
だから最近は、出来上がりを見て「良いですね」と言う前に、こう聞くようにしました。「私の指示のうち、使えなかったものはありますか？」——聞けば、たいてい正直に教えてくれます。
