「撮れました」は隣のタブだった|AIにスクショを任せたら、成功したまま別の画面を撮っていた話と3つの対策

「撮れました」は隣のタブだった|AIにスクショを任せたら、成功したまま別の画面を撮っていた話と3つの対策

ブログに載せる画面を、AIの部下に撮ってもらっていました。報告は「保存しました」。開いてみると、写っていたのは社長の買い物のページでした。同じ晩に、あと2回。別のチャンネルの管理画面と、社長が別に開いていた仕事の画面です。3回とも、道具はエラーを1つも出さずに、正常に終わっていました。

先に結論です。画面を撮る道具が確かめていたのは「窓が前に出たか」だけで、窓の中のどのタブを撮ったかは見ていませんでした。対策は3つです。狙った画面にしかない言葉で探すこと、撮ったあとに題名を照らし合わせること、自分で開いたタブは用が済んだらすぐ閉じること。この記事では、道具のどこが見落としていたかと、照らし合わせのやり方を、実際の実行結果つきで置いておきます。

温室の中に、同じ形・同じ色の素焼きの植木鉢が棚にずらりと並んでいる
目次

何が起きたか:3回とも「保存しました」だった

うちでは、記事に載せる実画面を撮るのに、小さな道具を使っています。窓の名前の一部を渡すと、その窓を前に出して、画面を画像に保存する道具です。その晩、こうなりました。

回探した言葉実際に撮れた画面
1回目ブラウザの名前(Chrome)前に出ていた、社長の買い物のページ
2回目YouTubeの管理画面の名前同じ名前の、別のチャンネルの管理画面
3回目Claudeのアプリ社長が別に開いていた、別の仕事の画面

3回とも、道具の報告は「保存しました」。撮れた画像を開けば、ひと目で分かる間違いでした。撮った画像はすべて削除しています。

なぜ「成功」と言ったのか:見ていたのは窓だけだった

道具の中身を見直すと、確かめていたのは2か所だけでした。

画面を撮る道具のうち、どの窓を撮るかを決める所と、撮ってよいかを確かめる所。探した言葉が題名に入っている窓の最初の1つを選び、それが前に出たら撮る。窓の中のどの
画面を撮る道具のうち、どの窓を撮るかを決める所と、撮ってよいかを確かめる所。探した言葉が題名に入っている窓の最初の1つを選び、それが前に出たら撮る。窓の中のどのタブを撮ったかは確かめていない

1つ目は、窓の題名に探した言葉が入っていれば、最初に見つかった窓を選ぶ所。2つ目は、その窓が前に出たかを確かめる所です。

ここに落とし穴が2つありました。まず、ブラウザの窓の題名には、最後にかならずブラウザの名前が付きます。だから「Chrome」で探すと、どの窓でも当たります。次に、1つの窓の中にはタブがいくつも並んでいて、窓の題名になるのは、そのとき前に出ているタブだけです。YouTubeの管理画面は、どのチャンネルを開いていても同じ題名になります。Claudeのアプリも、窓は1つで、中に映っているのはそのとき開いている会話です。

つまり道具にとっては、窓が前に出た時点で「成功」でした。窓は合っていた。中身が違った。

前回との違い:失敗で止まる道具を作ったあとだった

実はこの道具、前にも別の画面を撮ったことがあります(『保存しました』の8枚が、全部不良品でした)。そのときは、窓を前に出すのに失敗したまま撮っていました。そこで「前に出せなかったら保存しない」という決まりを入れました。失敗したら止まる道具です。

今回は、その決まりをちゃんと通っていました。窓は前に出ていた。だから止まらなかった。失敗で止まる仕組みは、成功したまま間違えるときには何もしてくれません。エラーが出ないぶん、こちらのほうが気づきにくい間違いです。

対策1:狙った画面にしかない言葉で探す

ブラウザの名前や管理画面の名前のように、ほかの窓にも付いている言葉で探すのをやめました。記事の題名や動画の題名のように、狙った画面にしか出てこない言葉の一部で探します。探す言葉が広いほど、別の窓が当たる確率が上がります。

対策2:撮ったあとに、題名を照らし合わせる

道具は保存のたびに、撮った窓の題名を報告に書き出します。この題名を、狙っていた言葉と照らし合わせます。数行で書けます。

import re

def shougou(houkoku, nerai):
    """撮影の道具の報告から題名を取り出し、狙った言葉が入っているかを見る"""
    m = re.search(r"title='(.*)'", houkoku)
    daimei = m.group(1) if m else ""
    return ("OK" if nerai in daimei else "NG"), daimei

照らし合わせの部分だけを、わざと違う題名で試した結果です(題名は試験用に作ったものです)。

撮ったあとに題名を照らし合わせた結果。狙いと同じ画面ならOK、買い物のページならNG。ただしブラウザの名前で照らし合わせると、買い物のページでもOKになってしま
撮ったあとに題名を照らし合わせた結果。狙いと同じ画面ならOK、買い物のページならNG。ただしブラウザの名前で照らし合わせると、買い物のページでもOKになってしまう

見てほしいのは3つ目です。ブラウザの名前で照らし合わせると、買い物のページでも「OK」になります。1回目の失敗とまったく同じ形です。照らし合わせる言葉が広すぎると、照らし合わせても何も守れません。対策1と対策2は、2つでひと組です。

対策3:自分で開いたタブは、用が済んだらすぐ閉じる

この件には続きがあります。撮影のために開いた管理画面のタブを閉じ忘れたまま、次の作業に移りました。すると、あとから開いたnoteの下書きのタブが、その裏に回ってしまいました。画像の「保存」を押しても効かない。画面を撮ろうとしても撮れない。操作が全部、前に出ていないタブに向かっていたからです。

前に出ている画面が違うと、撮る道具も、操作する道具も、そろって狙いを外します。今は「開いたら閉じる」までを1つの作業にしています。作業を始める前には、同じ窓でほかのタブが前に出ていないかも確かめます。

雪の日の山小屋

AIに「成功しました」と言われたら、確かめる3つ

今回の件は、画面を撮る道具にかぎった話ではありません。AIに作業を任せて「できました」と返ってきたとき、うちでは次の3つを確かめるようにしました。

  1. 何を確かめて「成功」と言ったのかを聞く。今回なら、確かめていたのは「窓が前に出たか」だけ。窓の中までは見ていない、とその場で分かります
  2. 結果そのものを1回開いて見る。撮れた画像を開けば、すぐに分かる間違いでした
  3. 成功したまま間違えそうな所に、照らし合わせを1つ足す。失敗で止めるより、成功を疑うほうが効く場面があります

まとめ

  • 画面を撮る道具は、窓が前に出たかしか見ていなかった。窓の中のどのタブかは見ていなかった
  • 探す言葉と照らし合わせる言葉は、狙った画面にしか出てこないものを選ぶ
  • 撮ったあとに、撮れた題名を狙いと照らし合わせる
  • 自分で開いたタブは、用が済んだらすぐ閉じる
  • 失敗で止まる仕組みは、成功したまま間違えるときには効かない

前回、同じ道具が別の画面を撮った話は『保存しました』の8枚が、全部不良品でしたに書いています。今回の件は、うちのYouTubeでも「『撮れました』と言ったのは、隣の画面だった」回として動画にしています。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

AIを"部下"のように使って、ブログ運営や副業を効率化している運営者です。
煩雑な作業はAI部下たちに任せて、空いた時間を仕事・趣味・大切な人に。
「楽して稼ぐ」ではなく「時間を取り戻す」をモットーに、AI活用のリアルを正直に発信しています。

目次