AIエージェントを使い始めて三ヶ月ほど経った頃、私はもうすっかり「お願いすれば終わる」という感覚に慣れていました。この感覚こそが、後から思えば一番危なかったのだと思います。
確認の意味が、いつのまにか軽くなっていた
4月に導入したばかりの頃は、何か操作をお願いするたびに表示される確認の文面を、一字一句読んでいました。何が起きるのか分からず、少し身構えていたからです。けれど複数のアプリ開発を同時に任せるようになった六月の半ば頃には、その確認画面を見ても、内容を読まずに反射的に承認するようになっていました。「いつも通りのやつだろう」という思い込みが、確認という手続きをただの通過儀礼に変えていたのです。
指が止まった夜のこと
その夜は、古いファイル群を整理してもらうタスクをお願いしていました。表示された確認の文面に目を通さないまま「はい」と答えかけて、なぜかその手が一瞬止まりました。理由は自分でもよく分かりません。ただ、いつもと文面の長さが違う気がした、それだけだったと思います。念のため中身を見直すと、対象の一覧に、消すつもりのなかった作業中のファイルが一つ紛れていました。頼んだ範囲の指定が少し広すぎたのだと、そこで気づきました。実害はありませんでしたが、あと数秒早く指を動かしていたら、取り戻せないものになっていたはずです。
慣れは確認の質を静かに変えていく
この出来事から、私は確認という行為そのものについて考えるようになりました。確認は本来、内容を吟味するための時間のはずなのに、慣れてくるとそれは「はいを押すための儀式」に姿を変えていきます。危ういのは操作そのものよりも、確認しているつもりで確認していない、という状態に自分が気づけないことでした。あれ以来、範囲を伴う操作の前だけは、あえて一呼吸置いて文面を読み直すようにしています。慣れることと、油断することは、思っていたよりずっと近い場所にあるのだと知った夜でした。