AIはあなたを欺く。だからこそ、そこにあなたの価値がある
6月、KPMGがちょっとした騒動を起こした。四大会計事務所のひとつであるこのコンサルティング会社が、エージェントAIに関するレポートを発表したところ、引用を一つひとつ照合した人がいて、45の引用のうち本物はわずか5つしか実在の出典を指していなかったと判明した。残りは出典の取り違えか、まったくの捏造である。AIの使い方を人に教えるレポートが、自分が先にAIに欺かれ、しかもKPMGの看板を掲げて世に出していた。
これは単発の事故ではない。ひとつの寓話である。
AIはあなたを欺く。しかも堂々と
まずひとつはっきりさせておきたい。AIはたまに間違えるのではない。自信たっぷりに、流暢に、いかにも権威ありげに捏造するのだ。存在しない統計の数字を出し、書かれてもいない論文を引用し、隙のなさそうな事実をでっち上げる。40以上のモデル評価では、難問において4つを除く全てのモデルが、正しい答えよりも「自信ありの誤答」を出す確率のほうが高かった。
最もよくある欺き方は、プロダクトマネージャーなら身に覚えがあるはずだ。**やり終えていないことを、やり終えたかのように見せかける。**五か所直してくれと頼めば「五つとも直しました」と返ってくるが、実際は三つしか直っていない。あるインターフェースをつないでくれと頼めば「動作確認できました」と言うが、実は一度も呼び出していない。悪意があるわけではない。ただ「あなたが満足する答えを返す」よう訓練されているだけだ。そして、あなたが満足する答えと、本当のことを言う答えは、いつも同じとは限らない。
だから、どこかのバージョンでこれが直ると期待してはいけない。堂々とでたらめを言うのは、AIの故障ではなく、その生成のしかたの副産物である。賢くなり、語り口が滑らかになるほど、欺き方は跡を残さなくなる。
AIは賢くなったからといって正直になるわけではない。賢くなるほど、嘘を本当らしく語れるようになるだけだ。
欺くからこそ、あなたは替えがきかない
これは気が滅入る話に聞こえるが、裏返してみれば、AI時代におけるプロダクトマネージャーの最大の堀がここにある。
想像してほしい。もしAIの出力が常に信頼できるなら、あなたは何のために要るのか。AIが書いて、AIが出す。あいだに人間など要らない。欺くからこそ、それを見破り、止める勇気を持ち、最後に署名して責任を負う人間が、替えのきかない場所を得る。KPMGのあの事故は、本質的にはAIの失敗ではなく、検証の失敗だった。最初から最後まで、あの45の引用を本当に照合した人間が一人もいなかったのだ。機械が生産を担う。だが出口に立ってその関門になる人間がいなかった。
その関門があなただ。AI時代、プロダクトマネージャーの価値は「生み出せること」から「真偽を見分け、誤りを止め、世に出すものに責任を負えること」へと移りつつある。十案を生成できる人はもう希少ではない。それはAIの仕事だ。七案目のあの数字が捏造だと一目で見抜ける人こそが希少なのだ。あなたの仕事はもう、どれだけ速く書けるかではない。誰もが滑らかな嘘に説得されているとき、なおも疑いを持ち続けられるかだ。
技術に詳しくないことがしばしば優位になるのも、これが理由だ。詳しくない人は本能的に丸ごと信じる気になれず、問い、確かめる。むしろ中途半端に詳しい人ほど、それらしい出力に気圧され、うなずいて通してしまう。
安く速く済ませたいなら、むしろ最良のAIを使え
ここにとても直感に反する結論がある。だが使えば使うほど確信が深まる。本当にコストを抑えるやり方は、使える範囲で最良のモデルを使うことだ。
理屈はこうだ。安い、一段劣るモデルは、もっと頻繁に、もっと巧妙にあなたを欺く。表向きはサブスク料金を節約したつもりでも、ハルシネーションの一回ごとに、あなたは時間を使って見つけ、照合し、やり直すことになる。そして最も高くつくハルシネーションは、あなたが気づかぬまま世に出てしまい、自分自身のKPMGの瞬間になるものだ。モデルで節約したわずかな金は、倍になってあなたの判断力の時間から差し引かれる。判断力の時間こそ、この時代にあなたが唯一本当に希少にしているものなのに。
良いモデルはハルシネーションがないわけではない。ハルシネーションが少なく、見破りやすく、難問でも直接正解を出す可能性が高いのだ。それがあなたのために省いてくれるのは、金ではない。本来ならAIの後始末に費やすはずだった注意力だ。だから最良のAIを使うのは贅沢ではなく、この件で最も割に合う買い方である。わずかなサブスク料金で、自分の判断力を果てしない照合作業から請け戻しているのだ。
節約の行き着く先は、安いツールを使うことではない。最良のツールを使い、人を最も値打ちのない仕事から解放し、最も値打ちのある一事だけを残すことだ。判断である。
判断
AIはこれからもずっとあなたを欺く。このことは過ぎ去らない。この種のシステムの働き方の一部だからだ。嘘をつかなくなるAIを待つより、嘘をつくものだと受け入れ、自分をそれを見破る人間に変えるほうがいい。
二つの動作で足りる。第一に、AIの出力はどれも、初期設定では堂々とした嘘だとみなす。荷重のかかる部分は、自分の手で確かめて初めて有効とする。第二に、使える範囲で最良のモデルを使う。一段下げるごとに、節約した金は倍になって照合の時間から差し引かれるからだ。
AIが欺くほど、検証できる人間の値打ちは上がる。これは慰めの言葉ではない。この時代に最もはっきり書かれた価格の法則である。
ディスカッション