AIが苦手なこと6つ——物語で見る「賢いのに間違える」パターン

AIは膨大な知識を持ち、計算も要約も一瞬でこなします。それなのに、ときどき驚くほど的外れな答えを返す。
これは気まぐれではなく、決まった型があります。この記事では、64以上の物語を書くなかで何度も現れた「AIがつまずくパターン」を6つに整理しました。型を知っておくと、失敗は事前に予測できます。

AIが扱えるのはデータになったものだけです。「揉めなかった喧嘩」「起きなかった事故」「常連客の安心感」——防いだ損失や、その場の空気は、どこにも記録されていません。

豊臣秀吉が弟・秀長の評価を尋ねたとき、AIは「武功の数字では上位でなく、代替可能」と算定しました。秀長の本当の働きは、大名同士が揉めないよう調整することでした。何も起きなかったという成果は、記録に残らないのです。

対策：数字にならない価値は、こちらから言葉にして渡す。「この人がいないと何が起きるか」を書き出すと、輪郭がはっきりします。

AIの判断は過去のデータに基づきます。だから、まだ誰もやっていないことは「実績なし」＝見込み薄と評価されがちです。

織田信長が二千の兵で二万五千に挑めるかと尋ねたとき、AIの答えは「勝率2%未満。出撃は推奨しません」でした。過去の合戦データに基づけば正しい判定です。ただしその計算には、信長だけが握っていた情報——敵本陣の位置、油断、そして夕立——が入っていませんでした。

対策：新しい挑戦の是非をAIだけに判断させない。「実現するとしたら、何が条件になるか」と聞き方を変えると、否定ではなく設計図が返ってきます。

期待値の計算は、確率が低いものの重みを小さくします。ところが現実には、一度起きたら取り返しがつかない出来事があります。

三匹の子ぶたの家づくりで、AIはレンガを「過剰投資」と判定しました。狼が来ない日々では正しい。しかし狼が来る夜には、失うのは建築費ではなく命でした。回復不能な損失は、平均に混ぜてはいけません。

対策：「最悪の場合どうなるか」を別枠で聞く。平常時の効率と、有事の損失は、分けて考えます。

AIは与えられた目標に忠実です。忠実すぎて、その目標が本来何のためにあったのかは問い返しません。

水戸黄門の一行が世直しの効率化を頼むと、AIは「初日に印籠を出せば2時間で解決」と答えました。裁くという成果だけ見れば正しい。ですが、聞き込みも立ち回りも省いてしまえば、証拠も世間の納得も残りません。印籠は、最後に出すから効くのです。

対策：工程を削る相談をするときは、「この工程は何を生んでいるか」を一つずつ確認してから渡す。

AIの学習の土台は大量の事例です。そのため、多数派から外れたものを「誤り」と判定しやすくなります。

ピカソの絵を添削させたら、AIは解剖学的エラーを14件検出し、整った肖像画に修正しました。正しい修正です。ただしそれは、ピカソが一生かけて捨てたものでした。突出と未熟は、データの上では区別がつきません。

対策：意図的な逸脱は「これは狙ってやっている」と明示する。そのうえで「意図を保ったまま改善できる点」を聞くと噛み合います。

いちばん見落としやすいのがこれです。AIは、こちらが設定した枠の中で最善を尽くします。枠そのものが間違っていても、指摘せずに答えを出します。

建設会社の親方がガラケーの買い替えを「機能を比較して」と頼むと、答えは「全10項目でスマートフォンが上位。買い替え一択」でした。親方の返しは「お前さんの表には、軍手の欄がねえな」。比べるべきはカタログの機能ではなく、現場の一日で何が起きるかだったのです。

対策：答えに違和感があったら、答えではなく問いを疑う。「この前提自体がおかしい可能性はあるか」と聞いてみると、枠の外が見えることがあります。

6つの型は、どれもAIの性能不足ではありません。データに基づいて考える道具である以上、避けられない性質です。裏を返せば、データが揃っている領域では圧倒的に頼りになります。

大事なのは、任せる場所と自分で決める場所を切り分けること。物語のかたちで確かめたい方は、全エピソードをどうぞ。AIに頼むときの伝え方はこちらの記事にまとめています。