しんたろーのITアカデミー

なぜ最新のAI開発でプロンプトに頼らないのか。Claude Codeで暴走を防ぎ外部システムで確実な制御を行う理由。

AIは「お願い」じゃ制御できない プロンプトを磨けば磨くほど、壊れ方も派手になる。 これ、LLMを実業務に組み込もうとした人なら全員ぶつかる壁だ。「もっと正確に答えてください」と書いても、AIは自信満々に間違える。「必ず確認してから行動してください」と書いても、デモ中に勝手に待機モードに入る。 実際に動いている事例を3つ並べると、共通点が見えてくる。プロンプトに頼っていない。