しんたろーしんたろーのITアカデミー

#ソフトウェア設計 の記事一覧

全14件

AIエージェントが失敗する理由とガードレールの設計手法
·352 views·しんたろー

AIエージェントが失敗する理由とガードレールの設計手法

冒頭フック AIエージェントは動いているように見えて壊れている。 ツールがエラーを返したのに、LLMが勝手に一般論を捏造して回答する。 キャンセル要求に対して、アップセルを仕掛ける。 これらはモデルの性能不足ではない。 開発者が「失敗」の定義を間違えている。 17の失敗パターンと34のシグナルを分析すると、真の課題が見える。 AIに何をさせるかではなく、失敗をどう検出し、どう反論させるか。

Claude CodeでAIの失敗を予測する検証設計。属人化を排除し堅牢な開発を実現する
·282 views·しんたろー

Claude CodeでAIの失敗を予測する検証設計。属人化を排除し堅牢な開発を実現する

AIにコードを書かせるとミスが発生する。 レビューは完璧なのに実装になると途端に破綻する。 これはAIの限界ではない。 システム設計の課題だ。 最前線の開発現場では「完全自動化」からの脱却が進んでいる。 AIの失敗条件を構造化し、検証レイヤーをプログラムで挟み込む。 属人化を排除し、堅牢なシステムを作るための次世代のAI設計思想を紐解く。