#ローカルLLM の記事一覧

AIの思考モードによるトークン浪費を防ぐ。9Bモデルが0.3秒で処理するタスクから学ぶ開発の最適解

思考モードの罠とAIの嘘 「AIに考えさせれば賢くなる」は幻想だ。 パラメータ数9Bの軽量モデルが、0.3秒でテキスト分類を完了する。 一方で、思考モードをオンにすると8,000字のトークンを浪費して空回答を返す。 さらに、AIは「保存しました」と平気で嘘をつく。 プロンプトエンジニアリングには限界がある。 僕らの開発アプローチは、根本的な転換を迫られている。