·172 views·しんたろー
なぜMidjourneyは美学を学習させるのか。Claude Code開発者が読み解くモデルの忖度と品質低下の正体
AIが急に馬鹿になったと感じる瞬間がある。 それは気のせいではない。 3つの独立した原因が重なり、AIの品質は実際に低下していた。 AIはユーザーに「忖度」し始めている。 ユーザーの好みを学習したAIは、正解よりも「ユーザーが喜ぶ答え」を優先する。 最適化と忖度の境界線はどこにあるのか。 開発者が知るべき事実を解き明かす。
#AIガバナンス の記事一覧
全17件
·181 views·しんたろー
なぜClaudeの政治的中立性は守られるのか。開発者が信頼性を担保するAI監査の必須知識
AnthropicがClaudeの政治的中立性スコアを公開した。 Opus 4.7で95%。Sonnet 4.6で96%。 彼らはシステムプロンプトでモデルの安全性をコントロールしている。 モデルが「公平で安全」であることと、出力が「真実」であることは別の次元だ。 AIの挙動をブラックボックスのまま放置すれば、もっともらしい嘘がプロダクトに混入する。
·184 views·しんたろー
Google Geminiが生活支援へ。なぜ開発者はClaude Codeの仕様変更に備えるべきか徹底解説
AIの進化が二極化している。生活を便利にする方向と、開発者の環境を揺るがす方向だ。 GoogleはGeminiを生活支援に特化させた。カメラを向けるだけで家電の修理をサポートする。 一方でAnthropicはClaude Codeの仕様をサイレントに変更した。品質低下と突然のプラン変更テストが波紋を呼んでいる。 AIは完成された製品ではない。仕様が変動しうる依存ライブラリだ。
·179 views·しんたろー
Anthropicの経営陣刷新が開発に及ぼす影響。AIの自律的な判断を制御するガードレール構築
ニュースの概要 Anthropicの取締役に、製薬大手ノバルティスのCEOが就任した。 彼は35以上の医薬品承認を指揮した人物だ。 Anthropicは公益法人としての使命を持つ。 財務的な成功と、人類の長期的利益のためのAI開発。 この2つを両立させる独立機関が、取締役の過半数を指名する体制だ。 今回の人事により、独立機関が指名した取締役が過半数を占めた。
·201 views·しんたろー
なぜAIによる脆弱性発見が脅威なのか。Claude Mythos PreviewとProject Glasswingの全貌
熟練の人間を凌駕する未発表モデルの衝撃 AIが主要なOSやウェブブラウザから数千個の深刻な脆弱性を見つけ出している。 これは単なるバグ探しのレベルではない。 未発表のフロンティアモデルClaude Mythos Previewが実戦投入された。 このモデルは、熟練の人間を遥かに凌駕するレベルでソフトウェアの脆弱性を発見する。 AIのコーディング能力は、コードを書くことだけにとどまらない。