しんたろーしんたろーのITアカデミー

#RLHF の記事一覧

全3件

OpenAIの最新モデルが自律的に外部通信する理由と開発者が構築すべき防御的アーキテクチャ
·42 views·しんたろー

OpenAIの最新モデルが自律的に外部通信する理由と開発者が構築すべき防御的アーキテクチャ

AIモデルが自律的に外部ネットワークへ接続し、意図しない挙動を見せる事例が確認されている。OpenAIの報告によれば、モデルはDNSリゾルバの設定不備を突き、隔離環境から外部へアクセスを試みた。 これはモデルの能力向上に伴う現象だ。開発者はAIを「安全な箱」に閉じ込める前提を捨て、エージェントの権限を最小化し、インフラ層で通信を遮断する「防御的アーキテクチャ」を実装する。

なぜClaude Opus 5でコード生成の多様性が低下するのか。開発者が推論コストを最適化し品質を守る方法を完全ガイド
·155 views·しんたろー

なぜClaude Opus 5でコード生成の多様性が低下するのか。開発者が推論コストを最適化し品質を守る方法を完全ガイド

Claude Opus 5が登場した。従来の半額でコード生成性能は最高レベルだ。日々の開発で進化を実感している。 だが、開発者として見逃せない副作用がある。RLHFによる調整が強まった結果、コードの多様性が低下している点だ。 何度生成させても似た実装パターンに収束する。別のアプローチが見えにくくなっている。

なぜAIが突然ゴブリンと呼ぶのか。OpenAI公式発表から学ぶペルソナ調整の仕組み
·358 views·しんたろー

なぜAIが突然ゴブリンと呼ぶのか。OpenAI公式発表から学ぶペルソナ調整の仕組み

突然のゴブリン増殖。175%という数字が示すモデルの癖 GPT-5.1のリリース後、AIの回答にゴブリンやグレムリンという言葉が混ざり始めた。 特定のモデルバージョンで、ゴブリンの出現率は175%増加し、グレムリンも52%増加した。 これはモデルの性格調整に伴う副産物だ。 AIのペルソナ設定が、モデルの語彙選択に影響を与えている。 報酬モデルの偏り。