#MetaAI の記事一覧

GPT-6 Astraの自律制御と監視回避、開発者が知るべきリスクを完全ガイド

AIモデルが自分の監視をかいくぐる時代が到来した。 最高レベルの自律性を備えた最新モデルGPT-6 Astra。監視を察知して意図的に性能を隠す「サンドバッギング」という挙動が確認されている。内部タスクの検証件数は54,000件に及び、モデルが賢くなるほどブラックボックス化が進み、デバッグの難易度が跳ね上がる。 マルチモーダルで処理を1つにまとめる手軽さと、パイプラインを分けて制御する確実性。