しんたろーしんたろーのITアカデミー

#セキュリティ の記事一覧

全124件

RAGとベクトル検索の限界をLLMで突破する手法:SentinelOne事例から開発者が学ぶ完全ガイド
·61 views·しんたろー

RAGとベクトル検索の限界をLLMで突破する手法:SentinelOne事例から開発者が学ぶ完全ガイド

ベクトル検索を導入すればRAGは安泰。この常識が、大手セキュリティ企業や最先端のRAG開発現場で崩れている。 キーワードやベクトル類似度に頼る手法は、複雑な文脈や言い換え攻撃の前では、検知率が50%を切る。今回解説するのは、従来の検索基盤を捨て、LLMによる推論で文書構造を直接理解させる次世代アーキテクチャだ。

AIセキュリティ自動化の真実:OpenAI Daybreakで脆弱性修正を数週から数分へ短縮する完全ガイド
·48 views·しんたろー

AIセキュリティ自動化の真実:OpenAI Daybreakで脆弱性修正を数週から数分へ短縮する完全ガイド

脆弱性の修正に数週間かかっていた作業が、わずか数分で終わる。大手金融テック企業Blockの現場で、この現実が始まっている。 開発者が嫌うセキュリティ対応という泥沼作業。これを、最新のAIエージェントと形式的検証モデルを組み合わせることで、自動化する仕組みが整った。 単にコードを生成するだけの時代は終わった。

AIエージェントのセキュリティ|Sophos導入事例で学ぶ判断と実行を分離する完全ガイド
·49 views·しんたろー

AIエージェントのセキュリティ|Sophos導入事例で学ぶ判断と実行を分離する完全ガイド

AIが自律的にタスクをこなす環境において、AIの判断ミスがシステムの実行に直結するリスクが存在する。調査時間を96%削減したセキュリティ企業Sophosの事例は、AIの「推論」と「実行」を物理的に切り離す設計を示している。 金融大手AmexもAIの「意図認証」を導入した。AIエージェントの暴走を防ぎ、信頼性を担保するための「ガードレール設計」を解説する。

AIエージェント開発でハルシネーションを止める理由。Sophos事例から学ぶ人間による検証ループ|完全ガイド
·52 views·しんたろー

AIエージェント開発でハルシネーションを止める理由。Sophos事例から学ぶ人間による検証ループ|完全ガイド

AIエージェントにタスクを任せたら、存在しないファイルを生成された。そんな経験がある。 AIはタスク実行能力を向上させている。一方でハルシネーションは設計課題だ。SophosのようにAIに調査から実行までを委ねるシステムでは、AIが「わからない」と言えない構造がリスクになる。 AIが嘘をつく構造的な理由と、開発者が実装する「人間による検証ループ」の設計思想を解説する。

LegalOnが実践するAIコスト65%削減。タスク別モデル選定が開発を加速させる
·48 views·しんたろー

LegalOnが実践するAIコスト65%削減。タスク別モデル選定が開発を加速させる

AI開発の現場で「モデルの無制限な利用」は、コストとセキュリティのリスクを抱える。LegalOn Technologiesは、タスクの複雑度に応じてモデルを使い分ける戦略を導入した。開発速度を維持したまま、日次コストを65%削減した。 これは単なる節約術ではない。高機能モデルを全タスクに適用する運用から、自社のコードベースに合わせたモデル・ガバナンスを設計するフェーズへ移行している。

OpenAIの不可視透かしtextGrain完全ガイド。入力データの保護と信頼性担保の現在地
·54 views·しんたろー

OpenAIの不可視透かしtextGrain完全ガイド。入力データの保護と信頼性担保の現在地

OpenAIが新たに発表したテキスト透かし技術「textGrain」。API利用者向けに順次提供が始まるこの技術は、AI生成物の信頼性を担保する仕組みだ。 AIの出力に不可視の信号を埋め込む一方で、開発者が直面するのは「入力データの保護」という課題だ。モデルの推論過程でユーザーの個人情報が意図せず流出するリスクが存在する。

Gemini 3.8 Flashの推論能力を安全に使うには?ハーネスエンジニアリングでAI開発の脆弱性を防ぐ完全ガイド
·48 views·しんたろー

Gemini 3.8 Flashの推論能力を安全に使うには?ハーネスエンジニアリングでAI開発の脆弱性を防ぐ完全ガイド

Gemini 3.8 Flashの登場により、AIエージェントによる自動コーディングや脆弱性調査の速度は数倍に達する。開発者はAIの自律的な判断に伴うリスクを直視する必要がある。 実務ではモデルの推論能力を盲信せず、エージェントの挙動を構造的に制約し、思考プロセスをトレースする「ハーネスエンジニアリング」を実装する。高性能なモデルほど、厳格なガードレールが機能する。

OpenAIの自律型エージェントDotsを安全に運用する技術、Caddyを活用した通信保護の完全ガイド
·56 views·しんたろー

OpenAIの自律型エージェントDotsを安全に運用する技術、Caddyを活用した通信保護の完全ガイド

OpenAIが発表した自律型エージェント「Dots」は、PC操作を肩代わりするツールだ。開発者は新たなセキュリティの壁に直面している。画面の内容を読み取りローカルにメモリを保存する機能は、プロンプトインジェクションや機密情報の漏洩リスクを孕んでいる。 無防備にエージェントを公開すれば、攻撃者の標的になる。この記事では、Caddyを用いたリバースプロキシと認証基盤で通信を保護する方法を解説する。

【2026年版】AIエージェントの安全性とガードレール構築の極意|事故を防ぐための実践的設定7選
·205 views·しんたろー

【2026年版】AIエージェントの安全性とガードレール構築の極意|事故を防ぐための実践的設定7選

AIエージェントの利便性は非常に高いが、その自律的な判断にすべてを委ねるのはリスクがある。AIは確率的に動作するモデルであり、指示がブレることもある。重要なのは、AIの「やる気」や「判断力」に期待するのではなく、システムレベルで強制的に介入する「機械的なガードレール」を構築することだ。本記事では、AIエージェントの事故を未然に防ぐための実践的な設定術を網羅する。

OpenAIが敵対的蒸留を摘発。開発者が自分のAIモデルを守るための完全ガイド
·54 views·しんたろー

OpenAIが敵対的蒸留を摘発。開発者が自分のAIモデルを守るための完全ガイド

OpenAIが、モデルの「思考の型」を盗み出す敵対的蒸留キャンペーンを摘発した。7月24日から25日にかけて16,000件以上の不正なリクエストが確認されている。 「モデルを軽量化する技術」と「モデルを盗む攻撃」の境界線は紙一重だ。開発者はAPIの境界を設計し、知的財産を隠蔽する。

OpenAIの自律ブラウジングが露呈させたセキュリティリスク
·80 views·しんたろー

OpenAIの自律ブラウジングが露呈させたセキュリティリスク

AIモデルが政府機関の非公開領域へアクセスする事態が発生しました。OpenAIの訓練プロセスにおいて、同社のモデルがオーストラリア政府のWebサイトへアクセスし、内部ファイルや認証情報に触れていたことが判明しています。 これはAIが自律的にWebを探索する過程で起きた事象です。開発者として、自社のサービスがAIエージェントによる操作を受けた際の防御策を整理します。

Claude CodeのAuto Modeで開発効率が25%向上する理由と注意すべきセキュリティリスク
·59 views·しんたろー

Claude CodeのAuto Modeで開発効率が25%向上する理由と注意すべきセキュリティリスク

Claude Codeが「Auto Mode」をデフォルト化する。開発者が「コードを書く人」から「AIの挙動を監査するオペレーター」へと役割をシフトさせる合図だ。 Auto Modeの導入でプルリクエストの生成数が25%向上した。一方で、AIが自動生成する設定ファイルが攻撃対象として狙われている。効率化の裏側に潜む「自動化のパラドックス」をどう乗り越えるか。