はじめに !!!!! モデルおよびコードの利用は自己責任でお願いします !!!!! クラウドの生成 AI を使いたいが、セキュリティポリシーやコストの都合で使えない──そんな環境に置かれている方も多いと思います。 近頃は、 外部の生成 AI サービスは原則利用不可 そ...

はじめに 2026年3月26〜27日、AI業界に衝撃が走りました。AnthropicのCMS（コンテンツ管理システム）の設定ミスにより、約3,000件の内部ドキュメントが一時的に公開状態になるという情報漏洩事件が発生。その中に、同社がひそかに開発中の未発表モデルの存在を示...

はじめに LLMの推論コストを支配する要因のひとつが KVキャッシュ（Key-Value Cache） のメモリ消費である。コンテキスト長が伸びるほどKVキャッシュは線形に膨張し、GPUメモリを圧迫してバッチサイズやスループットを制限する。 2026年3月25日、Goo...