はじめに 2026年3月26〜27日、AI業界に衝撃が走りました。AnthropicのCMS（コンテンツ管理システム）の設定ミスにより、約3,000件の内部ドキュメントが一時的に公開状態になるという情報漏洩事件が発生。その中に、同社がひそかに開発中の未発表モデルの存在を示...

はじめに LLMの推論コストを支配する要因のひとつが KVキャッシュ（Key-Value Cache） のメモリ消費である。コンテキスト長が伸びるほどKVキャッシュは線形に膨張し、GPUメモリを圧迫してバッチサイズやスループットを制限する。 2026年3月25日、Goo...