昨今のAIブームを受け、「システムにLLMを組み込んだら、途端に運用しづらくなった」と感じている人が多いのではないか。あるいは「まぁ、LLMはそもそもブラックボックスだから」と、対処をあきらめてしまっている人もいるかもしれない。「『そうなってしまうのは、技術力やスキルが不足しているからだ』と自分を責める必要はない。これまでとはルールが変わっただけのこと。オブザーバビリティの考え方をAI時代にあわせてアップデートすればいい」と語るのは、Datadog Japan合同会社でシニア デベロッパー アドボケイトを務める萩野たいじ氏だ。Developers Summit 2026で明かされたAIを“入れて終わり”にしないための現実的な運用設計を紹介する。