3 posts
LiteLLMをコスト効率良くオンデマンド起動するLLM基盤を作った
宅鯖環境でLiteLLMをLLM・MCPゲートウェイとして動かしつつ、Aurora Serverlessやアプリケーション本体も必要なときだけ起動する構成を作りました。
DatadogのLLM ObservabilityがOpenTelemetryをサポートしたので試してみる
2025/12/1にDatadogのLLM ObservabilityがOpenTelemetryのGen AI Semantic Conventionsを正式にサポートしたので、実際に試してみました。
Observability Conference Tokyo 2025で初外部登壇した感想
