쿠버네티스 옵저버빌리티부터 MCP Apps까지
오늘은 AI·소프트웨어 엔지니어라면 관심을 가져볼 만한 두 가지 주제에 대해 살펴보겠습니다. 첫 번째는 Kubernetes 환경에서 옵저버빌리티(Observability)를 효율적으로 관리하는 방법, 두 번째는 최근 AI 생태계에서 빠르게 주목받고 있는 MCP Apps입니다. 특히 …
LLM 평가 방법 완전 정리 (LLMOps·RAG·추론 인프라 핵심 요약)
최근 LLM(대규모 언어 모델) 기반 서비스가 확산되면서 가장 중요한 질문이 등장했습니다. “LLM 애플리케이션을 어떻게 평가하고 운영할 것인가?” 기존 머신러닝 시스템은 정답이 명확하고 출력이 결정적이었습니다. Accuracy, Precision 같은 지표로 비교적 쉽게 …