Discord가 1,700개 이상의 API 엔드포인트와 700개 백그라운드 태스크를 단일 Python 코드베이스로 수백 개 Kubernetes 배포에서 운영하면서 기능별 인프라 비용을 귀속시키는 시스템을 구축했다. 클라우드 제공사가 Kubernetes 배포 단위까지만 비용을 나눠주기 때문에 메시징·스트리밍 등 개별 기능의 실제 비용을 파악하기 어려웠고, CPU 시간 직접 샘플링으로 이 문제를 해결했다.

네이버 ENGINEERING DAY 2026 발표. AI 코딩 에이전트와 그 실행 환경을 API로 추상화하고 관리할 수 있는 오픈소스 프레임워크 Kelos를 소개한다. 쿠버네티스 네이티브 설계로 코딩 에이전트의 자동화와 오케스트레이션을 지원한다.

LY Corporation이 구 LINE의 Verda와 구 Yahoo Japan의 YNW를 통합하며 구축한 차세대 클라우드 플랫폼 Flava의 DBaaS 아키텍처를 상세히 설명한다. Kubernetes 오퍼레이터 패턴으로 DBA 도메인 지식을 코드화했고, 마이그레이션 전략부터 AI 기반 DBA-as-a-Service까지 미래 로드맵을 함께 다룬다.

토스증권 Data Infra팀이 Spark Connect를 Kubernetes 위에서 멀티테넌트 서비스로 운영하며 맞닥뜨린 구조적 문제 3가지(Driver SPOF, 리소스 경합, 고정 스케일)와 그 해결책을 다룬다. 단일 SparkContext를 공유하는 구조에서 한 사용자의 OOM 쿼리가 전체 세션을 종료하는 문제를, Executor 실패 카운터 재설계와 멀티 Replica 아키텍처로 극복했다.

Amazon EKS 환경에서 무중단 배포(Rolling Update/Blue-Green)를 적용했음에도 간헐적으로 502 Bad Gateway·504 Gateway Timeout이 발생하는 근본 원인과 해결책을 다룬다. ALB·K8s·Istio·Argo Rollouts의 종료 시퀀스가 어긋나는 타이밍 문제가 핵심이며, terminationGracePeriodSeconds·preStop hook·ALB deregistration_delay 세 축을 정렬해 해결한다.

Physical AI 모델 개발은 데이터 수집·시뮬레이션·정책 학습·엣지 배포가 반복되는 라이프사이클을 거치며, GPU 스케줄링·아티팩트 보존·보안·관찰 가능성을 일관되게 관리하기 어렵다.

Airbnb의 수천 개 서비스 인스턴스에 재배포 없이 매분 설정 변경을 안정적·빠르게 전파해야 하는 문제.

데이터센터 전체 전력 손실 시 Twine 오케스트레이터 제어 평면 서비스들이 순환 의존성(Ouroboros)과 Boomerang 효과로 복구에 실패하는 문제.

Spotify가 AI 코딩 도구를 조직 전반에 확산하며 얻은 결론은 "코딩은 더 이상 병목이 아니고, 이제 무엇을 만들지 결정하는 일이 새 병목"이라는 것이다. 프로덕션 코드베이스가 엔지니어 수보다 7배 빠르게 커지며 폭증한 유지보수 부담을, 배경 코딩 에이전트 Honk와 자동화 파이프라인으로 흡수한 과정을 다룬다.

AI 인프라 시장에서 GPU 보유량이 아닌 하드웨어-소프트웨어 공동 설계(Co-design) 역량이 핵심 경쟁력으로 부상하고 있다.

Kubernetes 가 Ingress NGINX 기술지원 중단을 발표했고 기존 Ingress 는 복잡한 라우팅 구현 시 "Annotation 지옥" 한계가 컸다.

클라우드 마이그레이션 이유를 실질적으로 이해하지 못한 채 "왜 클라우드로 가야 하는가"라는 질문에 직면하는 개발자가 많다.

쿠버네티스는 AI/ML 워크로드 수용과 운영 유연성, 누적된 기술 부채 정리를 동시에 풀어야 했다.

GitLab을 Kubernetes로 운영해도 Gitaly만 VM에 두는 하이브리드 구성이 흔했다. Git 연산의 변동 큰 메모리 사용량과 파드 재시작의 강제 종료가 가용성을 위협했다.

2025-11 Ingress-NGINX 의 retirement 발표로 Stack Overflow 는 GCP 와 Azure 프로덕션을 받쳐 줄 새 트래픽 라우팅 솔루션이 필요해졌다.

기업·공공기관은 AI 도입 단계를 지나 ‘어떻게 안정적으로 운영할지’와 PoC 정체·보안 인증 문제를 풀어야 했다.

AI Native 레포만으로는 부족했고 팀챗·터미널·GitHub·Datadog 을 오가며 AI 를 수동 조율해야 했다.

국가 수준의 주권 AI 구현은 전력·냉각·수자원 부족 등 물리적 인프라 제약과 모델 의존성이라는 딜레마(sovereign paradox)에 부딪힌다.

당근의 배치 Job 워크로드는 트래픽이 들쭉날쭉하다. 정적으로 노드를 크게 잡으면 유휴 비용이, 작게 잡으면 Job 시작 지연이 SLO 를 깬다.

batch Job 워크로드는 짧고 변동성이 크다. EKS Node Group 을 정적으로 두면 유휴 노드 비용이 크고, 작게 두면 Job 시작 latency 가 SLO 를 벗어난다.