Archive
데이터 엔지니어링, 컴퓨터 과학, 게임 데이터, 요리와 실무에서 배운 내용을 기록합니다.
공개 글 69개 · 1/12 페이지
이번 주 네 편: 장문 컨텍스트 서빙을 위한 희소 프리필 어텐션(FlashPrefill V2), LLM 대 임베딩 모델 비용 분석(The Embedder's Dilemma), LLM 에이전트의 메모리 기반 인지 함정(MemTrapBench), 가중치만으로 모델 계보 검증(Training Leaves Traces).
LLM 라우팅 인프라, 자연선택 기반 에이전트 하네스 진화, AI 동료평가의 수사적 보상 해킹, 하이브리드 선형 어텐션 LLM의 대규모 활성화 역학을 다루는 2026년 8월 네 편의 논문.
Replica 3개와 minAvailable 50%를 예로 퍼센트 올림, disruptionsAllowed, Eviction API의 200·429, Pending 대체 Pod로 drain이 멈추는 이유를 단계별로 검증합니다.
baseline 상대 비교, 정렬된 관측 창, 최소 표본, 연속 성공·실패 한도, no-data 처리와 DB migration 경계를 결합해 재현 가능한 카나리 판정기를 설계합니다.
4 GiB container에서 heap·metaspace·code cache·direct buffer·thread stack·native·page cache를 하나의 예산으로 보고, memory.events와 NMT를 결합해 OOMKilled를 진단합니다.
이번 주는 프로덕션 RAG 시스템의 SLO 준수, 긴 문맥 RAG의 너겟 KV 캐시 재사용, 그리고 강화학습 기반 KV 캐시 축출까지 세 편의 실무 중심 논문을 다룹니다. 데이터/ML 엔지니어가 바로 적용 가능한 인사이트를 중심으로 정리했습니다.