• LLM 그리고 GPU 2026년 7월

    LLM 그리고 GPU 2026년 7월

    시스템 라이트 다크 LLM Landscape · Document 2 of 2 LLM 자체 구동 서버 자원 산출 B300 · H200 · H100 8-GPU 노드를 기준점으로, 오픈웨이트 모델 8종을 사내에서 직접 서빙할 때 몇 대가 필요하고, KV 캐시로 컨텍스트를 얼마나 운영할 수… read more