LLM 추론 프레임워크 개발 및 최적화 엔지니어 모집

AI 요약

주요 업무

• vLLM, SGLang, PyTorch 기반 대규모 분산 LLM 서빙 프레임워크 설계 및 최적화
• continuous batching, KV-cache 관리, speculative decoding 등 서빙 성능 향상 기법 개발
• prefill/decode 분리, 분산 KV-cache 등 멀티노드 서빙 아키텍처 설계
• 메모리 사용량, 디바이스 활용률, 통신 오버헤드(PCIe, RDMA) 분석 및 최적화
• AI 서빙 워크로드 벤치마크 및 시뮬레이터 구축·유지보수
• 인프라·컴파일러·하드웨어 팀과 엔드투엔드 AI 서빙 시스템 공동 설계
• vLLM, PyTorch, Triton, SGLang 등 오픈소스 커뮤니티 기여

자격 요건

• 컴퓨터공학, 전기공학 또는 관련 분야 석사 이상 학위 (또는 동등한 경력)
• Python, C++ 및 PyTorch 활용 강한 실무 경험 (모델 실행 및 런타임 내부 포함)
• 추론 서빙 또는 고성능 ML 시스템 실무 경험
• Linux 시스템, 프로파일링 툴 및 성능 병목 디버깅 경험
• 시스템 레벨 트레이드오프를 이해하는 문제 해결 능력

우대 사항

• vLLM, SGLang, TensorRT-LLM 등 LLM 서빙 프레임워크 경험
• KV-cache 관리, 어텐션 메커니즘, 메모리 효율적 추론에 대한 깊은 이해
• 텐서/파이프라인 병렬화를 포함한 멀티노드 추론 경험
• GPU/NPU 기반 추론 플랫폼 지원 경험
• ML, 시스템, 인프라 관련 오픈소스 기여 실적
• 에이전틱 AI 서비스 구축 또는 운영 경험

기술 스택 / 관련 분야