DeepX NPU 기반 LLM 서빙 시스템 개발 및 최적화

AI 요약

주요 업무

• DeepX NPU 기반 LLM 서빙 시스템 개발 및 최적화
• LLM용 런타임 및 추론 엔진 설계 및 구현
• LLM 서빙 성능 분석 및 병목 현상 해결

자격 요건

• 컴퓨터공학 또는 관련 분야 학사 이상
• C/C++ 및 Python을 활용한 소프트웨어 개발 경험
• LLM 또는 딥러닝 프레임워크(TensorFlow, PyTorch 등) 이해
• Linux 기반 개발 환경 경험
• 컴퓨터 아키텍처 및 병렬 처리 기본 지식

우대 사항

• NPU 또는 GPU 등 AI 가속기 하드웨어 경험
• ONNX, TVM, TensorRT 등 모델 컴파일러/런타임 실무 경험
• 양자화(Quantization), 프루닝(Pruning) 등 모델 최적화 기법 지식
• Mistral, LLaMA, GPT 등 LLM 모델 프로젝트 경험
• 역동적인 스타트업 환경에서의 성장 의지

기술 스택 / 관련 분야