Senior AI Infrastructure Engineer (Vertical Solution1팀)
Summary
Senior engineer building and operating LLM/SLM inference infrastructure (vLLM, GPU H100/H200/B200) on Kubernetes for Bespin Global's Helpnow AI Foundry platform, deploying on-premise and AWS environments for financial and public-sector clients.
About
AI Expert실은 자사 AI 플랫폼인 Helpnow AI Foundry를 기반으로 기술 구현부터 고객사 온프레미스·클라우드 환경 구축, AI Agent 적용까지 전 과정을 주도하는 핵심 서비스 팀이에요.
금융·공공 등 다양한 산업군 고객의 최전선에서 AI Transformation(AX)을 신속하게 이끌어내며, 업계 최고 수준의 AI 인프라 및 플랫폼 기술력을 함께 쌓아가고 있어요.
팀에 합류하면 이런 경험을 할 수 있어요!
Responsibilities
• vLLM 기반 추론 서버 구축·운영 및 성능 튜닝(TP/DP, KV cache, quantization, prefix caching)
• 고객 워크로드에 최적화된 SLM 모델 선정 및 최적화
• K8s(kubeadm/RKE2/EKS) 기반 플랫폼 클러스터 설계·구축
• 고객사 온프레미스/클라우드 환경 배포 및 HA(고가용성) 구성
• 문서 수집·파싱·청킹·임베딩·벡터검색 파이프라인 운영 및 성능 개선
• Vector DB(Milvus) 관리 및 최적화
• 금융권 망분리 에어갭(Air-gapped) 환경 설치 수행
• AWS 기반 인프라 설계·운영, 레지스트리(Harbor) 및 배포 자동화(ArgoCD) 구축
• 인프라 아키텍처 의사결정 주도 및 기술 표준 수립
• 주니어 엔지니어 멘토링 수행
Requirements
• 관련 분야(백엔드/인프라/SRE/MLOps 등) 7년 이상의 실무 경력이 있으신 분
• Kubernetes 프로덕션 환경 구축 및 운영 경험(설계 및 트러블슈팅 포함)이 있으신 분
• SLM/LLM 모델에 대한 전반적인 이해(아키텍처, 파라미터 규모별 특성, 서빙 요구사항 등)가 깊으신 분
• Docker 컨테이너 및 CI/CD 파이프라인 구축 실무 경험이 있으신 분
• Linux 시스템 및 네트워크 구조에 대한 깊은 이해도를 갖추신 분
• Python을 활용한 실무 개발 역량을 보유하신 분
• AWS 클라우드 서비스에 대한 이해 및 실무 경험이 있으신 분
Preferred
• vLLM, SGLang 등 LLM 추론 엔진 튜닝 및 최적화 경험이 있으신 분
• GPU 인프라(H100/H200/B200) 및 CUDA 스택에 대한 이해가 높으신 분
• 온프레미스 구축 및 금융권 망분리 프로젝트 경험이 있으신 분
• RAG 및 Vector DB(Milvus, Qdrant 등) 운영 경험이 있으신 분
• Terraform/IaC 및 모니터링(Prometheus/Grafana) 운영 경험을 보유하신 분
• AWS/GCP/Azure 관련 클라우드 자격증을 보유하신 분
Benefits
• 복지포인트 지급 (年 84만원)
• 설·추석 복지포인트 지급 (각 10만원)
• 건강검진 비용 및 유급 반차 지원
• 업무교육비 지원 (외부 교육비, 자격증 취득 비용, 도서 구입비)
• 임직원 학자금 지원 (연간 1천만원 한도)
• 기념일 유급휴가 제도 (年 1회, 생일, 결혼기념일, 입사기념일 중 선택 사용)
• 장기근속 포상 (5년 단위 리프레쉬 휴가 및 포상금 지급)
• 경조사 지원 (상, 출산, 결혼 등)
• 어린이집 위탁보육료 지원
• 자녀 입학금 지원
• 업무 비용 지원 (연장근로&휴일근로 식대 지원, 야간근로 택시비 지원)
• 전사 성과급 지급 (年 1회, 전년도 실적에 따른 성과급 지급, 비영업 직군 대상)
• Sales Incentive (분기별 영업 성과에 따른 인센티브 지급, 영업 직군 대상)