인프라를 On-premise 에서 Google Cloud로 이관

📍 프로젝트 주제

• 사내 ML 인프라 중 서빙 서버를 On-premise 에서 Google Cloud로 이관 및 신규 개발에 참여
• 인프라 이관으로 인해 ML A/B 테스트 실험 환경 구축에 주도적으로 참여

📍 프로젝트 참여 인원

• 팀 내 ML Engineer, MLOps Engineer 모두 참여

📍 프로젝트 기간

• 2022.11 ~ 2023.09
  • 본인이 담당하는 대리운전 서비스는 이관 모두 완료
  • 택시, 퀵 등 기타 서비스들은 여전히 이관 진행 중

📍 담당 역할

• Seldon-core로 작성되어 있는 기존 서빙 서버를 FastAPI로 작성하는 신규 서빙 서버로 이관 및 신규 개발
• pytest 라이브러리를 활용한 유닛 테스트 코드 작성하면서 개발 진행
• DevOps 엔지니어들과 협업하여 GKE, Jenkins, ArgoCD를 통해 안정적으로 모델의 CI/CD 진행
• DevOps 엔지니어들과 협업하여 모델의 CI/CD, 모델 버전 관리, 실험 중 모니터링, 사후 분석 등 신규 인프라에서의 A/B 테스트 환경 요구사항들 정의 및 설계 진행

📍 기술 스택

• OS : MacOS, Linux
• 언어 : Python
• 프레임워크 : FastAPI, Pandas, Numpy, Scikit-learn, Vertex-AI
• 서빙 : GKE, Docker
• CI/CD : Jenkins, ArgoCD