LLMOps

О вакансии

Развертывание, сопровождение и развитие AI-платформы, оптимизация инференса LLM, управление Kubernetes и GPU-ресурсами, автоматизация CI/CD и мониторинга

Требования

• Опыт в роли DevOps от 3 лет
• Опыт администрирования Kubernetes в production, Docker, Helm, GitOps
• Опыт эксплуатации LLM inference-серверов (vLLM, SGLang, Ollama и др.)
• Понимание принципов работы LLM (токены, KV Cache, batching, streaming, квантование, RAG)
• Практический опыт работы с GPU, автоматизация на Python, CI/CD
• Опыт настройки мониторинга (Prometheus, Grafana, OpenTelemetry)

Источник: Telegram-каналы DevOps/SRE_Jobs, Jobs Feed IT & Digital Вакансии Агрегатор, Devops Jobs — вакансии и резюме