Lead ML Engineer - LLM Inference & NLP

О вакансии

Вакансия Lead ML Engineer для работы над оптимизацией LLM-инференса, распределённой GPU-инфраструктурой и обучением моделей

Требования

• Опыт оптимизации LLM-инференса с SGLang, vLLM или TensorRT-LLM
• Работа с большими моделями на распределённой GPU-инфраструктуре
• Понимание KV cache, batching, quantization и профилирования GPU
• Опыт обучения и дообучения LLM
• Уверенное владение PyTorch
• Умение направлять инженеров через ревью, наставничество и технические решения

Источник: Telegram-каналы JTBL | Вакансии для IT-специалистов, Jobs Feed IT & Digital Вакансии Агрегатор

Сообщить о мошенничестве