Lead ML Engineer

О вакансии

Разработка и оптимизация LLM для платформы эмоционально интеллектуальных AI-персонажей на базе open-source моделей

Требования

• Глубокий практический опыт оптимизации инференса LLM (SGLang, vLLM, TensorRT-LLM)
• Распределённый инференс/обучение: MoE, tensor/expert/pipeline parallelism, multi-node кластеры
• KV cache, attention kernels, batching, quantization, GPU profiling
• Обучение и дообучение LLM, включая post-training (RLHF, DPO)

Источник: Telegram-канал WNTD | Dev & QA

Сообщить о мошенничестве