Tech Lead NLP Engineer | LLM Inference

О вакансии

Возглавьте техническое развитие NLP в AI-продукте, специализирующемся на персонализированном общении с AI-персонажами, дообучении open-source моделей и работе с LLM до 1T параметров. Роль включает hands-on разработку (70%), оптимизацию распределенного inference и техническое лидерство командой

Требования

• Production-опыт оптимизации LLM inference (SGLang / vLLM / TensorRT-LLM)
• Опыт работы с distributed inference/training (MoE, tensor/expert/pipeline parallelism, multi-node GPU)
• Глубокие знания: KV cache, attention kernels, batching, quantization, GPU profiling
• Опыт training/fine-tuning и post-training (RLHF, DPO)
• Уверенное владение PyTorch / Transformers
• English B2+

Источник: Telegram-канал Jobs Feed IT & Digital Вакансии Агрегатор

Сообщить о мошенничестве