Usiamo cookie tecnici e il registro anonimo delle visite di Zorky. Yandex Metrica (dati conservati su server in Russia) funziona solo con il tuo consenso. Non vendiamo mai dati. Ulteriori informazioni su cookie e statistiche.
Zorky è in modalità test: è tutto gratuito. Le offerte e le pagine delle aziende sono aperte a tutti; i link agli annunci e la tua selezione personale si aprono dopo la registrazione. Registrati →
← Tutte le offerte

Engineering Manager, Deep Learning Inference

Leadhybrid184.000 USD · periodo non indicatooggi
Analisi del mercato
📊 Product Management: stipendi e domanda sul mercato
Stack
agilec++llmpythonpytorchtritonvllm
Dettagli
Practices
Agile
Education
PhD or equivalent experience
Mostra azienda e link
Gratis, dopo l'accesso.
Candidati
Apri l'azienda e il link qui sopra: la candidatura arriva direttamente nel sistema di selezione dell'azienda, senza intermediari.

Descrizione

[…] is seeking an exceptional Manager, Deep Learning Inference Software, to lead a world-class engineering team advancing the state of AI model deployment. You will shape the software powering today’s most sophisticated AI systems — from large language models to multimodal generative AI — all accelerated on […] GPUs. The Deep Learning Inference team develops and optimizes open-source frameworks that make AI deployment scalable, efficient, and accessible — including vLLM / SGLang, and FlashInfer.

Our work enables developers worldwide to harness […] accelerators for real-time inference at every scale, from datacenter clusters to edge devices.

What you'll be doing:

Lead, mentor, and scale a high-performing engineering team focused on deep learning inference and GPU-accelerated software.

Drive the strategy, roadmap, and execution of […]’s inference frameworks engineering, focusing on Client AI.

Partner with internal compiler, libraries, and research teams to deliver end-to-end optimized inference pipelines across […] accelerators.

Oversee performance tuning, profiling, and optimization of large-scale models for LLM, multimodal, and generative AI applications.

Guide engineers in adopting best practices for CUDA, Triton, CUTLASS, and multi-GPU communications (NIXL, NCCL, NVSHMEM).

Represent the team in roadmap and planning discussions, ensuring alignment with […]’s broader AI and software strategies.

Foster a culture of technical excellence, open collaborat

Descrizione completa, azienda e link per candidarti: dopo l'accesso. Accedi
I contatti del datore di lavoro (email/telefono/telegram) sono nascosti nell'anteprima pubblica.
Domanda urgente? Scrivi a @termdocs