Używamy techniczne pliki cookie i zanonimizowany dziennik wizyt Zorky. Yandex Metrica (dane są przechowywane na serwerach w Rosji) działa tylko za Twoją zgodą. Nigdy nie sprzedajemy danych. Więcej o cookies i statystykach.
Zorky działa w trybie testowym — wszystko jest bezpłatne. Oferty i strony firm są dostępne dla wszystkich; linki do ogłoszeń i osobiste zestawienie ofert — po rejestracji. Zarejestruj się →
← Wszystkie oferty

Engineering Manager, Deep Learning Inference

Leadhybrid184 000 USD · okres nie podanydziś
Analityka rynku
📊 Product Management: wynagrodzenia i popyt na rynku
Stack
agilec++llmpythonpytorchtritonvllm
Szczegóły
Praktyki
Agile
Wykształcenie
Doktorat lub równoważne doświadczenie
Pokaż firmę i link
Bezpłatnie, po zalogowaniu.
Aplikuj
Odkryj firmę i link powyżej — Twoja aplikacja trafia prosto do systemu rekrutacyjnego firmy, bez pośredników.

Opis

[…] is seeking an exceptional Manager, Deep Learning Inference Software, to lead a world-class engineering team advancing the state of AI model deployment. You will shape the software powering today’s most sophisticated AI systems — from large language models to multimodal generative AI — all accelerated on […] GPUs. The Deep Learning Inference team develops and optimizes open-source frameworks that make AI deployment scalable, efficient, and accessible — including vLLM / SGLang, and FlashInfer.

Our work enables developers worldwide to harness […] accelerators for real-time inference at every scale, from datacenter clusters to edge devices.

What you'll be doing:

Lead, mentor, and scale a high-performing engineering team focused on deep learning inference and GPU-accelerated software.

Drive the strategy, roadmap, and execution of […]’s inference frameworks engineering, focusing on Client AI.

Partner with internal compiler, libraries, and research teams to deliver end-to-end optimized inference pipelines across […] accelerators.

Oversee performance tuning, profiling, and optimization of large-scale models for LLM, multimodal, and generative AI applications.

Guide engineers in adopting best practices for CUDA, Triton, CUTLASS, and multi-GPU communications (NIXL, NCCL, NVSHMEM).

Represent the team in roadmap and planning discussions, ensuring alignment with […]’s broader AI and software strategies.

Foster a culture of technical excellence, open collaborat

Pełny opis, firma i link do aplikacji — po zalogowaniu. Zaloguj się
Kontakty pracodawcy (e-mail/telefon/Telegram) są ukryte w publicznym podglądzie.
Pilne pytanie? Napisz @termdocs