Wir verwenden technische Cookies und das anonymisierte Besuchsprotokoll von Zorky. Yandex Metrica (Daten werden auf Servern in Russland gespeichert) läuft nur mit Ihrer Einwilligung. Wir verkaufen keine Daten. Mehr zu Cookies und Statistik.
Zorky läuft im Testmodus — alles ist kostenlos. Stellen und Unternehmensseiten sind für alle offen; Links zu den Anzeigen und Ihre persönliche Stellenauswahl gibt es nach der Registrierung. Registrieren →
← Alle Stellen

Engineering Manager, Deep Learning Inference

Leadhybrid184.000 USD · Zeitraum nicht angegebenheute
Markteinblicke
📊 Product Management: Gehälter und Nachfrage am Markt
Stack
agilec++llmpythonpytorchtritonvllm
Details
Methoden
Agile
Ausbildung
Promotion oder gleichwertige Erfahrung
Unternehmen und Link anzeigen
Kostenlos, nach der Anmeldung.
Bewerben
Öffnen Sie oben das Unternehmen und den Link — Ihre Bewerbung geht direkt in das Recruiting-System des Unternehmens, ohne Vermittler.

Beschreibung

[…] is seeking an exceptional Manager, Deep Learning Inference Software, to lead a world-class engineering team advancing the state of AI model deployment. You will shape the software powering today’s most sophisticated AI systems — from large language models to multimodal generative AI — all accelerated on […] GPUs. The Deep Learning Inference team develops and optimizes open-source frameworks that make AI deployment scalable, efficient, and accessible — including vLLM / SGLang, and FlashInfer.

Our work enables developers worldwide to harness […] accelerators for real-time inference at every scale, from datacenter clusters to edge devices.

What you'll be doing:

Lead, mentor, and scale a high-performing engineering team focused on deep learning inference and GPU-accelerated software.

Drive the strategy, roadmap, and execution of […]’s inference frameworks engineering, focusing on Client AI.

Partner with internal compiler, libraries, and research teams to deliver end-to-end optimized inference pipelines across […] accelerators.

Oversee performance tuning, profiling, and optimization of large-scale models for LLM, multimodal, and generative AI applications.

Guide engineers in adopting best practices for CUDA, Triton, CUTLASS, and multi-GPU communications (NIXL, NCCL, NVSHMEM).

Represent the team in roadmap and planning discussions, ensuring alignment with […]’s broader AI and software strategies.

Foster a culture of technical excellence, open collaborat

Vollständige Beschreibung, Unternehmen und Bewerbungslink — nach der Anmeldung. Anmelden
Kontaktdaten des Arbeitgebers (E-Mail/Telefon/Telegram) sind in der öffentlichen Vorschau ausgeblendet.
Dringende Frage? Schreiben Sie @termdocs