Wir verwenden technische Cookies und das anonymisierte Besuchsprotokoll von Zorky. Yandex Metrica (Daten werden auf Servern in Russland gespeichert) läuft nur mit Ihrer Einwilligung. Wir verkaufen keine Daten. Mehr zu Cookies und Statistik.
Zorky läuft im Testmodus — alles ist kostenlos. Stellen und Unternehmensseiten sind für alle offen; Links zu den Anzeigen und Ihre persönliche Stellenauswahl gibt es nach der Registrierung. Registrieren →
← Alle Stellen

Principal Engineer, On-Device Inference & GPU Kernels

PrincipalhybridWarszawa, PL →heute
Markteinblicke
📊 Architecture: Gehälter und Nachfrage am Markt
Stack
CUDAGPU ProgrammingC++Machine Learningcloudfine-tuningvllm
Unternehmen und Link anzeigen
Kostenlos, nach der Anmeldung.
Bewerben
Öffnen Sie oben das Unternehmen und den Link — Ihre Bewerbung geht direkt in das Recruiting-System des Unternehmens, ohne Vermittler.

Beschreibung

Location: Wrocław, Warsaw (Hybrid)

We're looking for a hands-on Principal Engineer to join our AI & Browser Innovation Hub in Wrocław, focusing on high-performance, on-device AI inference and GPU optimisation. In this role, you'll work at the intersection of advanced AI research and low-level systems engineering, developing solutions that make language models faster and more efficient on consumer hardware. Working closely with Opera's AI leadership, you'll take ownership of performance-critical components, from speculative decoding and GPU kernels to quantisation and memory management.

You'll have the opportunity to experiment with emerging techniques, solve complex engineering challenges, and contribute to AI capabilities used by millions of Opera users.

Role & Responsibilities

Speculative decoding. Train, tune and ship draft models for the models we run block-diffusion drafters (DFlash2-like), semi-autoregressive drafters with confidence-scheduled verification (DSpark), EAGLE-style heads and multi-token prediction and keep pushing acceptance length up and drafting cost down on consumer hardware.

Kernels. Write, fuse and tune kernels for attention, quantised matmul, MoE routing, sampling and draft verification, across Metal/MLX, CUDA, Vulkan and OpenVINO.

Quantisation. Design mixed-precision schemes for weights, activations and KV cache. Match formats to the hardware, from 4-bit integer on integrated GPUs and NPUs to FP8, FP4 and microscaling formats on newer GPUs, and p

Vollständige Beschreibung, Unternehmen und Bewerbungslink — nach der Anmeldung. Anmelden
Kontaktdaten des Arbeitgebers (E-Mail/Telefon/Telegram) sind in der öffentlichen Vorschau ausgeblendet.
Dringende Frage? Schreiben Sie @termdocs