Wir verwenden technische Cookies und das anonymisierte Besuchsprotokoll von Zorky. Yandex Metrica (Daten werden auf Servern in Russland gespeichert) läuft nur mit Ihrer Einwilligung. Wir verkaufen keine Daten. Mehr zu Cookies und Statistik.
Zorky läuft im Testmodus — alles ist kostenlos. Stellen und Unternehmensseiten sind für alle offen; Links zu den Anzeigen und Ihre persönliche Stellenauswahl gibt es nach der Registrierung. Registrieren →
← Alle Stellen

Principal Engineer, AI Security & Model Internals

PrincipalhybridWarszawa, PL →heute
Markteinblicke
📊 AI / ML / Data Science: Gehälter und Nachfrage am Markt
Stack
PythonPyTorchAI securityLLMCUDAc++fine-tuningpythonpytorchrustvllm
Details
Englisch
erforderlich
Unternehmen und Link anzeigen
Kostenlos, nach der Anmeldung.
Bewerben
Öffnen Sie oben das Unternehmen und den Link — Ihre Bewerbung geht direkt in das Recruiting-System des Unternehmens, ohne Vermittler.

Beschreibung

Location: Wrocław, Warsaw (Hybrid)

Most people treat language models as black boxes. At Opera, we want to understand what happens inside them.

We’re looking for a hands-on Principal Engineer to join our AI & Browser Innovation Hub in Wrocław, focusing on model internals and AI security. Working closely with Opera’s AI leadership, as a technical partner in evaluating and challenging engineering approaches, you’ll investigate how language models behave, identify vulnerabilities, and develop security solutions for AI-powered browsing systems used by millions of people.

This role combines applied research, adversarial testing, and engineering, with the opportunity to turn emerging techniques into practical solutions. You’ll have the autonomy to challenge assumptions, explore new approaches, and contribute directly to the security of Opera’s AI-powered products.

Role & Responsibilities

Model internals. Build tooling to inspect open-weight models layer by layer and head by head: activation capture, linear probes, logit and tuned lens, activation patching, ablation and sparse autoencoders.

Model supply chain. Scan third-party weights and fine-tunes for backdoors, trojans and hidden behaviour before they reach users, think heuristic antivirus, but for neural networks.

Runtime monitoring for agents. Design monitors that read a model's internal state at critical moments, such as tool calls, and escalate to a second model for verification when something looks wrong.

Prompt injectio

Vollständige Beschreibung, Unternehmen und Bewerbungslink — nach der Anmeldung. Anmelden
Kontaktdaten des Arbeitgebers (E-Mail/Telefon/Telegram) sind in der öffentlichen Vorschau ausgeblendet.
Dringende Frage? Schreiben Sie @termdocs