Wir verwenden technische Cookies und das anonymisierte Besuchsprotokoll von Zorky. Yandex Metrica (Daten werden auf Servern in Russland gespeichert) läuft nur mit Ihrer Einwilligung. Wir verkaufen keine Daten. Mehr zu Cookies und Statistik.
Zorky läuft im Testmodus — alles ist kostenlos. Stellen und Unternehmensseiten sind für alle offen; Links zu den Anzeigen und Ihre persönliche Stellenauswahl gibt es nach der Registrierung. Registrieren →
← Alle Stellen

Platform Engineer - Self Hosting LLMs built with GO

Level nicht angegebenofficeLondon, GB →vor 2 Wo.
Stack
c++gokuberneteslinuxllmollamapythonrustvllm
Details
Ausbildung
Hochschulabschluss
Unternehmen und Link anzeigen
Kostenlos, nach der Anmeldung.
Bewerben
Öffnen Sie oben das Unternehmen und den Link — Ihre Bewerbung geht direkt in das Recruiting-System des Unternehmens, ohne Vermittler.

Beschreibung

About us Re-architecting Engineering for the Age of Intelligence […] is the physics AI company for industrials. The company’s mission is to accelerate hardware innovation by overhauling what industrial engineering and manufacturing look like today. […] is building a new simulation software stack to deliver deep physics AI enablement across the entire engineering lifecycle.

The company partners with leading organisations in aerospace & defence, automotive, semiconductors, materials, and energy & renewables, supporting them on some of their most critical and complex challenges. […] is headquartered in the United Kingdom, with offices in London, New York, and Singapore and an expanding presence in the Bay Area.

Über die Stelle

The role

You will build the LLM access layer for agents on the […] platform. That layer serves self-hosted open models and routes each task to the model, or combination of models, that best fits its constraints. We want to bring deep, production experience in self-hosted LLM serving and model routing into […].

You will establish the capability to run open models reliably and choose between self-hosted and external models according to the needs of each workload. You will set the technical direction for inference engines such as vLLM and SG

Lang, and serving platforms such as K

Serve. You will build foundations that product, delivery and customer teams can rely on. You will own both. You will learn our requirements and define the implementation, rathe

Vollständige Beschreibung, Unternehmen und Bewerbungslink — nach der Anmeldung. Anmelden
Kontaktdaten des Arbeitgebers (E-Mail/Telefon/Telegram) sind in der öffentlichen Vorschau ausgeblendet.
Dringende Frage? Schreiben Sie @termdocs