Ai/Ml Engineer – LLM Systems (M/W/D)
Job Overview
Job Title
Ai/Ml Engineer – LLM Systems (M/W/D)
Company
Anexia Internetdienstleistungs
Location
Worldwide
Job Type
Full-Time
Experience
Mid Level
About This Role
Headquarters:
URL: http://anexia.com
AI/ML ENGINEER – LLM SYSTEMS (M/W/D)
Wien, Graz, Klagenfurt, Remote | Vollzeit
Du begeisterst dich für künstliche Intelligenz und arbeitest gerne mit modernsten LLM-Technologien? Du arbeitest strukturiert und selbstständig und liebst es, intelligente Systeme zu entwickeln, die echten Mehrwert schaffen? Du bist ein kommunikativer Teamplayer, der innovative KI-Lösungen mit Leidenschaft umsetzt? Dann ist diese Position perfekt für dich!
#Profile
- Du treibst die Entwicklung und den Einsatz von KI/ML-Systemen voran, mit besonderem Fokus auf Large Language Models (LLMs) und intelligente Agenten-Frameworks
- Du implementierst und betreibst LLM-Inferenz-Lösungen mit Runtimes wie Ollama, vLLM und TensorRT-LLM
- Du entwickelst agentische Anwendungen mit Frameworks wie Dify, LangFlow, Haystack, LlamaIndex, LangChain, LangGraph oder Pydantic AI
- Du integrierst KI-Funktionen von unterschiedlichen Anbietern (wie OpenAI, Anthropic, Groq und Cerebras) in Produktionssysteme
- Du implementierst LLMOps-Praktiken mit Tools wie LangFuse und LangSmith für Monitoring, Tracing und Observability
- Du entwickelst und optimierst ML-Pipelines mit Python, TensorFlow, PyTorch und scikit-learn für verschiedene KI-Anwendungen
- Du containerisierst und deployest KI-Anwendungen mit Docker und Podman
- Du arbeitest mit SQL-Datenbanken und implementierst Evaluierungs-Frameworks wie DeepEval zur Sicherstellung der Modellqualität
- Du arbeitest eng mit funktionsübergreifenden Teams zusammen und präsentierst und verbesserst kontinuierlich deine KI-Lösungen
#Wanted
- Erfahrung mit RAG (Retrieval-Augmented Generation), Prompt Engineering oder Multi-Agenten-Systemen ist von großem Vorteil
- Fundiertes Verständnis von Large Language Models und Erfahrung mit dem HuggingFace-Ökosystem
- Praktische Erfahrung mit mindestens einem agentischen Framework (LangChain, LangGraph, Haystack, LlamaIndex, Dify, LangFlow oder Pydantic AI)
- Erfahrung mit Python und modernen ML-Frameworks (TensorFlow, PyTorch, scikit-learn)
- Kenntnisse in LLM-Inferenz-Runtimes wie Ollama, vLLM oder TensorRT-LLM
- Erfahrung mit LLM-APIs (OpenAI, Anthropic oder ähnliche Anbieter)
- Fundierte Kenntnisse in SQL und Datenbankoperationen
- Verständnis von LLMOps-Praktiken und Methoden zur Modellevaluierung
- Erfahrung mit Containerisierung (Docker/Podman) und Orchestrierungstools
- Erfahrung mit Versionskontrollsystemen und CI/CD-Tools von Vorteil
- Kenntnisse in DevOps-Praktiken (Ansible) sind ein Plus
- Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift
#REWARD
Anexia wurde als Familie groß und das soll auch in unserer Wachstumsstrategie so bleiben. Wir übernehmen gerne Verantwortung, respektieren einander und wir wissen, dass wir alles schaffen können. Wir schauen gut auf Anexia und Anexia schaut auch gut auf uns. Begeisterung, Erfahrung und Kompetenz zählen, daher kannst Du ein faires Gehalt und zahlreiche Benefits erwarten.Gehaltsspanne
mind. 54.000€
Unsere Benefits
Wir sind mehr als ein Arbeitsplatz. Daher bieten wir unseren Mitarbeiter:innen (teils abhängig von Deiner Position und Deinem Standort) viele Benefits: Gute Verkehrsanbindung, flexible Arbeitszeiten, Aus- und Weiterbildung, Mentoren-Programm, kostenlose Parkplätze, Arbeitshandy- und -notebook, Snacks und Getränke, Firmenwagen, Mitarbeiter:innen-Events, Fun-Corner, u.v.m. #JOINOURREVOLUTION#About
Anexia bietet hochwertige und individuelle Lösungen im Bereich Web- und Managed Hosting, sowie Individualsoftware- und App Entwicklung. Das 2006 gegründete Unternehmen mit Sitz in Klagenfurt und weiteren Standorten in Wien, Graz, Karlsruhe, Nürnberg und New York betreut zahlreiche internationale Kunden. Über 350 Mitarbeiter:innen an mehr als 5 Bürostandorten in Österreich, Deutschland und den USA Wir sind ISO-zertifiziert und haben seit Jahren eine „Why This Job Might Be a Good Fit
- Fully remote full-time position
- Mid Level engineering role at Anexia Internetdienstleistungs
- Open to candidates in Worldwide
Similar Remote Jobs
More Remote Jobs by Location
More Remote Engineering Jobs
Get Daily Remote Job Alerts Before Others Do
Join 12,000+ remote professionals
No spam, unsubscribe anytime. We respect your privacy.
Frequently Asked Questions
Is this position fully remote?
Yes, this role is listed as a remote position. You can work from anywhere within the specified location requirements.
How do I apply for this job?
Click the "Apply on Company Website" button to be redirected to the official application page.
Are international applicants welcome?
Check the location requirements listed above. Some positions are restricted to specific regions.
When was this job posted?
The posting date is shown in the Quick Facts sidebar. We update our listings daily to ensure accuracy.
About Anexia Internetdienstleistungs
Anexia Internetdienstleistungs