AI Infrastructure Engineer / MLOps

Twoim głównym celem będzie kompleksowe projektowanie i wdrażanie infrastruktury dla modeli sztucznej inteligencji (w tym LLM) na serwerach fizycznych u naszych klientów. Czeka Cię praca blisko "metalu" oraz najnowszych technologii GenAI. Projektowanie architektury rozwiązań on-premise dla systemów AI/LLM oraz tworzenie dokumentacji technicznej. Przygotowywanie środowiska od podstaw: instalacja i konfiguracja OS (Linux) , sterowników GPU (Nvidia/CUDA) , środowisk kontenerowych oraz narzędzi MLOps na dedykowanych serwerach fizycznych. Uruchamianie i optymalizacja lokalnych środowisk do inferencji (serwowania) modeli językowych oraz ich douczania (fine-tuning). Budowa pipeline'ów danych zasilających modele oraz ich integracja z bazami danych klientów. Wdrażanie modeli na produkcję, stabilizacja środowiska, testy wydajnościowe oraz walidacja jakości. Ścisła współpraca z zespołem Data Science przy procesach trenowania i dostrajania modeli na danych klienta. Czego oczekujemy? (Must-have): Solidnego doświadczenia na stanowisku DevOps, MLOps, SysAdmin lub podobnym, ze szczególnym uwzględnieniem środowisk on-premise / bare-metal. Biegłej znajomości systemów z rodziny Linux oraz zarządzania sieciami. Praktycznego doświadczenia z ekosystemem GPU: instalacja i konfiguracja sterowników Nvidia, CUDA, cuDNN. Doświadczenia z konteneryzacją i orkiestracją (Docker, Docker Compose, mile widziany Kubernetes). Znajomości zagadnień z obszaru MLOps i narzędzi do zarządzania cyklem życia modeli (np. MLflow, DVC, Kubeflow). Znajomości architektury i narzędzi związanych z LLM (np. vLLM, Ollama, Hugging Face Text Generation Inference, LangChain). Zdolności analitycznych i architektonicznych oraz umiejętności tworzenia dokumentacji. Mile widziane: Umiejętność pisania skryptów w Pythonie oraz zrozumienie procesu fine-tuningu modeli językowych (np. LoRA, QLoRA). Znajomość narzędzi do automatyzacji infrastruktury (Ansible, Terraform). Doświadczenie w pracy z bazami wektorowymi (np. Milvus, Qdrant, Pinecone). Jak pracujemy i czego możesz się spodziewać? Pionierskie projekty: Wdrażanie prywatnych LLM-ów na fizycznym sprzęcie. Duża autonomia: Masz realny wpływ na architekturę infrastruktury i wybór narzędzi MLOps. Forma współpracy dopasowana do swoich preferencji: umowę o pracę lub B2B. Sprzęt: Dostęp do potężnych maszyn obliczeniowych. Benefity pozapłacowe, m.in . karta Multisport , pakiet medyczny Luxmed/PZU, ubezpieczenie grupowe oraz program poleceń pracowniczych, Elastyczność: elastyczne godziny pracy, praca zdalna. Brzmi ciekawie? Aplikuj!