Senior GenAI / LLMOps Engineer

Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI (GenAI) w środowisku enterprise.Projekt koncentruje się na budowie i rozwoju technicznych fundamentów umożliwiających bezpieczne, kontrolowane i efektywne kosztowo wykorzystywanie modeli Large Language Models (LLM) przez aplikacje, agentów AI oraz zespoły developerskie. Zakres obejmuje obszary GenAI, LLMOps, AI Governance, Cloud, DevOps i Data, w tym rozwój centralnej warstwy dostępowej do modeli, observability oraz mechanizmów bezpieczeństwa i kontroli kosztów.Do współpracy poszukujemy osoby o silnym, hands-on profilu technicznym, posiadającej praktyczne doświadczenie w projektach GenAI / LLM i gotowej samodzielnie analizować, testować, konfigurować oraz wdrażać rozwiązania związane z infrastrukturą GenAI.📍 Tryb Współpracy: 100% zdalnie⏱️ Dostępność: Poszukujemy osób dostępnych od zaraz lub z maksymalnie 1-miesięczną dostępnością🧑‍💻 CZYM BĘDZIESZ SIĘ ZAJMOWAĆ?Projektowaniem i rozwojem bezpiecznej warstwy dostępu do modeli LLM, w tym rozwiązań klasy LLM Gateway / API Gateway, umożliwiających centralne zarządzanie modelami różnych dostawcówRozwojem integracji API z modelami LLM, obejmujących mechanizmy uwierzytelniania, autoryzacji, routingu, limitowania dostępu oraz kontroli wykorzystania modeliBudowaniem mechanizmów observability dla środowiska GenAI, obejmujących centralne logowanie oraz monitoring wykorzystania modeli, aplikacji, tokenów, błędów i kosztówTestowaniem i oceną modeli LLM, sposobów ich hostowania oraz technologii GenAI pod kątem jakości, bezpieczeństwa, wydajności, możliwości integracyjnych i kosztów, również dla rozwiązań on-premise i private cloudRealizacją technicznych Proof of Concept (PoC) oraz analiz dotyczących nowych modeli, narzędzi i możliwości GenAI, a następnie wsparciem w doprowadzaniu wybranych rozwiązań do standardu produkcyjnegoWspółpracą z zespołami DevOps, Cloud, Security, Data i Architecture przy przekładaniu zasad AI Governance oraz bezpieczeństwa na konkretne rozwiązania technologiczne🔍 CZEGO OD CIEBIE OCZEKUJEMY?Must have:Praktyczne doświadczenie projektowe z Generative AI / LLM oraz udział w budowie rzeczywistych rozwiązań wykorzystujących modele językoweBardzo dobra znajomość integracji z modelami LLM poprzez API oraz architektury rozwiązań GenAI wykorzystywanych w środowiskach enterpriseDoświadczenie lub bardzo dobra znajomość obszaru LLMOps / GenAIOps, w tym zagadnień związanych z udostępnianiem, monitoringiem i zarządzaniem modelamiZnajomość mechanizmów API Gateway, uwierzytelniania, zarządzania dostępem, routingu, logowania, monitoringu i observabilityDobra znajomość ekosystemu modeli LLM, w tym rozwiązań OpenAI, Anthropic, Google oraz modeli open-sourceZnajomość SQL oraz doświadczenie w samodzielnej realizacji technicznych analiz, eksperymentów i Proof of ConceptNice to have:Doświadczenie z rozwiązaniami LiteLLM, AI Gateway, model router lub proxy dla modeli LLMDoświadczenie z Azure OpenAI, Google Vertex AI, Anthropic lub hostowaniem modeli open-source / on-premiseZnajomość Snowflake oraz doświadczenie z platformami danych lub hurtowniami danychZnajomość Kubernetes, konteneryzacji, CI/CD oraz środowisk chmurowychDoświadczenie z observability, FinOps lub optymalizacją kosztów usług AI/cloudZnajomość RAG (Retrieval-Augmented Generation), agentów AI i narzędzi developerskich wykorzystujących LLM🤝 DLACZEGO WARTO?Projekt obejmujący budowę technicznych fundamentów środowiska GenAI, w tym LLM Gateway, integracje API, observability, security oraz optymalizację kosztówMożliwość budowania technicznych fundamentów środowiska GenAI – od LLM Gateway i integracji API po observability, security i optymalizację kosztówHands-on charakter współpracy z przestrzenią na samodzielne eksperymenty, Proof of Concept oraz wdrażanie nowych rozwiązań technologicznychProjekt z dynamicznie rozwijającym się ekosystemem LLM / GenAI oraz modelami komercyjnymi i open-sourceWspółpraca z doświadczonymi zespołami DevOps, Cloud, Security, Data i Architecture100% zdalny model współpracy📍 Dziękujemy za wszystkie zgłoszenia! Skontaktujemy się z wybranymi osobami.TQLO Sp. z o.o. – Agencja Zatrudnienia (nr KRAZ 33580)