SzkoleniaProgramowanie i DevOps / Programowanie i testowanieNVIDIA-RAGPROD
NVIDIA-RAGPRODNVIDIA · szkolenie autoryzowane
NVIDIA: Introduction to Deploying RAG Pipelines for Production at Scale (English)
Szkolenie prezentuje sposób konfiguracji i zarządzania skalowalnymi, produkcyjnymi pipeline'ami Retrieval-Augmented Generation (RAG) z wykorzystaniem Kubernetes, NVIDIA NIM, Helm, Prometheus i Grafana. Zajęcia mają charakter praktyczny i interaktywny, z pracą w klastrze Kubernetes.
- Czas trwania
- 1 dzień
- Poziom
- Średni
- Dostawca
- NVIDIA
- Obszar
- Programowanie i DevOps / Programowanie i testowanie
Zakres szkolenia
- Wprowadzenie: produkcyjne pipeline'y RAG w skali
- Kluczowe komponenty: NVIDIA NIM, Kubernetes, Helm, Prometheus, Grafana
- Konfiguracja Kubernetes: przygotowanie interaktywnego środowiska nauki i podstawowe komendy Kubernetes
- Wdrożenie: pełne wdrożenie pipeline'u RAG za pomocą Helm oraz wykorzystanie poszczególnych usług NIM
- Monitorowanie: zastosowanie DCGM, konfiguracja Prometheus i Grafana do monitorowania wydajności
- Autoskalowanie: implementacja horyzontalnego autoskalowania (HPA) na podstawie własnych metryk
- Testowanie obciążeniowe: przeprowadzanie testów obciążeniowych i analiz wydajności
Zdobyte umiejętności
- Wdrażanie pipeline'ów RAG na Kubernetes przy użyciu Helm i NVIDIA NIM Operator
- Wykorzystanie NVIDIA NIM do skalowalnych, konteneryzowanych modeli LLM i modeli embeddingowych
- Łączenie, dostosowywanie, rozszerzanie i autoskalowanie komponentów aplikacji
- Monitorowanie wydajności aplikacji za pomocą Prometheus i Grafana
- Wykonywanie testów obciążeniowych i optymalizacja pipeline'ów RAG
Dla kogo jest to szkolenie
- Inżynierowie Machine Learning wdrażający aplikacje RAG w środowiskach produkcyjnych
- Deweloperzy AI implementujący skalowalne usługi AI
- Inżynierowie DevOps zarządzający środowiskami Kubernetes z obciążeniami AI
- Architekci oprogramowania projektujący architektury AI
- Liderzy techniczni skalujący Proof-of-Concept do systemów produkcyjnych klasy enterprise
Wymagania wstępne
- Podstawowa znajomość Kubernetes i orkiestracji kontenerów
- Doświadczenie z modelami AI i LLM jest zaletą
- Znajomość Helm, Prometheus i Grafana jest przydatna, lecz nie wymagana
Najbliższe terminy
Terminy realizowane z partnerami LLPA, online. Godziny podane w czasie polskim, język prowadzenia przy terminie.
| Termin | Godziny (czas PL) | Język | Status | Cena | Akcja |
|---|---|---|---|---|---|
| 09:30–16:30 | angielski | Planowany | 4330 zł | Poproś o ofertę |
4330 zł
Zapytaj o termin