Bezpieczeństwo AI i agentów LLM: prompt injection i ochrona danych
Informacje podstawowe
Najważniejsze dane o szkoleniu w jednym miejscu- Kategoria
- Bezpieczeństwo AI
- Forma realizacji
- Online lub stacjonarnie
- Termin
- Ustalany indywidualnie
- Dostawca
- ERNABO Adrian Flak
- Dofinansowanie
- Możliwość dofinansowania
Cel szkolenia
Co zyskasz po ukończeniu kursuCel biznesowy
Bezpieczne wdrożenia asystentów i agentów AI, które nie ujawniają danych i nie wykonują niepożądanych działań.
Cel edukacyjny
Uczestnik uczy się rozpoznawać zagrożenia specyficzne dla aplikacji LLM i projektować zabezpieczenia.
Efekty uczenia się
- omawia ryzyka z listy OWASP Top 10 dla aplikacji LLM,
- przeprowadza i rozpoznaje ataki prompt injection,
- ogranicza uprawnienia agentów i dostęp do narzędzi,
- chroni dane w systemach RAG i w logach,
- testuje aplikację AI i wdraża monitorowanie.
Program szkolenia
Szczegółowy plan zajęćModuł 1. Powierzchnia ataku aplikacji AI
- model, prompt systemowy, dane, narzędzia
- OWASP Top 10 dla aplikacji LLM
Moduł 2. Prompt injection
- ataki bezpośrednie i jailbreak
- pośrednie wstrzyknięcia przez dokumenty, strony i e-maile
Moduł 3. Agenci i narzędzia
- nadmierne uprawnienia i zatwierdzanie działań przez człowieka
- bezpieczeństwo integracji i serwerów MCP
Moduł 4. Ochrona danych
- uprawnienia w RAG i wycieki informacji
- dane osobowe, logi, dostawcy modeli
Moduł 5. Obrona i testy
- filtry wejścia i wyjścia, izolacja kontekstu
- red teaming i monitorowanie
Warsztat końcowy
Uczestnicy atakują przykładowego agenta AI, a następnie wprowadzają zabezpieczenia i sprawdzają ich skuteczność.
Wymagania
Co przygotować przed startem szkoleniaWymagania wstępne
Podstawowa wiedza o działaniu modeli językowych i doświadczenie w tworzeniu lub wdrażaniu aplikacji.
Dla kogo?
Programiści aplikacji z LLM, architekci, specjaliści bezpieczeństwa i osoby odpowiedzialne za wdrażanie AI w firmie.