Szkolenie Praktyczne testy penetracyjne i bezpieczeństwo AI i LLM

Praktyczne testy penetracyjne i bezpieczeństwo AI i LLM to szkolenie to odwrócenie proporcji klasycznych szkoleń – ograniczamy czas poświęcony na „zwykłe, zabawne jailbreaki tekstowe” do niezbędnego minimum. Przede wszystkim nauczysz się traktować LLM jako kolejny komponent złożonej aplikacji webowej połączonej z bazą danych i systemem operacyjnym. Zdobędziesz zaawansowaną, praktyczną wiedzę z zakresu ofensywnego testowania i zabezpieczania systemów opartych na sztucznej inteligencji.

Praktyczne testy penetracyjne i bezpieczeństwo AI i LLM – podstawowe informacje

Kod programu: SEC-AI-LLM-01
Kategoria: AI / RED TEAM
Czas trwania: 3 dni / 24 godzin (9:00 – 17:00)
Poziom zaawansowania: Średniozaawansowany
Lokalizacja: Zdalnie/Stacjonarnie/Hybrydowo
Język wykładowy: PL/EN
Trenerka: Beata Zalewa

Dlaczego warto wybrać kurs Praktyczne testy penetracyjne i bezpieczeństwo AI i LLM?

Cele i założenia edukacyjne

Głównym celem jest przekazanie praktycznej wiedzy z zakresu ofensywnego testowania i zabezpieczania systemów opartych na sztucznej inteligencji oraz dużych modelach językowych. Oprócz tego, wdrożysz rynkowe standardy oceny ryzyka, ze szczególnym uwzględnieniem OWASP Top 10 for LLM Applications.

Dla kogo przeznaczone jest szkolenie Praktyczne testy penetracyjne i bezpieczeństwo AI i LLM?

• Z pewnością skorzystają Pentesterzy oraz członkowie zespołów Red Team.
• Dodatkowo zapraszamy Inżynierów bezpieczeństwa (Security Engineers) i Inżynierów DevSecOps.
• Programiści wykorzystujący AI / LLM oraz architekci oprogramowania również znajdą tu cenną wiedzę.

Efekty udziału w zajęciach

• Absolwent pozna najnowsze wektory ataków, w tym techniki obchodzenia Guardrails i zagrożenia w łańcuchu dostaw.
• Ponadto zrozumie kompleksową anatomię środowisk AI oraz specyfikę modelowania zagrożeń (Threat Modeling).
• W rezultacie będzie potrafił przeprowadzić głębokie testy penetracyjne, np. w architekturze RAG.
• Zatem automatyzuje procesy audytu i wdraża strategie mitygacji luk zgodnie z DevSecOps.

Co otrzymasz po zakończeniu?

• Udostępnimy profesjonalne materiały szkoleniowe.
• Przekażemy wiedzę niezbędną do kompleksowego modelowania zagrożeń.
• Wydamy imienny certyfikat uczestnictwa.

Wymagania wstępne dla uczestników

Od kursantów wymaga się znajomości tematyki związanej z LLMami i podstaw Pythona. Warsztaty opierają się na symulacji systemów wdrażanych lokalnie lub w prywatnej chmurze, co pozwala na realne testowanie podatności.

Szczegółowy program szkolenia

Moduł 1: Wprowadzenie i cele szkolenia

• Przedstawienie programu, celów i wartości szkolenia.

Moduł 2: Wprowadzenie do architektury AI i modelowania zagrożeń

• Anatomia nowoczesnej aplikacji LLM.
• Filozofia projektów OWASP Top 10 for LLM Applications.
• Szacowanie ryzyka i modelowanie zagrożeń (Threat Modeling).
• Case Studies: Analiza podatności architektury referencyjnej.

Moduł 3: Ofensywne testowanie modeli LLM

• Mechanizmy obronne modeli (Guardrails) – zasada działania i słabe punkty.
• Kwestia halucynacji i uprzedzeń (biases).
• Ataki kradzieży intelektualnej: Model Extraction i Model Inversion.
• Laboratoria praktyczne: Zaawansowany Jailbreaking, użycie promptfoo, symulacja Model Extraction.

Moduł 4: Bezpieczeństwo danych AI – RAG, osadzenia i zatruwanie

• Architektura RAG i jej krytyczne punkty podatności.
• Ataki na dane i zatruwanie danych treningowych (Training Data Poisoning).
• Bezpieczeństwo osadzeń (Embeddings).
• Laboratoria: RAG Data Leakage, zatruwanie potoku danych (Embedding Poisoning).

Moduł 5: Testowanie infrastruktury AI i bezpieczeństwo API

• Podatności środowisk wykonawczych i hostingu modeli.
• Architektura i bezpieczeństwo baz wektorowych.
• Zagrożenia w łańcuchu dostaw AI i podatności wtyczek.
• Laboratoria: Testy bramki API i autoryzacji, ucieczka z piaskownicy (sandbox escape).

Moduł 6: Warsztaty Red Team – scenariusz End-to-End (Opcjonalny – Dzień 3)

• Wyzwanie typu Red Team w środowisku laboratoryjnym (Open WebUI + vLLM + Milvus + Dream Factory API Gateway).
• Przeprowadzenie pełnego łańcucha ataku (Kill Chain).
• Omówienie strategii mitygacji w duchu DevSecOps (potoki CI/CD).

Moduł 7: Podsumowanie, pytania i dalsze kroki

• Zebranie kluczowych wniosków z testów praktycznych.
• Sesja Q&A oraz przekazanie materiałów dodatkowych.
• Rekomendacje do dalszego rozwoju kompetencji w zakresie bezpieczeństwa AI i LLM.

Autorką szkolenia jest Beata Zalewa

Od wielu lat pracuję jako architekt techniczna, a ponadto od 2010 roku działam jako certyfikowana trenerka Microsoft (MCT). Co więcej, założyłam firmę ZALNET, w której kładę największy nacisk na edukację technologiczną. Na co dzień uczę, w jaki sposób skutecznie dbać o odporność organizacji. Więcej o trenerce →