Warsztat testowania odporności LLM

Warsztat testowania odporności LLM – sprawdź, jak zachowa się Twój model podczas ataku

8-godzinne szkolenie podzielone na dwa wieczorne spotkania po 4 godziny. Uczestnicy poznają praktyczne podejście do testowania bezpieczeństwa modeli językowych oraz aplikacji wykorzystujących LLM.

Nie ograniczamy się do teorii ani pojedynczych przykładów jailbreaków. Uczestnicy przechodzą przez cały cykl: IDENTYFIKACJA → TEST → ATAK → ANALIZA → HARDENING → RETEST.

Pierwsze spotkanie koncentruje się na rozpoznaniu systemu, mapowaniu powierzchni ataku oraz praktycznym testowaniu promptów, kontekstu, danych i odpowiedzi modelu. Drugie spotkanie przechodzi od ręcznych testów do automatyzacji, analizy wyników, zabezpieczania aplikacji oraz ponownej weryfikacji zastosowanych mechanizmów ochronnych.

Dzięki takiemu podziałowi uczestnik nie tylko poznaje techniki ataku, ale uczy się całego procesu testowania odporności rozwiązania LLM – od znalezienia potencjalnego problemu aż do sprawdzenia, czy wdrożone zabezpieczenie rzeczywiście działa.

Program warsztatu – Spotkanie 1 – rozpoznanie i testowanie LLM

7 października 2026, 17:00–21:00

Pierwsza część szkolenia koncentruje się na zrozumieniu architektury rozwiązania LLM, identyfikacji powierzchni ataku oraz praktycznym sprawdzaniu, w jaki sposób model i aplikacja reagują na przygotowane scenariusze testowe.

Podstawy bezpieczeństwa modeli LLM

Poznaj specyfikę bezpieczeństwa dużych modeli językowych oraz różnice pomiędzy bezpieczeństwem samego modelu a bezpieczeństwem aplikacji, która wykorzystuje LLM.

• LLM a bezpieczeństwo aplikacji
• model zagrożeń dla systemów wykorzystujących LLM
• typowe klasy zagrożeń
• powierzchnia ataku systemów AI
• model, prompt, kontekst i dane
• narzędzia i integracje wykorzystywane przez LLM

Mapowanie powierzchni ataku LLM

Naucz się analizować aplikację wykorzystującą LLM i identyfikować miejsca, w których może pojawić się podatność bezpieczeństwa.

• system prompt
• prompt użytkownika
• kontekst i pamięć
• RAG i źródła danych
• API i integracje
• funkcje i narzędzia wywoływane przez model
• dane wejściowe i wyjściowe
• mechanizmy filtrowania i walidacji

Prompt Injection i Jailbreak

Praktyczne testowanie odporności modelu i aplikacji na manipulowanie instrukcjami oraz obchodzenie założonych ograniczeń.

• direct prompt injection
• indirect prompt injection
• konflikt instrukcji
• manipulowanie kontekstem
• ujawnianie instrukcji systemowych
• jailbreak i obchodzenie ograniczeń
• manipulowanie zachowaniem modelu
• niepożądane ujawnianie informacji

Testowanie danych, kontekstu i odpowiedzi modelu

Sprawdź, jak model reaguje na różne dane wejściowe oraz czy aplikacja może ujawnić informacje, których nie powinna udostępniać.

• testowanie danych wejściowych
• testowanie kontekstu
• ujawnianie danych
• manipulowanie formatem odpowiedzi
• niepożądane zachowania modelu
• testowanie granic modelu
• analiza odpowiedzi i zachowania aplikacji

Program warsztatu – Spotkanie 2 – automatyzacja, hardening i retest

14 października 2026, 17:00–21:00

Drugie spotkanie rozpoczynamy od automatyzacji przygotowanych wcześniej scenariuszy. Następnie analizujemy wyniki, oceniamy ryzyko, wdrażamy mechanizmy ochronne i ponownie uruchamiamy testy.

Automatyzacja testów LLM

Poznaj podejście do automatycznego testowania modeli i aplikacji wykorzystujących LLM oraz wykorzystaj narzędzia wspierające AI Red Teaming.

• automatyzacja przypadków testowych
• testy bezpieczeństwa
• testy regresji
• porównywanie wyników
• generowanie zestawów testowych
• analiza wyników
• automatyczne powtarzanie scenariuszy

W zależności od scenariusza laboratoryjnego wykorzystamy m.in. Promptfoo, Microsoft PyRIT oraz Adversarial Robustness Toolbox (ART).

Analiza wyników i ocena ryzyka

Naucz się przechodzić od pojedynczej niepożądanej odpowiedzi modelu do udokumentowanego problemu bezpieczeństwa.

• analiza wyników testów
• powtarzalność podatności
• false positive i false negative
• wpływ podatności na aplikację
• kontekst bezpieczeństwa
• priorytetyzacja problemów
• dokumentowanie wyników
• przygotowanie rekomendacji

Hardening aplikacji wykorzystujących LLM

Po zidentyfikowaniu podatności przejdź od testowania do zabezpieczania systemu.

• ograniczanie wpływu prompt injection
• separacja instrukcji i danych
• walidacja wejścia i wyjścia
• ograniczanie uprawnień narzędzi
• kontrola dostępu
• ograniczanie zakresu działania agentów
• ochrona danych
• monitoring i logowanie

Retest i weryfikacja zabezpieczeń

Sprawdź, czy wdrożone zabezpieczenia rzeczywiście ograniczyły wcześniej zidentyfikowane problemy.

• ponowne uruchomienie scenariuszy ataku
• weryfikacja skuteczności zabezpieczeń
• próby obejścia zabezpieczeń
• testowanie regresji
• identyfikacja nowych problemów
• porównanie wyników przed i po hardeningu

Dla kogo jest szkolenie?

• specjaliści cyberbezpieczeństwa,
• pentesterzy i zespoły Red Team,
• osoby zajmujące się AI Red Teamingiem,
• administratorzy i inżynierowie IT,
• DevSecOps,
• programiści tworzący aplikacje wykorzystujące LLM,
• architekci bezpieczeństwa,
• osoby odpowiedzialne za wdrażanie rozwiązań AI,
• zespoły odpowiedzialne za testowanie i ocenę ryzyka systemów AI.

Wymagania

Nie jest wymagana specjalistyczna wiedza z zakresu machine learning.

• podstawowa znajomość bezpieczeństwa aplikacji,
• podstawowe doświadczenie z narzędziami IT,
• umiejętność korzystania z terminala,
• podstawowa znajomość API i aplikacji internetowych,
• zainteresowanie bezpieczeństwem LLM i generatywnej AI.

Po szkoleniu uczestnik będzie potrafił

• zidentyfikować powierzchnię ataku aplikacji wykorzystującej LLM,
• projektować scenariusze testów bezpieczeństwa LLM,
• testować prompt injection i jailbreak,
• analizować niepożądane zachowania modeli,
• badać możliwość ujawnienia informacji przez model,
• automatyzować wybrane testy bezpieczeństwa,
• wykorzystywać narzędzia wspierające testowanie LLM,
• analizować i dokumentować wyniki testów,
• wdrażać podstawowe mechanizmy hardeningu,
• wykonywać retest po wdrożeniu zabezpieczeń,
• budować własną checklistę LLM Security Testing.

Narzędzia i środowisko laboratoryjne

Podczas szkolenia wykorzystywane są przykładowe modele językowe, aplikacje LLM oraz narzędzia i biblioteki wspierające testowanie bezpieczeństwa.

• LLM i aplikacje wykorzystujące modele językowe,
• Promptfoo,
• Microsoft PyRIT,
• Adversarial Robustness Toolbox (ART),
• narzędzia do testowania promptów,
• API,
• terminal,
• środowiska laboratoryjne,
• scenariusze AI Red Teamingu.

Ćwiczenia mogą obejmować również lokalnie uruchamiane modele LLM, jednak szkolenie dotyczy bezpieczeństwa LLM i aplikacji wykorzystujących modele językowe niezależnie od sposobu ich uruchomienia.

Dobre praktyki bezpieczeństwa

Program szkolenia odwołuje się do dobrych praktyk bezpieczeństwa generatywnej AI oraz materiałów dotyczących bezpieczeństwa aplikacji wykorzystujących modele językowe, w tym do OWASP GenAI Security Project.

Szkolenie dla zespołu

Potrzebujesz szkolenia zamkniętego dla swojej organizacji? Możemy przygotować wariant dopasowany do wykorzystywanych przez zespół modeli, aplikacji, narzędzi oraz scenariuszy bezpieczeństwa.
Wyślij zapytanie na email: szkolenia@zalnet.pl

Sprawdź także pozostałe szkolenia ZALNET: Zobacz wszystkie szkolenia