Szkolenie AI Red Teaming z wykorzystaniem narzędzi Microsoft

AI Red Teaming z wykorzystaniem narzędzi Microsoft to szkolenie, które koncentruje się na zagadnieniach bezpieczeństwa sztucznej inteligencji oraz praktykach AI Red Teaming z wykorzystaniem narzędzi Microsoft, takich jak Azure AI Red Teaming Agent i PyRIT. Uczestnicy poznają typowe zagrożenia związane z generatywną AI, nauczą się przeprowadzać testy odporności modeli oraz integrować je z cyklem DevSecOps. Szkolenie ma charakter praktyczny i nie wymaga wcześniejszego doświadczenia z AI.

AI Red Teaming – podstawowe informacje

Kod programu: AI-RED-TEAM-01
Kategoria: AI, Red Team
Czas trwania: 2 dni / 16 godzin (9:00 – 17:00)
Poziom zaawansowania: Średniozaawansowany
Termin: Do ustalenia
Lokalizacja: Zdalnie/Stacjonarnie/Hybrydowo
Język: PL/EN
Trenerka: Beata Zalewa

Dlaczego warto wybrać kurs AI Red Teaming?

Cele i założenia edukacyjne

Celem szkolenia jest przekazanie uczestnikom wiedzy i umiejętności w zakresie identyfikacji zagrożeń związanych z AI, przeprowadzania testów odporności modeli oraz integracji praktyk AI Red Teaming z procesami DevSecOps.

Dla kogo przeznaczone jest szkolenie AI Red Teaming z wykorzystaniem narzędzi Microsoft?

• Specjaliści ds. bezpieczeństwa IT i DevSecOps.
• Architekci rozwiązań AI i inżynierowie danych.
• Liderzy zespołów odpowiedzialnych za wdrażanie AI.
• Osoby odpowiedzialne za zgodność, ryzyko i audyt technologiczny.
• Programiści i analitycy zainteresowani testowaniem odporności modeli AI.
• Brak wymagań wstępnych: Nie jest wymagana wcześniejsza wiedza z zakresu AI ani programowania.

Efekty udziału w zajęciach

• Poznasz zaawansowaną metodologię oraz architekturę i specyfikację techniczną narzędzi firmy Microsoft, takich jak MS PYRIT oraz AI Red Teaming Agent.
• Będziesz potrafił samodzielnie skonfigurować dedykowane środowisko testowe i zintegrować je z interfejsami API badanych modeli w celu pełnej automatyzacji testów penetracyjnych.
• Nauczysz się projektować i przeprowadzać złożone symulacje ataków (m.in. jailbreaking, prompt injection czy manipulacja kontekstem) oraz oceniać odporność systemów AI za pomocą automatycznych ewaluatorów.
• Zrozumiesz naturę specyficznych podatności oraz wektorów zagrożeń charakterystycznych dla generatywnej sztucznej inteligencji (LLM).
• Uświadomisz sobie kluczową rolę ciągłego testowania i monitorowania modeli w procesie bezpiecznego oraz zgodnego z zasadami Responsible AI wdrażania technologii w organizacji.

Co otrzymasz po zakończeniu?

• Kompleksowe materiały szkoleniowe.
• Imienny certyfikat uczestnictwa potwierdzający nabytą wiedzę.

Szczegółowy program szkolenia

Moduł 1: Wprowadzenie i cele szkolenia

• Przedstawienie programu, celów i wartości szkolenia.
• Kontekst rosnącego znaczenia bezpieczeństwa AI.
• Rola Red Teamingu w nowoczesnych organizacjach.

Moduł 2: Wprowadzenie do zagrożeń AI i podejścia „shift-left”

• Typowe zagrożenia związane z generatywną AI.
• Znaczenie wczesnego wykrywania ryzyk w cyklu rozwoju.
• Koncepcja „świadomej AI” i jej wpływ na strategię bezpieczeństwa.

Moduł 3: Red Teaming AI – podstawy i strategie ataku

• Techniki Red Teamingu w kontekście AI.
• Metody omijania zabezpieczeń: Jailbreak, manipulacja promptami.
• Kodowanie danych wejściowych: Base64, Unicode, Leetspeak.

Moduł 4: Testowanie odporności modeli z Microsoft PYRIT

• Instalacja MS PYRIT, integracja z API testowanych modeli oraz konfiguracja baz danych do logowania testów.
• Praca z targetami (Targets), orkiestratorami (Orchestrators) oraz automatycznymi ewaluatorami (Scorers).
• Tworzenie powtarzalnych strategii testowych (np. generowanie promptów adversarialnych) i automatyczna analiza podatności AI.

Moduł 5: Symulacja cyberataków za pomocą AI Red Teaming Agent

• Uruchomienie i parametryzacja AI Red Teaming Agent w chmurze Microsoft pod kątem specyfiki testowanej aplikacji.
• Wykorzystanie agenta do wyszukiwania podatności na jailbreaking, prompt injection oraz manipulację kontekstem w trybie zamkniętej pętli (closed-loop).
• Przegląd wygenerowanych logów, ocena poziomu ryzyka systemu AI oraz automatyzacja testów regresyjnych.

Moduł 6: Symulacja ataków – Jailbreak, Base64, Leetspeak, Unicode

• Ćwiczenia praktyczne z wykorzystaniem zestawów danych.
• Symulacja ataków na modele językowe.
• Identyfikacja luk w zabezpieczeniach.

Moduł 7: Ocena ryzyka i analiza odpowiedzi modeli AI

• Analiza wyników testów.
• Identyfikacja treści szkodliwych i nieetycznych.
• Metryki skuteczności ataków.

Moduł 8: Automatyzacja testów i integracja z cyklem DevSecOps

• Integracja Red Teamingu z CI/CD.
• Dobre praktyki bezpieczeństwa w pipeline’ach.
• Przykłady automatyzacji testów.

Moduł 9: Przyszłość AI jako wektor zagrożeń i przewaga strategiczna

• AI jako narzędzie innowacji i źródło zagrożeń.
• Red Teaming jako przewaga konkurencyjna.
• Trendy w zabezpieczaniu modeli AI.

Moduł 10: Podsumowanie, pytania i dalsze kroki

• Podsumowanie kluczowych zagadnień i wnioski.
• Sesja Q&A.
• Materiały dodatkowe i rekomendacje.

Autorką szkolenia jest Beata Zalewa

Od wielu lat pracuję jako architekt techniczna, a ponadto od 2010 roku działam jako certyfikowana trenerka Microsoft (MCT). Co więcej, założyłam firmę ZALNET, w której kładę największy nacisk na edukację technologiczną. Na co dzień uczę, w jaki sposób skutecznie dbać o odporność organizacji. Więcej o trenerce →