Bezpieczeństwo lokalnych modeli LLM – 3-dniowe szkolenie AI Security i Red Teaming

Bezpieczeństwo lokalnych modeli LLM to praktyczne, trzydniowe szkolenie poświęcone testowaniu, zabezpieczaniu i monitorowaniu lokalnych modeli językowych oraz aplikacji wykorzystujących generatywną sztuczną inteligencję. Uczestnicy poznają najważniejsze zagrożenia związane z lokalnym AI, nauczą się identyfikować powierzchnię ataku, przeprowadzać ręczne i automatyczne testy bezpieczeństwa, wykonywać AI Red Teaming, zabezpieczać aplikacje i środowiska RAG, analizować supply chain, przeprowadzać hardening oraz weryfikować skuteczność zastosowanych zabezpieczeń poprzez retest.czestnicy poznają najważniejsze zagrożenia związane z lokalnym AI, nauczą się identyfikować powierzchnię ataku, przeprowadzać ręczne i automatyczne testy bezpieczeństwa, wykonywać AI Red Teaming, zabezpieczać aplikacje i środowiska RAG, analizować supply chain, przeprowadzać hardening oraz weryfikować skuteczność zastosowanych zabezpieczeń poprzez retest. Szkolenie ma charakter praktyczny i prowadzi uczestnika przez cały proces: Identyfikacja → Atak → Test → Analiza → Hardening → Retest → Monitorowanie.

Bezpieczeństwo lokalnych modeli LLM – 3-dniowe szkolenie AI Security ZALNET

Bezpieczeństwo lokalnych modeli LLM – podstawowe informacje

Kod programu: AI-LLM-SEC-01
Kategoria: AI / RED TEAM
Czas trwania: 3 dni / 24 godziny (9:00–17:00, z przerwami)
Poziom zaawansowania: Podstawowy / średniozaawansowany
Termin: Do ustalenia
Lokalizacja: Zdalnie / Stacjonarnie / Hybrydowo
Język: PL / EN
Charakter: Praktyczny
Trenerka: Beata Zalewa

ZAPYTAJ O SZKOLENIE

Dlaczego warto wybrać szkolenie z bezpieczeństwa lokalnych modeli LLM?

Cele i założenia edukacyjne

Celem szkolenia jest przekazanie uczestnikom praktycznej wiedzy i umiejętności w zakresie identyfikacji zagrożeń związanych z lokalnymi modelami LLM, przeprowadzania testów bezpieczeństwa, AI Red Teamingu oraz budowania skutecznych mechanizmów ochronnych.

Uczestnicy nauczą się, jak analizować powierzchnię ataku, przygotowywać scenariusze testowe, automatyzować testy, przeprowadzać hardening, analizować RAG i supply chain oraz monitorować środowisko AI po wdrożeniu.

Szkolenie z zakresu bezpieczeństwa lokalnych modeli LLM nie koncentruje się wyłącznie na samym modelu. Analizujemy cały łańcuch bezpieczeństwa: model → aplikacja → API → dane → RAG → infrastruktura → użytkownik.

Dla kogo przeznaczone jest szkolenie z bezpieczeństwa lokalnych modeli LLM?

  • Specjaliści ds. bezpieczeństwa IT, AI Security i DevSecOps.
  • Administratorzy i inżynierowie IT.
  • Programiści tworzący aplikacje wykorzystujące LLM.
  • Architekci rozwiązań AI i aplikacji wykorzystujących modele językowe.
  • Osoby wdrażające lokalne modele AI oraz rozwiązania RAG.
  • Osoby odpowiedzialne za bezpieczeństwo i ocenę ryzyka rozwiązań AI.
  • Osoby zainteresowane AI Red Teamingiem i testowaniem odporności modeli.
  • Brak wymagań wstępnych: nie jest wymagana wcześniejsza wiedza z zakresu profesjonalnego Red Teamingu ani Machine Learning.

Efekty udziału w szkoleniu

  • Poznasz najważniejsze zagrożenia związane z lokalnymi modelami LLM oraz aplikacjami wykorzystującymi generatywną AI.
  • Nauczysz się identyfikować powierzchnię ataku lokalnego środowiska AI.
  • Przeprowadzisz praktyczne testy prompt injection oraz próby ujawnienia chronionych informacji.
  • Nauczysz się wykorzystywać Promptfoo do automatyzacji testów bezpieczeństwa modeli.
  • Poznasz metodologię AI Red Teamingu i projektowania własnych scenariuszy testowych.
  • Nauczysz się wykonywać hardening lokalnego środowiska oraz weryfikować jego skuteczność poprzez retest.
  • Poznasz zagrożenia związane z bezpieczeństwem aplikacji, API, danych i sekretów wykorzystywanych przez LLM.
  • Zrozumiesz specyfikę bezpieczeństwa architektury RAG i ryzyka związane z niezaufanymi dokumentami oraz źródłami danych.
  • Poznasz zagadnienia związane z bezpieczeństwem supply chain modeli, bibliotek, zależności i artefaktów.
  • Nauczysz się projektować mechanizmy monitoringu i wykrywania prób ataku.
  • Połączysz testowanie, hardening, monitoring i reakcję na incydenty w jeden proces bezpieczeństwa AI.
  • Przygotujesz uproszczony AI Security Assessment dla badanego środowiska.

Co otrzymasz po zakończeniu?

  • Kompleksowe materiały szkoleniowe.
  • Materiały i scenariusze wykorzystywane podczas laboratoriów.
  • Checklistę bezpieczeństwa lokalnego środowiska LLM.
  • Checklistę bezpieczeństwa supply chain.
  • Przykładowe scenariusze AI Red Teamingu.
  • Materiały dotyczące testowania, hardeningu i retestu.
  • Imienny certyfikat uczestnictwa potwierdzający udział w szkoleniu.
ZAPISZ SIĘ NA SZKOLENIE

Szczegółowy program bezpieczeństwa lokalnych modeli LLM

Dzień 1 – ATAK: rozpoznanie i testowanie lokalnego AI

Moduł 1: Lokalne LLM-y i powierzchnia ataku

  • Architektura lokalnego środowiska AI.
  • Model, uruchomienie i serwer inferencji.
  • Model a aplikacja wykorzystująca model.
  • API i interfejs użytkownika.
  • System prompt, instrukcje i kontekst.
  • Dane wejściowe i wyjściowe.
  • Sekrety, konfiguracja i uprawnienia.
  • Zależności i łańcuch dostaw.

LAB 1 – Mapowanie powierzchni ataku lokalnego LLM

  • Identyfikacja aktywów.
  • Określenie punktów wejścia.
  • Wyznaczenie granic zaufania.
  • Wskazanie potencjalnych wektorów ataku.
  • Przygotowanie pierwszej mapy powierzchni ataku.

Moduł 2: Prompt Injection i manipulacja zachowaniem modelu

  • Direct prompt injection.
  • Indirect prompt injection.
  • Konflikt instrukcji.
  • Zaufane i niezaufane dane.
  • Manipulacja kontekstem.
  • Obejście instrukcji systemowych.
  • Testowanie odporności modelu na złośliwe dane wejściowe.

LAB 2 – Prompt Injection Challenge

  • Przygotowanie scenariuszy ofensywnych.
  • Próby modyfikacji zachowania modelu.
  • Próby ujawnienia instrukcji systemowych.
  • Próby uzyskania niepożądanych odpowiedzi.
  • Analiza skuteczności poszczególnych technik.

Moduł 3: AI Red Teaming – metodologia i projektowanie ataku

  • Cel i metodologia AI Red Teamingu.
  • Identyfikacja aktywów chronionych przez aplikację.
  • Określenie celu ataku.
  • Przygotowanie scenariusza testowego.
  • Kryteria sukcesu ataku.
  • Severity i priorytetyzacja problemów.
  • Dokumentowanie wyników.

LAB 3 – Atak CANARY

  • Uruchomienie lokalnego modelu.
  • Ręczna próba ataku.
  • Prompt injection.
  • Próba obejścia instrukcji systemowych.
  • Próba wydobycia wartości CANARY.
  • Analiza odpowiedzi modelu.
  • Identyfikacja przyczyny podatności.

Podsumowanie dnia 1

Po pierwszym dniu uczestnicy posiadają przygotowaną mapę powierzchni ataku, zestaw scenariuszy ofensywnych oraz pierwsze wyniki testów bezpieczeństwa.

Dzień 2 – TEST: automatyzacja, aplikacja, RAG i supply chain

Moduł 4: Automatyczne testowanie bezpieczeństwa lokalnych modeli LLM

  • Dlaczego ręczne testy nie wystarczają.
  • Automatyzacja powtarzalnych scenariuszy.
  • Testy regresyjne.
  • Generowanie przypadków testowych.
  • Scoring i ocena wyników.
  • Porównywanie różnych wersji modelu.

LAB 4 – Automatyczny AI Red Teaming z Promptfoo

  • Konfiguracja środowiska testowego.
  • Integracja z testowanym modelem.
  • Tworzenie scenariuszy testowych.
  • Automatyczne wykonywanie testów.
  • Testy prompt injection.
  • Testy ujawniania informacji.
  • Analiza i raportowanie wyników.

Moduł 5: Bezpieczeństwo aplikacji wykorzystującej lokalny LLM

  • Bezpieczeństwo API.
  • Uwierzytelnianie i autoryzacja.
  • Uprawnienia.
  • Rate limiting.
  • Walidacja danych wejściowych.
  • Bezpieczeństwo outputu modelu.
  • Izolacja procesów i środowiska.
  • Rozdzielenie modelu od pozostałych komponentów aplikacji.

LAB 5 – Attack the Application

  • Analiza przepływu użytkownik → API → aplikacja → LLM.
  • Identyfikacja punktów wejścia.
  • Testowanie mechanizmów dostępu.
  • Analiza uprawnień.
  • Wskazanie podatności niezależnych od samego modelu.

Moduł 6: Dane, sekrety i informacje wrażliwe

  • Klucze API, tokeny i hasła.
  • Dane użytkowników.
  • Pliki i dokumenty.
  • Logi i dane diagnostyczne.
  • Prompt i output jako źródło informacji.
  • Ograniczanie dostępu modelu do zasobów.
  • Zasada minimalnych uprawnień.

Moduł 7: RAG i bezpieczeństwo danych w lokalnych modelach LLM

  • Architektura Retrieval-Augmented Generation.
  • Dokumenty jako źródło danych dla modelu.
  • Niezaufane dokumenty.
  • Indirect prompt injection.
  • Ryzyko ujawnienia informacji.
  • Kontrola dostępu do źródeł danych.
  • Filtrowanie i walidacja treści.

LAB 6 – Zatruwanie danych (Data poisoning)

  • Analiza przepływu użytkownik → RAG → dokument → LLM → odpowiedź.
  • Praca z niezaufanym dokumentem.
  • Sprawdzenie wpływu treści dokumentu na odpowiedź modelu.
  • Identyfikacja ryzyka indirect prompt injection.
  • Dobór mechanizmów ochronnych.

Moduł 8: Bezpieczeństwo supply chain lokalnego AI

  • Pochodzenie modeli.
  • Repozytoria i źródła modeli.
  • Pliki modeli i artefakty.
  • Biblioteki i zależności.
  • Obrazy kontenerowe.
  • Aktualizacje i wersjonowanie.
  • Integralność artefaktów.

LAB 7 – Model Supply Chain Audit

  • Analiza źródła przykładowego modelu.
  • Weryfikacja zależności.
  • Identyfikacja potencjalnych punktów ryzyka.
  • Ocena procesu aktualizacji.
  • Przygotowanie checklisty supply chain.

Moduł 9: Ocena ryzyka bezpieczeństwa lokalnego AI

  • Threat.
  • Asset.
  • Impact.
  • Likelihood.
  • Risk.
  • Control.
  • Priorytetyzacja podatności.

Warsztat – Analiza ryzyka (Risk Assessment)

  • Analiza wybranych podatności z dni 1–2.
  • Określenie wpływu problemu.
  • Określenie prawdopodobieństwa wykorzystania.
  • Przypisanie poziomu ryzyka.
  • Dobór mechanizmu ochronnego.

Podsumowanie dnia 2

Po drugim dniu uczestnicy posiadają automatyczny zestaw testów, wyniki analizy aplikacji, ocenę ryzyka RAG oraz checklistę bezpieczeństwa supply chain.

Dzień 3 – DEFEND: hardening, monitoring i pełny AI Security Assessment

Moduł 10: Hardening & Retest – zabezpieczanie lokalnych modeli LLM

  • Analiza przyczyny podatności.
  • Hardening konfiguracji.
  • Ograniczanie dostępu.
  • Ochrona danych i sekretów.
  • Zmiana konfiguracji aplikacji.
  • Minimalizacja uprawnień.
  • Testy regresyjne po wdrożeniu zabezpieczeń.

LAB 8 – Harden & Retest

  • Wybór podatności wykrytych wcześniej.
  • Zastosowanie zabezpieczeń.
  • Ponowne uruchomienie tych samych testów.
  • Porównanie wyników przed i po hardeningu.
  • Ocena skuteczności zabezpieczeń.

Moduł 11: Monitoring bezpieczeństwa lokalnych modeli LLM

  • Monitoring promptów.
  • Monitoring odpowiedzi.
  • Wykrywanie prób prompt injection.
  • Nietypowe zachowania użytkowników.
  • Logi bezpieczeństwa.
  • Alertowanie.
  • Retencja danych.
  • Reakcja na incydenty.

LAB 9 – Wykrywanie ataku

  • Analiza przygotowanych logów.
  • Wykrywanie śladów ataku.
  • Identyfikacja rodzaju ataku.
  • Ocena skutków.
  • Przygotowanie reakcji na incydent.

Moduł 12: Bezpieczny cykl życia lokalnego LLM

  • Plan – threat modeling i wymagania bezpieczeństwa.
  • Select – wybór modelu i weryfikacja źródła.
  • Deploy – bezpieczne uruchomienie.
  • Test – AI Red Teaming i testy regresyjne.
  • Harden – usuwanie podatności.
  • Monitor – obserwacja działania.
  • Respond – reakcja na incydent.
  • Retest – ponowne testowanie po zmianach.

Moduł 13: Raportowanie wyników AI Red Teamingu

  • Executive Summary.
  • Opis podatności.
  • Dowód podatności.
  • Wpływ.
  • Poziom ryzyka.
  • Rekomendacja.
  • Status po remediacji.
  • Wynik retestu.

LAB 10 – Pełny AI Security Assessment

  • Rozpoznanie badanego środowiska.
  • Identyfikacja aktywów.
  • Określenie powierzchni ataku.
  • Wybór wektorów ataku.
  • Przeprowadzenie testów.
  • Automatyzacja wybranych testów.
  • Analiza wyników.
  • Hardening.
  • Retest.
  • Monitoring.
  • Dokumentowanie wyników.

LAB 11 – Red Team vs Blue Team

  • Podział uczestników na Red Team i Blue Team.
  • Red Team identyfikuje i wykorzystuje podatności.
  • Blue Team analizuje zachowanie środowiska.
  • Wykrywanie i reakcja na atak.
  • Hardening zabezpieczeń.
  • Ponowny atak.
  • Retest.

Moduł 14: Końcowy przegląd – AI Security Assessment

  • Przegląd wszystkich wyników testów.
  • Ocena najważniejszych zagrożeń.
  • Ocena skuteczności zastosowanych zabezpieczeń.
  • Analiza pozostałego ryzyka.
  • Przygotowanie planu dalszych działań.

Moduł 15: Podsumowanie bezpieczeństwa lokalnych modeli LLM

  • Podsumowanie najważniejszych zagrożeń.
  • Omówienie wyników laboratoriów.
  • Końcowa checklista bezpieczeństwa lokalnego LLM.
  • Checklista supply chain.
  • Rekomendacje dotyczące dalszego testowania.
  • Sesja Q&A.

Praktyczne laboratoria bezpieczeństwa lokalnych modeli LLM

Trzydniowe szkolenie obejmuje 11 laboratoriów praktycznych. Każdy dzień kończy się konkretnym rezultatem, który jest wykorzystywany w kolejnych etapach szkolenia.

Dzień 1 – Atak

  • LAB 1: Mapowanie powierzchni ataku.
  • LAB 2: Prompt Injection Challenge.
  • LAB 3: Atak CANARY.

Dzień 2 – Test

  • LAB 4: Automatyczny AI Red Teaming z Promptfoo.
  • LAB 5: Attack the Application.
  • LAB 6: Zatruwanie danych – RAG Security.
  • LAB 7: Model Supply Chain Audit.

Dzień 3 – Defend

  • LAB 8: Hardening & Retest.
  • LAB 9: Wykrywanie ataku.
  • LAB 10: Pełny AI Security Assessment.
  • LAB 11: Red Team vs Blue Team.

Metoda pracy – bezpieczeństwo lokalnych modeli LLM w praktyce

Szkolenie zostało zaprojektowane tak, aby uczestnik nie tylko poznawał zagrożenia, ale również samodzielnie je testował, analizował i usuwał.

Pierwszego dnia skupiamy się na ataku i poznaniu powierzchni ataku. Drugiego dnia przechodzimy do systematycznego testowania i analizy całego środowiska. Trzeci dzień poświęcamy obronie, hardeningowi, monitoringowi oraz sprawdzeniu, czy zastosowane zabezpieczenia rzeczywiście działają.

Atak → Test → Analiza → Hardening → Retest → Monitor

Co uczestnik będzie potrafił po szkoleniu z bezpieczeństwa lokalnych modeli LLM?

  • Zidentyfikować powierzchnię ataku lokalnego środowiska AI.
  • Rozpoznać podstawowe podatności aplikacji wykorzystujących LLM.
  • Przeprowadzić testy prompt injection.
  • Przeprowadzić podstawowy AI Red Teaming lokalnego modelu.
  • Zautomatyzować wybrane scenariusze testowe z wykorzystaniem Promptfoo.
  • Analizować wyniki testów bezpieczeństwa modeli.
  • Ocenić bezpieczeństwo aplikacji wykorzystującej lokalny LLM.
  • Ocenić podstawowe ryzyka związane z RAG.
  • Ocenić podstawowe ryzyka związane z supply chain.
  • Wykonać hardening środowiska.
  • Przeprowadzić retest po wdrożeniu zabezpieczeń.
  • Zaprojektować podstawowy monitoring bezpieczeństwa lokalnego LLM.
  • Przygotować uproszczony AI Security Assessment.
  • Przygotować rekomendacje dotyczące dalszego zabezpieczenia środowiska.

Materiały i źródła dotyczące bezpieczeństwa lokalnych modeli LLM

Program szkolenia odwołuje się do praktyk związanych z bezpieczeństwem aplikacji wykorzystujących generatywną AI oraz AI Red Teamingiem. Przy omawianiu zagrożeń korzystamy między innymi z materiałów OWASP GenAI Security Project. W części dotyczącej automatyzacji testów uczestnicy pracują z narzędziami typu Promptfoo.

Autorką szkolenia jest Beata Zalewa

Od wielu lat pracuję jako architekt techniczna, a ponadto od 2010 roku działam jako certyfikowana trenerka Microsoft (MCT). Założyłam firmę ZALNET, w której kładę największy nacisk na edukację technologiczną. Na co dzień uczę, w jaki sposób skutecznie dbać o odporność organizacji. Więcej o trenerce →

ZAPISZ SIĘ NA SZKOLENIE