Warsztat AI Security – zabezpieczanie lokalnych modeli LLM

Warsztat AI Security – sprawdź, czy lokalne AI naprawdę jest bezpieczne

Trzygodzinny warsztat poświęcony praktycznemu bezpieczeństwu lokalnych modeli językowych. Uruchomimy środowisko, spróbujemy je zaatakować, przeprowadzimy automatyczne testy bezpieczeństwa, a następnie utwardzimy konfigurację i sprawdzimy, czy zastosowane zabezpieczenia rzeczywiście działają.

Nie będziemy ograniczać się wyłącznie do teorii. Najpierw spróbujemy zaatakować środowisko, następnie wdrożymy zabezpieczenia, a na końcu wykonamy te same testy ponownie.

Warsztat AI Security koncentruje się przede wszystkim na praktyce: identyfikacji powierzchni ataku, wykonywaniu testów, analizowaniu zachowania modelu oraz sprawdzaniu skuteczności zastosowanych zabezpieczeń.

Dlaczego bezpieczeństwo lokalnych modeli LLM ma znaczenie?

Uruchomienie modelu lokalnie nie oznacza automatycznie, że środowisko jest bezpieczne.

Lokalny LLM nadal może być częścią aplikacji podatnej na:

• prompt injection,
• wycieki informacji,
• niewłaściwe zarządzanie dostępem,
• błędy konfiguracji,
• problemy związane z zależnościami,
• ryzyka związane z łańcuchem dostaw modeli i oprogramowania.

Podczas warsztatu spojrzymy na bezpieczeństwo nie tylko samego modelu, ale całego środowiska, w którym model jest uruchamiany.

Program warsztatu

Lokalne LLM-y i powierzchnia ataku (15 minut)

Krótkie wprowadzenie do architektury lokalnego środowiska oraz najważniejszych obszarów ryzyka.

• model a aplikacja wykorzystująca model,
• lokalność danych a rzeczywiste bezpieczeństwo,
• prompt injection i niewłaściwe instrukcje,
• sekrety, konfiguracja i dostęp,
• ryzyka zależności i modeli.

Uruchom, zaatakuj i spróbuj wykraść dane (45 minut)

Uruchomimy lokalny model i rozpoczniemy od ręcznych testów ofensywnych. Sprawdzimy, czy możliwe jest obejście instrukcji i wydobycie informacji, których model nie powinien ujawniać.

• uruchomienie środowiska,
• prompt injection,
• obejście instrukcji systemowych,
• próba wycieku wartości CANARY,
• analiza odpowiedzi modelu.

Automatyczny AI Red Teaming z Promptfoo (45 minut)

Ręczne testowanie jest przydatne, ale trudno je powtarzać. Dlatego zbudujemy zestaw automatycznych testów bezpieczeństwa.

• konfiguracja Promptfoo,
• przygotowanie scenariuszy testowych,
• automatyczne wykonywanie testów,
• analiza wyników,
• porównywanie zachowania modelu.

Harden & Retest (45 minut)

Po ataku przejdziemy do obrony. Zmienimy konfigurację i zastosujemy mechanizmy ograniczające ryzyko, a następnie ponownie wykonamy te same scenariusze testowe.

• hardening konfiguracji,
• ograniczanie dostępu,
• ochrona danych i sekretów,
• ponowne uruchomienie testów,
• porównanie wyników przed i po zabezpieczeniu.

Supply chain i końcowa checklista bezpieczeństwa (15 minut)

Na zakończenie spojrzymy na pochodzenie modeli, zależności, biblioteki, aktualizacje i inne elementy, które należy sprawdzić przed użyciem lokalnego LLM-a w środowisku produkcyjnym.

Co zrobisz podczas warsztatu?

Atak

• uruchomisz lokalnego LLM-a,
• przeprowadzisz prompt injection,
• spróbujesz wydobyć chronione informacje,
• uruchomisz automatyczne testy bezpieczeństwa,
• przeanalizujesz zachowanie modelu.

Obrona

• zmienisz konfigurację środowiska,
• zastosujesz mechanizmy zabezpieczające,
• ponownie wykonasz te same testy,
• porównasz wyniki przed i po hardeningu,
• przygotujesz checklistę dalszych działań.

Czego nauczysz się podczas warsztatu AI Security?

Podczas zajęć dowiesz się między innymi:

• jakie zagrożenia pojawiają się przy lokalnym uruchamianiu modeli AI,
• dlaczego lokalny LLM nie oznacza automatycznie bezpiecznego LLM,
• jak identyfikować powierzchnię ataku aplikacji wykorzystującej AI,
• jak testować podatność na prompt injection,
• w jaki sposób może dojść do ujawnienia danych lub instrukcji systemowych,
• jak sprawdzać zachowanie modelu przy złośliwych lub nietypowych danych wejściowych,
• czym jest AI Red Teaming i jak wykorzystać jego techniki w praktyce,
• jak automatyzować testy bezpieczeństwa z wykorzystaniem Promptfoo,
• jak przeprowadzać hardening lokalnego środowiska AI,
• jak ponownie testować rozwiązanie po zastosowaniu zabezpieczeń,
• jakie elementy łańcucha dostaw należy sprawdzić przed wdrożeniem lokalnego LLM-a.

Praktyka zamiast samych slajdów

Celem warsztatu nie jest jedynie pokazanie, że model można zaatakować. Istotną częścią zajęć będzie również analiza przyczyn problemów oraz dobór zabezpieczeń, które mogą realnie ograniczyć ryzyko.

Uczestnicy poznają sposób myślenia charakterystyczny dla AI Red Teamingu: od identyfikacji potencjalnego wektora ataku, przez przygotowanie testu, aż po analizę zachowania modelu i propozycję odpowiednich mechanizmów ochronnych.

Podczas warsztatu będziemy również odwoływać się do współczesnych praktyk bezpieczeństwa aplikacji wykorzystujących generatywną AI oraz podejścia AI Red Teaming.

Wykorzystywane podejście jest zgodne z kierunkiem prac OWASP Generative AI Security Project.

Dla kogo jest ten warsztat?

Warsztat jest przeznaczony dla osób zainteresowanych praktycznym bezpieczeństwem rozwiązań AI, w szczególności dla:

• specjalistów cyberbezpieczeństwa,
• administratorów i inżynierów IT,
• developerów tworzących aplikacje wykorzystujące LLM,
• architektów i DevSecOps,
• osób uruchamiających modele lokalnie,
• osób zainteresowanych AI Red Teamingiem.

Nie musisz być pentesterem ani specjalistą od machine learningu. Przyda się podstawowa swoboda w pracy z narzędziami IT, terminalem i aplikacjami wykorzystującymi modele językowe. Warsztat ma przede wszystkim charakter praktyczny.

Terminy warsztatu

Co otrzymasz?

• 3 godziny praktycznego warsztatu online,
• możliwość udziału w jednym lub obu terminach,
• materiały wykorzystywane podczas ćwiczeń,
• scenariusze testowe AI Security,
• checklistę bezpieczeństwa lokalnego środowiska LLM,
• dostęp do nagrania,
• fakturę VAT.

Poziom i wymagania

Nie musisz być pentesterem ani specjalistą od machine learningu. Przyda się podstawowa swoboda w pracy z narzędziami IT, terminalem i aplikacjami wykorzystującymi modele językowe.

Warsztat został zaprojektowany przede wszystkim jako praktyczne wprowadzenie do bezpieczeństwa lokalnych modeli LLM i AI Red Teamingu.

Szkolenie dla zespołu

Jeśli interesuje Cię ten warsztat w formule zamkniętej dla zespołu, w dłuższej wersji albo z zakresem dopasowanym do potrzeb organizacji,
napisz do nas:
szkolenia@zalnet.pl

Materiały i źródła

Program warsztatu nawiązuje do współczesnych praktyk bezpieczeństwa aplikacji wykorzystujących generatywną AI oraz podejścia
AI Red Teaming.

Podczas omawiania zagadnień będziemy korzystać również z materiałów i dobrych praktyk związanych z:

• OWASP Generative AI Security Project,
• AI Red Teaming,
• testowaniem prompt injection,
• automatyzacją testów bezpieczeństwa modeli AI.

Cena warsztatu