Bezpieczeństwo

Bezpieczeństwo modeli AI/ML — OWASP LLM Top 10 i adversarial ML

Zaawansowane szkolenie z bezpieczeństwa systemów AI i ML obejmujące pełny przegląd OWASP LLM Top 10, techniki adversarial ML oraz red teaming modeli językowych. Program adresuje ataki na modele (prompt injection, data poisoning, model extraction), bezpieczeństwo pipeline'ów MLOps, ochronę danych treningowych z differential privacy i federated learning oraz budowanie bezpiecznych aplikacji AI z guardrails, content filtering i monitoringiem. Uczestnicy przeprowadzają praktyczne ataki i implementują zabezpieczenia w środowisku laboratoryjnym.

Dlaczego warto wybrać to szkolenie?

Szybka adopcja modeli AI i LLM w organizacjach tworzy nową powierzchnię ataku, której tradycyjne podejścia do cyberbezpieczeństwa nie pokrywają. Prompt injection, data poisoning, model extraction czy jailbreaking to realne zagrożenia, które wymagają specjalistycznej wiedzy na styku bezpieczeństwa IT i machine learning. OWASP LLM Top 10 formalizuje te zagrożenia, ale samo ich poznanie nie wystarczy — potrzebna jest praktyczna umiejętność zarówno przeprowadzania ataków, jak i wdrażania zabezpieczeń.

To dwudniowe szkolenie łączy perspektywę ofensywną (adversarial ML, red teaming LLM) z defensywną (guardrails, monitoring, MLOps security). Uczestnicy pracują w przygotowanym środowisku laboratoryjnym, gdzie samodzielnie przeprowadzają ataki na modele i aplikacje AI, a następnie implementują zabezpieczenia. Program adresuje cały cykl życia modelu — od bezpieczeństwa danych treningowych, przez pipeline MLOps, po monitoring produkcyjnych aplikacji AI.

Co wyróżnia nasze podejście?

EITT łączy wieloletnie doświadczenie w szkoleniach z cyberbezpieczeństwa z dynamicznie rozwijającą się wiedzą o zagrożeniach dla systemów AI. Nasi trenerzy to praktycy łączący doświadczenie w testach penetracyjnych z kompetencjami w zakresie ML i LLM — co jest kluczowe w dziedzinie, która wymaga ekspertyzy z obu obszarów jednocześnie. Z zespołem ponad 500 ekspertów i doświadczeniem z ponad 2500 szkoleń budujemy programy, które przekładają się na realne umiejętności obrony systemów AI.

Program jest celowo skondensowany do dwóch intensywnych dni, aby zmaksymalizować czas na ćwiczenia praktyczne. Każdy moduł zawiera scenariusze ataków i obrony realizowane w izolowanym laboratorium. Szkolenie jest dostępne online i stacjonarnie, a uczestnicy otrzymują dostęp do materiałów i narzędzi do dalszego samodzielnego trenowania technik red teamingu AI.

Korzyści

Uczestnik zidentyfikuje i oceni zagrożenia z listy OWASP LLM Top 10 w kontekście własnych wdrożeń
Uczestnik przeprowadzi ataki adversarial ML na modele klasyfikacyjne i generatywne w środowisku lab
Uczestnik wykona red teaming modelu językowego z użyciem technik jailbreaking i prompt leaking
Uczestnik zabezpieczy pipeline MLOps — model registry, supply chain i środowisko treningowe
Uczestnik zaimplementuje guardrails i content filtering chroniące aplikację AI przed nadużyciami
Uczestnik zaprojektuje monitoring bezpieczeństwa AI z wykrywaniem anomalii i alertingiem
Uczestnik zastosuje techniki ochrony prywatności danych treningowych zgodne z RODO

Dla kogo jest to szkolenie?

Inżynierowie bezpieczeństwa odpowiedzialni za ochronę systemów AI

Inżynierowie ML wdrażający modele w środowiskach produkcyjnych

Architekci AI projektujący bezpieczne pipeline'y ML

Specjaliści DevSecOps integrujący bezpieczeństwo w cyklu życia modeli

Pentesterzy rozszerzający kompetencje o ataki na systemy AI

CISO i menedżerowie bezpieczeństwa oceniający ryzyko wdrożeń AI

Wymagania wstępne

Podstawowa znajomość koncepcji AI/ML (modele, trenowanie, inference)
Fundamenty cyberbezpieczeństwa (ataki, obrona, modelowanie zagrożeń)
Podstawowa znajomość Pythona (wymagana do ćwiczeń laboratoryjnych)
Znajomość API modeli językowych (OpenAI, Anthropic lub inne) będzie pomocna

Program szkolenia

Przegląd OWASP LLM Top 10 — klasyfikacja zagrożeń dla aplikacji LLM
Prompt injection — direct i indirect, techniki ataku i obrony
Data poisoning — manipulacja danymi treningowymi i fine-tuningowymi
Model Denial of Service — resource exhaustion i query-based DoS
Supply chain vulnerabilities — zagrożenia w zależnościach i modelach pre-trained
Insecure output handling i excessive agency — ograniczanie uprawnień LLM

Taksonomia ataków adversarial ML — evasion, poisoning, extraction, inference
Evasion attacks — perturbacje wejścia oszukujące klasyfikatory
Model extraction — kradzież modelu przez systematyczne odpytywanie API
Model inversion — odtwarzanie danych treningowych z odpowiedzi modelu
Membership inference — sprawdzanie czy konkretne dane były w zbiorze treningowym
Narzędzia do adversarial ML — ART, Foolbox, TextAttack

Metodologia red teamingu modeli językowych
Jailbreaking — techniki omijania zabezpieczeń LLM (DAN, roleplay, encoding)
Prompt leaking — ekstrakcja system promptów i instrukcji
Automatyzacja red teamingu — narzędzia i frameworki (Garak, PyRIT)
Raportowanie podatności AI — format, severity i rekomendacje
Budowanie programu red team AI w organizacji

Zagrożenia w pipeline'ach MLOps — od danych po deployment
Bezpieczeństwo model registry — podpisywanie, wersjonowanie i kontrola dostępu
Supply chain security — weryfikacja modeli z Hugging Face i Model Zoo
Bezpieczeństwo środowisk treningowych — izolacja, monitoring i audyt
CI/CD dla ML — skanowanie podatności i testy bezpieczeństwa w pipeline
Zarządzanie sekretami i credentialami w workflow ML

Zagrożenia dla prywatności danych treningowych — wycieki i rekonstrukcja
Differential privacy — zasada działania i implementacja w trenowaniu modeli
Federated learning — trenowanie bez centralizacji danych
Anonimizacja i pseudonimizacja danych treningowych
Zgodność z RODO/GDPR w kontekście systemów AI
Audyt danych treningowych — wykrywanie PII i danych wrażliwych

Architektura bezpiecznej aplikacji AI — defense in depth
Guardrails — walidacja wejścia i wyjścia, ograniczenia tematyczne
Content filtering — wykrywanie treści szkodliwych, toksycznych i wrażliwych
Monitoring bezpieczeństwa AI — anomaly detection i alerting
Incident response dla systemów AI — procedury i playbooki
Compliance i governance — polityki bezpieczeństwa AI w organizacji

Formy realizacji

Online

Wygoda uczestnictwa z dowolnego miejsca
Interaktywne sesje na żywo z trenerem
Materiały dostępne przez 30 dni
Brak kosztów dojazdu

Stacjonarnie

Bezpośredni kontakt z trenerem i grupą
Intensywne warsztaty praktyczne
Networking z innymi uczestnikami
Pełne skupienie na nauce

Tematy szkolenia

OWASP LLM Top 10 Prompt injection — direct i indirect Data poisoning i supply chain attacks Adversarial ML — evasion i extraction Model inversion i membership inference Red teaming LLM i jailbreaking MLOps security i model registry Differential privacy i federated learning Guardrails i content filtering Monitoring bezpieczeństwa AI Incident response dla systemów AI Compliance AI i RODO/GDPR

Najczęściej zadawane pytania

Czy szkolenie obejmuje praktyczne ataki na modele AI, czy tylko teorię?

Szkolenie ma silny komponent praktyczny. Uczestnicy przeprowadzają ataki adversarial ML na modele klasyfikacyjne, wykonują red teaming modeli językowych z technikami jailbreaking i prompt leaking, testują prompt injection na przygotowanych aplikacjach AI oraz implementują zabezpieczenia — guardrails, content filtering i monitoring. Wszystkie ćwiczenia realizowane są w izolowanym środowisku laboratoryjnym.

Dla kogo przeznaczone jest to szkolenie — pentesterów czy inżynierów ML?

Szkolenie jest zaprojektowane dla obu grup i celowo łączy perspektywę ofensywną z defensywną. Pentesterzy poznają specyfikę ataków na systemy AI (adversarial ML, jailbreaking, prompt injection), a inżynierowie ML nauczą się zabezpieczać pipeline'y i aplikacje przed tymi atakami. Wartość szkolenia polega na zrozumieniu obu stron — atakującego i broniącego.

Czy OWASP LLM Top 10 jest omawiane w najnowszej wersji?

Tak — program szkolenia jest aktualizowany zgodnie z najnowszą opublikowaną wersją OWASP LLM Top 10. Omawiamy każdą z dziesięciu kategorii zagrożeń z konkretnymi przykładami ataków, rzeczywistymi incydentami i rekomendacjami zabezpieczeń. Szkolenie wykracza poza sam dokument OWASP, dodając kontekst adversarial ML i praktyczny red teaming.

Jak szkolenie adresuje zgodność z RODO w kontekście systemów AI?

Moduł poświęcony prywatności danych treningowych bezpośrednio adresuje wymagania RODO/GDPR — omawiamy differential privacy jako mechanizm ochrony danych w procesie trenowania, federated learning jako alternatywę dla centralizacji danych, techniki anonimizacji zbiorów treningowych oraz audyt wykrywający PII. Nie jest to szkolenie prawne, ale uczestnicy poznają techniczne mechanizmy wspierające zgodność.

Dlaczego warto wybrać szkolenie z bezpieczeństwa AI w EITT?

EITT dysponuje zespołem ponad 500 ekspertów IT i doświadczeniem z ponad 2500 zrealizowanych szkoleń, w tym z zakresu cyberbezpieczeństwa i AI. Szkolenie z bezpieczeństwa AI prowadzą specjaliści łączący doświadczenie w pentestach z wiedzą o systemach ML — co jest kluczowe w tej interdyscyplinarnej dziedzinie. Program jest regularnie aktualizowany o najnowsze techniki ataków i zabezpieczeń, w tym aktualne wersje OWASP LLM Top 10.