Bezpieczeństwo AI/LLM i agentów AI w automatyzacji procesów – Prompt Injection, Guardrails, API/MCP Security i AI Gateway

Ramowy program usługi

Szkolenie obejmuje zagadnienia związane z identyfikacją zagrożeń, oceną ryzyka oraz doborem zabezpieczeń dla rozwiązań wykorzystujących sztuczną inteligencję, modele językowe (LLM) i agentów AI w procesach automatyzacji przedsiębiorstw.

Program realizowany jest w formie wykładowo-demonstracyjnej, z wykorzystaniem prezentacji multimedialnych, przykładów praktycznych oraz wybranych demonstracji technicznych wykonywanych przez trenera na żywo. Zakres demonstracji i wykorzystywane narzędzia mogą być dostosowywane do omawianych zagadnień.

Dzień 1 – Zagrożenia i bezpieczeństwo systemów AI/LLM - godz. 16:30–20:30

1. Architektura systemów AI/LLM i podstawy bezpieczeństwa
   • Podstawowe zasady działania i architektury systemów wykorzystujących AI.
   • Identyfikacja zagrożeń oraz obszarów wymagających ochrony.
2. Ataki na modele językowe i aplikacje AI
   • Charakterystyka wybranych technik ataków, w tym Prompt Injection i Jailbreak.
   • Przykładowe scenariusze ataków oraz ich potencjalne konsekwencje.
3. Zagrożenia związane z danymi i zewnętrznymi źródłami informacji
   • Ryzyka wynikające z przetwarzania niezaufanych danych.
   • Możliwości nieuprawnionego ujawnienia lub wykorzystania informacji.
4. Bezpieczeństwo agentów AI i integracji z systemami przedsiębiorstwa
   • Zagrożenia związane z autonomicznym działaniem agentów AI.
   • Ryzyka dotyczące narzędzi, interfejsów API, integracji i uprawnień.

Dzień 2 – Ocena ryzyka i mechanizmy zabezpieczające - godz. 16:30–20:30

1. Ocena ryzyka i modelowanie zagrożeń
   • Identyfikacja i analiza ryzyka związanego z wykorzystaniem AI w automatyzacji.
   • Podejście do planowania zabezpieczeń systemów AI.
2. Mechanizmy ochrony systemów AI/LLM
   • Omówienie wybranych metod ograniczania zagrożeń i niepożądanych zachowań modeli.
   • Zastosowanie mechanizmów kontroli, filtrowania i walidacji danych.
3. Bezpieczeństwo dostępu do zasobów i usług
   • Zasady ochrony kluczy API, poświadczeń i innych sekretów.
   • Zarządzanie dostępem, uprawnieniami oraz ograniczanie ryzyka ich nadużycia.
4. Centralne zarządzanie bezpieczeństwem integracji AI
   • Rola rozwiązań klasy AI/API/MCP Security Gateway.
   • Przykładowe możliwości kontroli dostępu, zarządzania poświadczeniami i egzekwowania polityk bezpieczeństwa.

Dzień 3 – Monitorowanie, testowanie i bezpieczne wdrażanie AI - godz. 16:30–20:30

1. Kontrola dostępu i zabezpieczanie integracji AI
   • Wybrane rozwiązania służące ograniczaniu uprawnień i kontroli operacji agentów AI.
   • Przykładowe zastosowania polityk bezpieczeństwa i mechanizmów audytu.
2. Monitoring, audyt i reagowanie na incydenty
   • Zasady monitorowania bezpieczeństwa systemów wykorzystujących AI.
   • Identyfikacja zdarzeń bezpieczeństwa i podstawowe działania związane z reagowaniem na incydenty.
3. Testowanie bezpieczeństwa systemów AI/LLM
   • Metody i podejścia do weryfikacji bezpieczeństwa rozwiązań AI.
   • Przykładowe scenariusze testowe oraz ocena skuteczności zastosowanych zabezpieczeń.
4. Bezpieczne wdrażanie AI w przedsiębiorstwie
   • Dobre praktyki projektowania i wdrażania bezpiecznych rozwiązań AI.
   • Podsumowanie zasad ograniczania ryzyka w procesach automatyzacji.
5. Walidacja efektów uczenia się
   • Indywidualny test teoretyczny online z wynikiem generowanym automatycznie.
   • Weryfikacja wiedzy dotyczącej zagrożeń, oceny ryzyka i mechanizmów zabezpieczania systemów AI.

Każdy uczestnik otrzyma elektroniczne materiały szkoleniowe udostępnione online, odnoszące się bezpośrednio do zakresu realizowanej usługi.

Materiały obejmują w szczególności:

• prezentację wykorzystywaną podczas szkolenia,
• zestawienie najważniejszych zagrożeń bezpieczeństwa systemów AI/LLM i agentów AI,
• checklistę zabezpieczeń dla systemów wykorzystujących AI,
• zestawienie przykładowych mechanizmów Guardrails oraz kontroli wejścia i wyjścia,
• schemat przykładowej bezpiecznej architektury aplikacji AI/LLM,
• schemat zastosowania warstwy AI/API/MCP Security Gateway,
• materiały dotyczące bezpiecznego zarządzania kluczami API, sekretami i uprawnieniami,
• przykładowe fragmenty konfiguracji lub kodu prezentowane przez trenera podczas demonstracji,
• zestaw materiałów referencyjnych umożliwiających dalsze samodzielne rozwijanie wiedzy po szkoleniu.

Uczestnik powinien posiadać podstawową wiedzę dotyczącą systemów informatycznych oraz podstawowych zastosowań sztucznej inteligencji.

Nie jest wymagana znajomość programowania, doświadczenie w testach penetracyjnych ani posiadanie własnych kont w usługach chmurowych lub dostępu do płatnych modeli AI.

Wszystkie demonstracje techniczne, w tym uruchamianie skryptów, prezentacja działania narzędzi, ataków oraz mechanizmów zabezpieczających, wykonywane są przez trenera i prezentowane uczestnikom poprzez współdzielenie ekranu.

Szkolenie realizowane jest w całości w formie zdalnej w czasie rzeczywistym.

Zajęcia mają charakter wykładowo-demonstracyjny. Trener prowadzi szkolenie na podstawie prezentacji oraz demonstracji technicznych wykonywanych na żywo z wykorzystaniem współdzielenia ekranu.

W trakcie demonstracji trener może uruchamiać przygotowane skrypty, wykonywać zapytania do modeli i API, prezentować konfigurację usług w panelach internetowych oraz pokazywać działanie przykładowych zabezpieczeń systemów AI/LLM.

Uczestnicy nie wykonują podczas szkolenia indywidualnych ćwiczeń praktycznych i nie są zobowiązani do instalowania dodatkowego oprogramowania ani posiadania własnych kluczy API, kont chmurowych lub środowisk laboratoryjnych.

Uczestnicy mogą zadawać pytania prowadzącemu podczas szkolenia za pośrednictwem rozmowy na żywo lub czatu.

Walidacja efektów uczenia się odbywa się na zakończenie szkolenia w formie indywidualnego testu teoretycznego online z wynikiem generowanym automatycznie.

Usługa realizowana jest zdalnie w czasie rzeczywistym za pośrednictwem platformy Zoom lub równoważnego komunikatora umożliwiającego transmisję obrazu i dźwięku, rozmowę na żywo, czat oraz współdzielenie ekranu.

Uczestnik powinien dysponować komputerem lub laptopem z aktualnym systemem operacyjnym Windows, macOS lub Linux, aktualną przeglądarką internetową, kamerą internetową, mikrofonem i słuchawkami lub głośnikami oraz stabilnym dostępem do Internetu.

Rekomendowana przepustowość łącza wynosi minimum 10 Mb/s dla pobierania i 5 Mb/s dla wysyłania danych.

Nie jest wymagane instalowanie przez uczestnika Pythona, środowisk programistycznych, narzędzi bezpieczeństwa ani posiadanie własnych kluczy API czy kont w usługach AI. Wszystkie demonstracje techniczne wykonywane są w środowisku trenera i prezentowane poprzez współdzielenie ekranu.

Do wykonania końcowego testu walidacyjnego wymagane jest urządzenie z aktualną przeglądarką internetową i dostępem do Internetu.