Ataki na AI, środki neutralizujące i strategie obronne. Przewodnik dla specjalistów ds. cyberbezpieczeństwa

Wraz z rozwojem rewolucyjnych możliwości modeli AI pojawiają się nowe zagrożenia. Może to być na przykład manipulowanie działaniem sztucznej inteligencji, by celowo doprowadzić do błędnych decyzji. Tak właśnie prowadzi się ataki adwersarialne. Konsekwencje takich manipulacji, jak r&oacute,wnież innych, mogą być bardzo poważne. Jednak zrozumienie ich istoty i wdrożenie adekwatnych zabezpieczeń stanowi ogromne wyzwanie.

Tę książkę docenią specjaliści do spraw cyberbezpieczeństwa, kt&oacute,rzy chcą zdobyć umiejętności zabezpieczania system&oacute,w AI. Znajdą w niej uporządkowaną prezentację wynik&oacute,w badań i najnowszych standard&oacute,w branżowych, z uwzględnieniem klasyfikacji: MITRE, NIST i OWASP. W przewodniku om&oacute,wiono strategię zabezpieczania AI już na etapie projektowania ... z wykorzystaniem modelowania zagrożeń, przy czym skoncentrowano się na integracji MLSecOps i LLMOps z systemami bezpieczeństwa przedsiębiorstwa. Dodatkowo przedstawiono przykłady wdrażania integracji ciągłej, strategii i narzędzi MLOps, a także mechanizm&oacute,w kontroli bezpieczeństwa. Zaproponowano ponadto bazujący na klasycznych filarach NIST plan wzmacniania bezpieczeństwa AI w przedsiębiorstwie.

Ciekawsze zagadnienia:

• zatruwanie danych, omijanie zabezpieczeń i naruszanie prywatności
• użycie sieci GAN do przeprowadzania atak&oacute,w i generowania deepfake',&oacute,w
• nowe zagrożenia bezpieczeństwa LLM, w tym wstrzykiwanie prompt&oacute,w i ekstrakcja danych
• zatruwanie LLM metodami: RAG, osadzeń i dostrajania
• nowe zagrożenia związane z łańcuchem dostaw i modelami LLM o otwartym dostępie
• wdrażanie operacji MLSecOps z integracją ciągłą MLOps i SBOM

Podejmij wyzwanie: ochroń AI przed nadużyciami!