7 wpisów
Bezpieczeństwo AI: prompt injection, wyciek danych, sprawczość agentów. Jak projektować obronę od pierwszej linijki, nie po incydencie.
W 2026 agenci AI wywołują narzędzia, nie tylko odpowiadają. Jak injection skłania agenta do zapytania bazy lub wysłania maila i jak temu zapobiec.
Ład nad danymi do AI i RAG w 2026: klasyfikacja wrażliwości, dostęp po roli, retencja, lineage, DPIA i minimalizacja PII — z gotową listą kontrolną.
Red teaming LLM w 2026: jak zbudować katalog ataków, scoringować podatności i zamknąć je w pętli ciągłych testów regresyjnych, zanim zrobi to ktoś inny.
Wyciek danych przez LLM w 2026: wektory ataku i obrona — maskowanie PII przed modelem, guardrails, self-hosting, zero-retention i audyt. Zdecyduj, czego potrzebujesz.
AI Act jest egzekwowany etapami — od sierpnia 2026 dochodzą transparentność i obowiązki dla wysokiego ryzyka. Co to znaczy w praktyce: nadzór ludzki, DPIA i jak projektować zgodność od pierwszej linijki, nie po incydencie.
Audyt bezpieczeństwa asystenta AI 2026: lista kontrolna obejmuje prompt injection, wyciek PII, uprawnienia narzędzi, rate-limiting i podatności bazy RAG.
OWASP LLM Top 10 opisuje 10 klas podatności dużych modeli językowych. Jak każda z nich wygląda w produkcyjnym systemie i jak budować obronę warstwowo.