Kompetencje w zakresie AI i zarządzanie sztuczną inteligencją w jednostce publicznej – obowiązek prawny i praktyka szkoleniowa
CYFRYZACJA I AI W SAMORZĄDACH - SAS 4 / 2026
Od 2 lutego 2025 r. obowiązuje art. 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji (dalej: akt o AI), który nakłada na dostawców i podmioty stosujące systemy AI obowiązek zapewnienia odpowiedniego poziomu kompetencji w zakresie AI u personelu i innych osób zajmujących się działaniem tych systemów w ich imieniu. Z kolei 2 sierpnia 2026 r. rozpoczęło się stosowanie zasadniczej części rozporządzenia, w tym obowiązków dotyczących systemów wysokiego ryzyka, z których wiele odnosi się wprost do administracji publicznej. Dla jednostek sektora finansów publicznych szkolenia z zakresu AI stały się w ten sposób zagadnieniem zgodności z prawem.
Co się wydarzyło
Obowiązek z art. 4 aktu o AI Kompetencje w zakresie AI (ang. AI literacy) zdefiniowano w art. 3 pkt 56 aktu o AI jako umiejętności, wiedzę i zrozumienie, które pozwalają na świadome wdrażanie systemów AI oraz na zwiększanie świadomości co do możliwości i ryzyka związanych z AI, w tym potencjalnych szkód. Obowiązek z art. 4 ma charakter zrelatywizowany: środki należy dobrać z uwzględnieniem wiedzy technicznej, doświadczenia i wykształcenia personelu oraz kontekstu, w jakim systemy mają być wykorzystywane. Urząd korzystający z systemów AI działa w roli podmiotu stosującego (art. 3 pkt 4). Zakres tego pojęcia jest w praktyce szeroki: obejmuje nie tylko wdrożenie dedykowanego systemu do obsługi spraw, lecz również sytuację, w której pracownik wykorzystuje ogólnodostępne narzędzie generatywne do przygotowania projektu pisma, analizy albo odpowiedzi na wniosek o udostępnienie informacji publicznej. Naruszenie art. 4 nie zostało objęte katalogiem administracyjnych kar pieniężnych z art. 99 aktu o AI. Nie oznacza to jednak, że przepis jest pozbawiony sankcji w znaczeniu praktycznym. Stan przeszkolenia personelu będzie oceniany jako element należytej staranności: przy odpowiedzialności odszkodowawczej jednostki, przy rozpatrywaniu skarg, a po utworzeniu krajowego organu nadzoru rynku (przewidzianego w projekcie ustawy o systemach sztucznej inteligencji) także w postępowaniach dotyczących pozostałych obowiązków z rozporządzenia.
Czego uczy orzecznictwo
O tym, że problem nie jest teoretyczny, przekonują rozstrzygnięcia ostatnich miesięcy. W postanowieniu z 23 czerwca 2026 r., I FZ 104/26, Naczelny Sąd Administracyjny po raz pierwszy tak wprost odniósł się do korzystania z AI przez profesjonalnego pełnomocnika, który powołał w zażaleniu orzeczenia NSA nieistniejące albo o innej treści niż przypisywana. Sąd wskazał, że „nader krytycznie należy ocenić bezrefleksyjne korzystanie z narzędzi AI przez zawodowego pełnomocnika przy sporządzaniu pism procesowych”. Wcześniej, w październiku 2025 r., Krajowa Izba Odwoławcza (KIO 3342/25) oceniała sytuację wykonawcy, który w wyjaśnieniach rażąco niskiej ceny w przetargu na utrzymanie dróg o wartości 15,5 mln zł powołał nieistniejące interpretacje podatkowe wygenerowane przez AI. Izba potwierdziła wykluczenie, wskazując, że odpowiedzialność za treść składanych dokumentów spoczywa w całości na wykonawcy. Dla zamawiających płynie stąd dodatkowy wniosek: personel prowadzący postępowania musi umieć takie wady rozpoznać. Skala zjawiska jest znaczna. Międzynarodowa baza Damiena Charlotina obejmowała w lipcu 2026 r. blisko 1800 orzeczeń, w których sądy odniosły się do halucynacji AI w pismach; ponad 80% przypadków dotyczyło sfabrykowanego orzecznictwa. Jednocześnie z badania Vals AI (październik 2025 r.) wynika, że nawet wyspecjalizowane narzędzia prawnicze osiągają dokładność rzędu 78-81%, a więc mniej więcej co piąta odpowiedź zawiera błąd. Wspólnym mianownikiem przywołanych spraw jest brak weryfikacji wyników narzędzia przez człowieka. To zaś jest dokładnie ta umiejętność, którą ma zapewnić realizacja art. 4.
Od szkolenia do systemu zarządzania
Jednorazowe szkolenie nie realizuje obowiązku z art. 4 w sposób trwały. Przepis mówi o zapewnieniu poziomu kompetencji, co zakłada proces: diagnozę potrzeb w podziale na stanowiska, zróżnicowanie treści (innych kompetencji potrzebuje osoba przygotowująca rozstrzygnięcia z pomocą systemu, innych administrator systemu, innych kierownictwo), cykliczność wynikającą z tempa zmian technologii oraz dokumentowanie podjętych środków na potrzeby rozliczalności. Szkolenia są przy tym jednym z elementów szerszego ładu zarządzania AI (ang. AI governance) w jednostce. Na minimalny standard składają się: wewnętrzna polityka korzystania z AI (lista narzędzi dopuszczonych, zakaz wprowadzania danych osobowych i informacji prawnie chronionych do narzędzi ogólnodostępnych, obowiązek weryfikacji wyników, zasady oznaczania treści), rejestr wykorzystywanych systemów z przypisaniem odpowiedzialności, procedura zgłaszania incydentów oraz zasady współpracy z dostawcami. Od 2 sierpnia 2026 r. doszły do tego obowiązki podmiotów stosujących systemy wysokiego ryzyka (art. 26), w tym powierzenie nadzoru osobom mającym odpowiednie kompetencje i przeszkolenie, a dla organów publicznych ocena skutków dla praw podstawowych (art. 27). Wzorcem organizacyjnym może być norma ISO/IEC 42001:2023, opisująca system zarządzania sztuczną inteligencją, a w warstwie ochrony danych zasady RODO wraz z oceną skutków dla ochrony danych. Dla radców prawnych punktem odniesienia pozostają także rekomendacje samorządu dotyczące korzystania z generatywnej AI.
Rola radcy prawnego
Radca prawny obsługujący jednostkę publiczną jest naturalnym uczestnikiem budowy tego ładu. Opiniuje politykę wewnętrzną i umowy z dostawcami narzędzi (powierzenie przetwarzania, odpowiedzialność za wady, prawo audytu), uczestniczy w ocenie skutków dla praw podstawowych i pomaga zakwalifikować planowane wdrożenia do właściwej kategorii ryzyka. Zarazem sam podlega obowiązkowi kompetencji i to podwójnie: jako osoba działająca w imieniu podmiotu stosującego oraz na gruncie zasad etyki zawodowej, które wymagają należytej staranności i ochrony tajemnicy zawodowej niezależnie od użytego narzędzia. Program szkoleniowy w jednostce powinien zatem łączyć warstwę prawną (obowiązki z aktu o AI, RODO, odpowiedzialność) z warsztatem praktycznym: pracą na rzeczywistych zadaniach urzędu, nauką weryfikacji wyników i rozpoznawania halucynacji. O doborze treści powinna decydować analiza ryzyka, a miarą skuteczności jest zmiana praktyki pracy, którą da się wykazać w dokumentacji rozliczalności.
Wnioski
Zapewnienie kompetencji w zakresie AI jest obowiązkiem prawnym podmiotu stosującego i elementem jego rozliczalności. Orzecznictwo z lat 2025–2026 pokazuje, że koszty zaniechań ponoszą zarówno pełnomocnicy, jak i strony postępowań. Jednostka, która chce sprostać pełnemu stosowaniu aktu o AI, powinna potraktować szkolenia jako stały proces osadzony w systemie zarządzania: z polityką, rejestrem, przypisaną odpowiedzialnością i dokumentacją. Rola radcy prawnego w tym procesie jest trudna do zastąpienia.
dr Paweł Kowalski
Prezes zarządu i Przewodniczący Rady Programowej LuminAi Institute,
radca prawny, Pełnomocnik Krajowej Izby Radców Prawnych ds. nowych technologii,
adiunkt na Wydziale Prawa Uniwersytetu SWPS w Warszawie,
ORCID: 0000-0003-2078-7712
