Rachunkowość a regulacje AI Act

Celem rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13.06.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (DzUrz UE L z 12.07.2024 r.; akt o sztucznej inteligencji, dalej AI Act) jest zapewnienie bezpieczeństwa stosowania systemów AI oraz poszanowanie praw podstawowych osób, których dotyczą decyzje podejmowane lub wspierane przez te systemy. Buduje to bezpieczeństwo przez nałożenie na różne podmioty – proporcjonalnych do ryzyka – obowiązków przejrzystości, dokumentacji i zarządzania.

AI Act jest aktem prawa unijnego stosowanym bezpośrednio – bez potrzeby implementacji przez państwa członkowskie. Obowiązki z niego wynikające ciążą na podmiotach w Polsce z mocy samego rozporządzenia. Polskie ustawodawstwo może je co najwyżej uzupełniać (np. wskazując organ nadzoru), ale ich nie zastępuje[1].

Unijne rozporządzenie weszło w życie 1.08.2024 r., ale przewidziane w nim obowiązki są stosowane etapami. Te istotne z punktu widzenia księgowych, biegłych rewidentów i biur rachunkowych – a więc obowiązki przejrzystości – wchodzą w życie w sierpniu br. Obowiązki dla systemów wysokiego ryzyka, pierwotnie zapowiedziane na sierpień 2026 r., zostały pakietem AI Omnibus z 29.06.2026 r. (DzUrz UE L z 24.07.2026 r.) odroczone o 16 mies.

Kogo dotyczy AI Act

AI Act wyróżnia kilka ról jednostek[2]:

• dostawca (provider) – podmiot, który opracowuje system AI lub zleca jego opracowanie w celu wprowadzenia na rynek pod własną nazwą; typowymi dostawcami są OpenAI, Google, Microsoft, Anthropic, Mistral, a w Polsce m.in. niektórzy producenci systemów ERP w zakresie wbudowanych funkcji AI,
• podmiot stosujący (deployer) – osoba fizyczna lub prawna, która używa systemu AI pod swoim nadzorem w ramach działalności zawodowej; w tej roli występuje większość księgowych i biegłych rewidentów korzystających np. z ChatGPT, Copilot, Gemini, Claude lub funkcji AI wbudowanych w systemy księgowe,
• importer i dystrybutor – role rzadko dotyczące księgowości.

Z perspektywy księgowego najważniejsze jest zatem zrozumienie, że samo używanie AI w pracy zawodowej czyni jednostkę podmiotem stosującym w rozumieniu AI Act i nakłada na nią określone obowiązki.

Klasyfikacja systemów AI według poziomów ryzyka

AI Act dzieli systemy AI według poziomu ryzyka, co determinuje obowiązki ciążące na poszczególnych podmiotach.

Poziom 1. Ryzyko niedopuszczalne (art. 5 AI Act)

Dotyczy systemów całkowicie zakazanych. Należą do nich m.in. system punktacji społecznej, manipulacja podświadoma, biometryczna kategoryzacja na podstawie cech wrażliwych, profilowanie ryzyka popełnienia przestępstwa wyłącznie na podstawie cech osobistych. W praktyce księgowej i audytorskiej kategoria ta nie występuje.

Poziom 2. Wysokie ryzyko (zał. III AI Act)

Odnosi się do systemów mających istotny wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe. W zał. III wymieniono osiem obszarów, z których dla księgowości istotne mogą być dwa, a mianowicie:

• systemy AI używane w rekrutacji i ocenie pracowników (pkt 4) – m.in. automatyczne przesiewanie CV, ocena wydajności, decyzje awansowe,
• systemy oceny zdolności kredytowej osób fizycznych (pkt 5).

Jeśli biuro rachunkowe lub jednostka korzysta z funkcji AI w module HR (np. automatyczna preselekcja CV, ocena kompetencji), system ten może podlegać reżimowi wysokiego ryzyka – z obowiązkami znacznie szerszymi niż wobec zwykłego ChatGPT.

Poziom 3. Ograniczone ryzyko (art. 50 AI Act)

Są to systemy oddziałujące na ludzi w sposób wymagający przejrzystości, ale niewysokiego ryzyka. Mieszczą się tu typowe narzędzia używane w codziennej pracy: chatboty, generatory tekstu, generatory obrazów. Obowiązki sprowadzają się do informowania, że rozmówca komunikuje się z AI, że treść została wygenerowana lub zmodyfikowana przez AI.

Poziom 4. Minimalne ryzyko

Są to pozostałe systemy – np. filtry spamu, gry komputerowe z AI, systemy rekomendacji w sklepach internetowych. Nie występują tu szczegółowe obowiązki regulacyjne, poza zachowaniem dobrej praktyki.

Wprowadzono też odrębny reżim dla modeli, które można wykorzystać do wielu różnych zadań – takich jak ChatGPT, Gemini, Claude. Obowiązki dotyczą przede wszystkim dostawców tych modeli (już od 2.08.2025 r.); podmioty stosujące podlegają zasadzie: „jeśli korzystasz z GPAI, sprawdź, do której kategorii ryzyka kwalifikuje się twoje konkretne zastosowanie”.

Od 2.08.2026 r. obowiązki przejrzystości stają się pełnoprawnym wymogiem. Zaczyna też obowiązywać pełen system kar administracyjnych:

• do 35 mln euro lub 7% rocznego obrotu światowego – za naruszenia najpoważniejsze (zakazy z art. 5),
• do 15 mln euro lub 3% obrotu – za naruszenie pozostałych obowiązków materialnych,
• do 7,5 mln euro lub 1% obrotu – za podanie nieprawdziwych informacji organom.

Pakiet AI Omnibus odroczył rozpoczęcie stosowania obowiązków dla samodzielnych systemów wysokiego ryzyka (zał. III) – do 2.12.2027 r., a dla systemów wbudowanych w produkty regulowane sektorowo (zał. I) – do 2.08.2028 r. Oznacza to więcej czasu na dostosowanie ewentualnych modułów HR i scoringowych, lecz nie zwalnia z obowiązku przejrzystości ani z wdrożenia AI literacy (ten obowiązek dokumentacyjno-organizacyjny ciąży od 2.02.2025 r.).

Nowe obowiązki – z perspektywy księgowego

Spośród wielu obowiązków wprowadzanych przez AI Act typowe biuro rachunkowe lub dział księgowości realnie dotkną poniższe:

1. Obowiązki przejrzystości wobec klientów i pracowników (od 2.08.2026 r.)

Jeśli biuro rachunkowe lub jednostka:

• używa chatbota na swojej stronie internetowej do komunikacji z klientami – musi poinformować rozmówcę, że ten rozmawia z systemem AI,
• generuje za pomocą AI treści tekstowe (pisma, e-maile, raporty) przekazywane klientom lub publikowane na zewnątrz – musi oznaczyć, że treść została wygenerowana lub istotnie zmodyfikowana przez AI,
• używa systemu rozpoznawania emocji lub kategoryzacji biometrycznej (np. w nadzorze pracowniczym) – musi poinformować osobę, której to dotyczy.

Obowiązek informacyjny nie wymaga długich klauzul. Wystarczy krótka adnotacja, np.:

W przygotowaniu niniejszego pisma wykorzystano pomocniczo narzędzia sztucznej inteligencji. Treść została zweryfikowana merytorycznie przez podpisaną osobę.

2. Obowiązki w przypadku stosowania systemów wysokiego ryzyka (od 2.12.2027 r.)

Jeśli jednostka używa AI w obszarze HR (rekrutacja, ocena, awanse) lub w ocenie zdolności kredytowej, to staje się podmiotem stosującym system wysokiego ryzyka w rozumieniu art. 26 AI Act. Obowiązki są wówczas znacznie szersze:

• zapewnienie nadzoru ludzkiego nad systemem (human oversight),
• monitorowanie działania systemu w okresie jego eksploatacji,
• prowadzenie rejestrów (logów) automatycznie generowanych przez system,
• informowanie pracowników i przedstawicieli pracowników o wdrożeniu systemu w miejscu pracy (art. 26 ust. 7 AI Act),
• ocena wpływu na prawa podstawowe (Fundamental Rights Impact Assessment, FRIA) w określonych przypadkach (art. 27 AI Act).

Przykładowo, funkcja „automatyczna kategoryzacja kontrahentów po ryzyku kredytowym” w niektórych systemach ERP – jeśli wpływa na decyzje o terminach płatności wobec konkretnych osób fizycznych – może wypełnić znamiona systemu wysokiego ryzyka. Warto sprawdzić to z dostawcą oprogramowania.

Punkt styku z RODO

AI Act nie zastępuje RODO[3] – działa równolegle. Każde użycie AI do przetwarzania danych osobowych pozostaje przetwarzaniem w rozumieniu RODO, ze wszystkimi tego konsekwencjami: podstawą prawną, minimalizacją, zabezpieczeniem, prawem do informacji osoby, której dane dotyczą. Z punktu widzenia księgowego najistotniejszy jest art. 32 RODO (zabezpieczenia adekwatne do ryzyka). Przekazanie danych osobowych kontrahentów do narzędzia AI bez uprzedniego ich zabezpieczenia – w szczególności do narzędzi z serwerami poza UE – może stanowić naruszenie RODO niezależnie od kwestii związanych z AI Act. Najpopularniejsze, powszechnie dostępne narzędzia AI (ChatGPT, Gemini, Claude w wersjach konsumenckich) przetwarzają dane na serwerach poza UE, co w odniesieniu do danych objętych ochroną wymaga osobnego rozważenia podstawy transferu.

Procedury, które należy wykonać

Poniżej zaproponowano sekwencję ośmiu kroków, które jednostka prowadząca księgi rachunkowe (lub biuro rachunkowe prowadzące księgi na zlecenie) powinna wykonać w związku z wejściem w życie nowych obowiązków.

1. Inwentaryzacja narzędzi AI. Sporządzenie listy wszystkich narzędzi AI używanych w jednostce: nazwanych (np. ChatGPT Plus na koncie głównego księgowego), niejawnych (np. funkcje AI wbudowane w system ERP – automatyczna kategoryzacja, sugestie księgowania, OCR[4] faktur z elementem AI), używanych sporadycznie (np. translator z AI, generator obrazów do prezentacji). Pierwsza inwentaryzacja zaskakuje zwykle skalą – w przeciętnym biurze rachunkowym używa się obecnie od 5 do 15 narzędzi z elementami AI.
2. Określenie swojej roli. Dla każdego narzędzia ustalenie, czy jednostka jest „podmiotem stosującym” (zazwyczaj tak), czy „dostawcą” (rzadziej – np. jeśli samodzielnie trenuje własny model AI lub w istotny sposób modyfikuje istniejący).
3. Klasyfikacja ryzyka. Przyporządkowanie każdego narzędzia do jednej z czterech kategorii ryzyka. Większość narzędzi używanych w księgowości mieści się w kategorii ograniczonego lub minimalnego ryzyka; wyjątkiem są moduły HR i scoringu kredytowego, które mogą być wysokiego ryzyka.
4. Obowiązki informacyjne wobec klientów. Sporządzenie krótkiej klauzuli informacyjnej dla klientów biura rachunkowego – w umowach, na stronie internetowej, w stopce wiadomości – informującej o pomocniczym wykorzystaniu narzędzi AI w realizacji usług.
5. Obowiązki wobec pracowników. Jeśli sztuczna inteligencja jest używana w obszarze HR lub do nadzoru pracowników – wypełnienie obowiązku informacyjnego z art. 26 ust. 7 AI Act (poinformowanie pracowników i ich przedstawicieli przed wdrożeniem).
6. Polityka wewnętrzna. Krótki regulamin korzystania z AI w jednostce, określający: które narzędzia są dozwolone, jakie dane wolno do nich wprowadzać (a jakich nie wolno), kto odpowiada za weryfikację wyników, jak dokumentuje się użycie AI. Regulamin nie musi mieć kilkudziesięciu stron – wystarczą 2–3.
7. Zabezpieczenie danych. Wdrożenie procedur ochrony danych przed przekazaniem do AI – w szczególności pseudonimizacja lub anonimizacja danych osobowych.
8. Dokumentacja. Prowadzenie zwięzłej ewidencji: jakie narzędzia są używane, kiedy zostały wdrożone, jaka klauzula informacyjna jest stosowana, jak wygląda regulamin wewnętrzny. Dokumentacja stanowi podstawowe zabezpieczenie na wypadek kontroli organu nadzorczego.

AI literacy w biurze rachunkowym i u biegłego rewidenta

Obowiązek zapewnienia kompetencji w zakresie AI (AI literacy) wynika wprost z art. 4 AI Act i – jako jeden z pierwszych obowiązków rozporządzenia – wszedł w życie już 2.02.2025 r. Każda firma, w której pracownicy używają choćby ChatGPT do streszczenia dokumentu lub asystenta AI wbudowanego w pakiet biurowy, powinna wdrożyć podstawowy pakiet AI literacy, czyli zapewnić odpowiedni poziom wiedzy o możliwościach, ograniczeniach i ryzykach związanych z odpowiedzialnym korzystaniem z AI. Praktyczne minimum to:

1. wewnętrzna polityka korzystania z AI – co wolno, czego nie wolno, jakimi narzędziami można się posługiwać, jakie dane można wprowadzać (np. zakaz przekazywania danych objętych tajemnicą zawodową, danych klientów, danych osobowych),
2. szkolenie wprowadzające dla pracowników – pół godziny do dwóch godzin, z naciskiem na ograniczenia narzędzi i odpowiedzialność za weryfikację wyników,
3. dokumentacja – zapis, że szkolenie zostało przeprowadzone, kto w nim uczestniczył, kiedy będzie aktualizowane,
4. zasada nadzoru człowieka – każdy wynik AI używany w pracy zawodowej musi zostać zweryfikowany przez człowieka odpowiedzialnego za daną czynność,
5. klauzula AI w produktach pracy (artykuły, opinie, ekspertyzy) – ujawnienie roli AI w procesie ich powstawania, podobnie jak czyni się to z innymi narzędziami.

AI literacy to obowiązek dokumentacyjno-organizacyjny. Jego wykonanie nie jest rejestrowane przez żaden organ – nie składa się deklaracji, nie uzyskuje certyfikatów. W razie kontroli krajowego organu nadzoru trzeba będzie wykazać, że szkolenie przeprowadzono i że polityka istnieje. Brak stosownych dowodów stanowi podstawę do nałożenia kary administracyjnej.

Stosowanie AI z perspektywy biegłego rewidenta

Biegły rewident jest typowym podmiotem stosującym AI w rozumieniu AI Act. Wszystkie wyżej omówione obowiązki ciążą na nim w pełnym zakresie – z trzema dodatkowymi warstwami specyficznymi dla zawodu.

1. Tajemnica zawodowa. Dane klienta badania są objęte tajemnicą zawodową. Przekazanie ich do narzędzia AI bez zabezpieczenia stanowi naruszenie tej tajemnicy – niezależnie od tego, czy stanowi również naruszenie RODO lub AI Act. Pseudonimizacja danych nie jest tu wyborem, lecz koniecznością.

2. Standardy zawodowe. Krajowe Standardy Badania (zwłaszcza KSB 230 – dokumentacja badania, KSB 240 – oszustwa, KSB 315 – identyfikacja ryzyk, oraz KSB 330 – reakcja na ryzyka) nakładają na biegłego rewidenta obowiązek profesjonalnego sceptycyzmu, kontroli jakości oraz dokumentowania badania. Wykorzystanie AI musi się wpisać w te wymogi:

• AI nigdy nie zastępuje osądu zawodowego biegłego rewidenta – to on ponosi odpowiedzialność merytoryczną,
• każde wykorzystanie AI w procedurach badania powinno być udokumentowane w aktach (jakie narzędzie, w jakim celu, z jakim wynikiem, jak wynik został zweryfikowany),
• ustalenia uzyskane za pomocą AI wymagają weryfikacji co najmniej w stopniu nieróżniącym się od weryfikacji innych dowodów badania.

3. Klauzula umowna z klientem. W umowie o badanie sprawozdania finansowego powinna znaleźć się klauzula informacyjna. Proponowane brzmienie:

Wykonawca oświadcza, że przy realizacji niniejszej umowy może wspomagać się narzędziami sztucznej inteligencji o charakterze pomocniczym. Wykonawca zachowuje pełną odpowiedzialność merytoryczną za wszystkie wyniki, ustalenia i opinie. Dane przekazywane do narzędzi AI podlegają uprzedniej pseudonimizacji w sposób zapewniający, że narzędzia te nie otrzymują danych osobowych ani danych objętych tajemnicą zawodową w rozumieniu art. 78 ustawy o biegłych rewidentach.

Zabezpieczenie danych klienta – pseudonimizacja

Po przedstawieniu ogólnych założeń AI Act warto odpowiedzieć na pytanie: jak zabezpieczyć dane księgowe klienta przed przekazaniem ich do narzędzi AI, czyli w jaki sposób wykonać pseudonimizację pliku JPK_KR?

Pseudonimizacja w rozumieniu art. 4 pkt 5 RODO polega na przetworzeniu danych osobowych w taki sposób, by nie można było ich już przypisać konkretnej osobie bez użycia dodatkowych informacji – pod warunkiem że te dodatkowe informacje (klucz) są przechowywane osobno i zostały objęte odpowiednimi zabezpieczeniami.

W praktyce w odniesieniu do JPK_KR oznacza to konsekwentne zastąpienie numerów NIP, nazw kontrahentów, opisów operacji zawierających imiona oraz identyfikatorów operatorów – aliasami. Kwoty, daty, numery kont księgowych i numery zapisów pozostają niezmienione (są kluczowe dla analizy). Plik po pseudonimizacji zachowuje pełną wartość analityczną, a jednocześnie nie zawiera już danych osobowych w rozumieniu RODO.

Z perspektywy AI Act pseudonimizacja jest jednym z dowodów wdrożenia adekwatnych środków ochronnych i pozwala wykazać organowi nadzoru oraz klientowi, że dane przekazywane do AI były odpowiednio zabezpieczone.

Warto podkreślić, że pseudonimizacja, jakkolwiek prosta koncepcyjnie, w realiach pliku JPK_KR wymaga rozwiązania wielu kwestii technicznych (zachowanie spójności XML, spójne aliasy[5], zarządzanie kluczem HMAC[6], dokumentacja w papierze roboczym badania).

Podsumowanie

AI Act nie jest aktem o „regulacji sztucznej inteligencji” w sensie zakazującym. Jest aktem o odpowiedzialnym korzystaniu z niej. Dla typowego biura rachunkowego i kancelarii biegłego rewidenta oznacza to konieczność wykonania kilku prostych, ale niezbędnych kroków: zinwentaryzowania używanych narzędzi, ustalenia własnej roli, sporządzenia regulaminu wewnętrznego i klauzul informacyjnych dla klientów oraz wdrożenia podstawowych zabezpieczeń ochrony danych.

Korzyść z wdrożenia AI Act jest podwójna. Po pierwsze, spełnienie obowiązków regulacyjnych, których naruszenie – w zakresie wymogów obowiązujących od 2.08.2026 r. – będzie zagrożone wysokimi karami. Po drugie, pokazanie klientom i organom, że jednostka korzysta z AI w sposób profesjonalny i przemyślany, co jest elementem budowania przewagi konkurencyjnej.