Justyna Wasielewska
Krótka diagnoza: system AI wysokiego ryzyka to według AI Act system, który może istotnie wpłynąć na zdrowie, bezpieczeństwo albo prawa ludzi, bo jest częścią regulowanego produktu (załącznik I) albo działa w jednym z ośmiu obszarów z załącznika III. W typowej firmie usługowej chodzi o trzy sytuacje: AI pomaga wybierać kandydatów, ocenia pracowników albo ocenia zdolność kredytową osób fizycznych.
Pisanie maili, streszczenia i posty w social media do tej kategorii nie należą.
Obowiązki dla systemów z załącznika III zaczną się 2 grudnia 2027 roku. Do tego czasu warto ustalić dwie rzeczy: czy Twoje zastosowanie się kwalifikuje i czy Twoja firma jest w nim tylko użytkownikiem, czy już dostawcą.
Rekruterka dostaje 300 zgłoszeń na stanowisko handlowca. Wkleja CV do czatu AI i prosi o listę dziesięciu najlepszych osób. Oszczędza dwa dni pracy. Pytanie, czy właśnie uruchomiła w firmie system wysokiego ryzyka, ma praktyczne skutki: od odpowiedzi zależy, jakie obowiązki spadną na Twoją firmę za nieco ponad rok.
Ten tekst nie jest poradą prawną. To pomoc orientacyjna, która pozwala wstępnie posortować zastosowania AI w firmie, zanim sprawę przejrzy prawnik.
Kiedy system AI jest „wysokiego ryzyka”?
AI Act przewiduje dwie drogi do wysokiego ryzyka: produktową (art. 6 ust. 1 i załącznik I) oraz obszarową (art. 6 ust. 2 i załącznik III). Liczy się to, do czego system jest używany, a nie to, jak zaawansowana jest technologia.
Droga produktowa dotyczy AI, która jest elementem bezpieczeństwa produktów objętych unijnymi przepisami, np. maszyn, wyrobów medycznych czy zabawek. Jeśli Twoja firma ich nie produkuje, prawdopodobnie Cię nie dotyczy.
Droga obszarowa jest ważniejsza dla firm usługowych. Załącznik III rozporządzenia 2024/1689 wymienia osiem obszarów:
- biometria, np. zdalna identyfikacja osób,
- infrastruktura krytyczna,
- edukacja i szkolenie zawodowe, np. ocena wyników uczenia się,
- zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia,
- dostęp do podstawowych usług prywatnych i publicznych, w tym kredytu i ubezpieczeń na życie i zdrowotnych,
- ściganie przestępstw,
- migracja i kontrola granic,
- wymiar sprawiedliwości i procesy demokratyczne.
Obszary 6 do 8 dotyczą głównie instytucji publicznych. Prywatna firma najczęściej styka się z punktem 4, rzadziej z 3 (firmy szkoleniowe) i 5 (finanse, ubezpieczenia, sprzedaż na raty).
Od kiedy obowiązują zasady dla systemów wysokiego ryzyka?
Obowiązki dla systemów z załącznika III zaczną się stosować 2 grudnia 2027 roku, a dla systemów z załącznika I 2 sierpnia 2028 roku. Pierwotnie miał to być sierpień 2026 i 2027. Terminy przesunęło rozporządzenie 2026/1744, które zmieniło art. 113 AI Act i weszło w życie 27 lipca 2026 roku.
Przesunięcie nie oznacza, że w HR do grudnia 2027 nic nie obowiązuje. Od 2 lutego 2025 roku działa zakaz z art. 5 ust. 1 lit. f: AI nie może wyciągać wniosków o emocjach pracowników, np. z głosu na rozmowach czy z mimiki na wideo, poza celami medycznymi lub bezpieczeństwa.
Od 2 sierpnia 2026 roku obowiązuje też art. 50 o przejrzystości, który dotyczy m.in. chatbotów rozmawiających z kandydatami. Pełny kalendarz zmian znajdziesz w artykule AI Act w Polsce: co realnie dotyczy Twojej firmy.
Test w 6 krokach: czy Twoje zastosowanie to wysokie ryzyko
Poniższy test to nasza pomoc orientacyjna, zbudowana na art. 5, 6 i 25 AI Act oraz na projekcie wytycznych Komisji. Nie zastępuje oceny prawnej, ale pozwala szybko oddzielić zastosowania spokojne od tych, które wymagają analizy. Przejdź go osobno dla każdego zastosowania, nie dla narzędzia: ten sam czat może pisać ogłoszenie i ranking CV, a to dwie różne odpowiedzi.
| Krok | Pytanie | Jeśli tak | Jeśli nie |
|---|---|---|---|
| 0 | Czy AI rozpoznaje emocje pracowników lub kandydatów? | zakazana praktyka (art. 5), wyłącz | krok 1 |
| 1 | Czy to w ogóle system AI, a nie np. arkusz z formułami ustalonymi przez człowieka? | krok 2 | AI Act nie dotyczy tego zastosowania |
| 2 | Czy zastosowanie mieści się w jednym z ośmiu obszarów załącznika III? | krok 3 | to nie wysokie ryzyko z załącznika III |
| 3 | Czy system profiluje osoby, czyli ocenia ich cechy, zachowanie lub przydatność? | wysokie ryzyko, przejdź do kroku 5 | krok 4 |
| 4 | Czy system wykonuje tylko wąskie zadanie proceduralne, poprawia gotową pracę człowieka, wykrywa odstępstwa od wzorców bez zastępowania oceny człowieka albo przygotowuje materiał do oceny? | prawdopodobnie poza wysokim ryzykiem, udokumentuj ocenę | wysokie ryzyko, krok 5 |
| 5 | Kto jest dostawcą: producent narzędzia czy Twoja firma? | Twoja firma: obowiązki dostawcy | producent: obowiązki podmiotu stosującego |
| 6 | Od kiedy i co robić? | załącznik III: od 2.12.2027 |
Pojęcie systemu AI z kroku 1 doprecyzowują osobne wytyczne Komisji z 2025 roku. W praktyce narzędzia oparte na modelach językowych spełniają tę definicję, więc u większości firm test zaczyna się naprawdę od kroku 2.
Czy AI w rekrutacji i ocenie pracowników to wysokie ryzyko?
Tak, jeśli AI wpływa na to, kogo firma zatrudnia, awansuje, zwalnia albo jak ocenia pracę. Załącznik III pkt 4 obejmuje systemy do rekrutacji i wyboru kandydatów, w tym ukierunkowane ogłoszenia, analizę i filtrowanie zgłoszeń oraz ocenę kandydatów. Obejmuje też decyzje o warunkach pracy, awansie i rozwiązaniu umowy, przydział zadań na podstawie zachowania lub cech oraz monitorowanie i ocenę wydajności. Według projektu wytycznych selekcja obejmuje też wybór osób samozatrudnionych przez kontrahentów.
Granica bywa cienka, dlatego Komisja przygotowała przykłady. Są w projekcie wytycznych do klasyfikacji systemów wysokiego ryzyka, opublikowanym 19 maja 2026 roku. Konsultacje trwały do 23 lipca 2026, a na 3 października 2026 wersji ostatecznej nie ma. Poniższa tabela opiera się na tym projekcie, więc ostateczne brzmienie może się różnić. Wytyczne nie są też prawnie wiążące: wiążącą wykładnię daje Trybunał Sprawiedliwości UE.
| Zastosowanie w HR | Kwalifikacja wg projektu wytycznych | Dlaczego |
|---|---|---|
| AI pisze opis stanowiska według listy zadań i wymagań ustalonej przez rekrutera | poza wysokim ryzykiem | wąskie zadanie proceduralne, decyzję o wymaganiach podjął człowiek |
| AI sama ustala wymagania na stanowisko | wysokie ryzyko | wpływa na to, kto przejdzie selekcję |
| Konwersja CV do jednego formatu, bez oceny treści | poza wysokim ryzykiem | zadanie przygotowawcze |
| Ocena CV względem opisu stanowiska, scoring przydatności, ranking kandydatów | wysokie ryzyko | ocena osób wpływająca na shortlistę |
| Profile kompetencji kandydatów, które trafiają do decyzji o shortliście | wysokie ryzyko | profilowanie osób |
| Ogłoszenia o pracę targetowane na podstawie profilowania odbiorców | wysokie ryzyko | ukierunkowane ogłoszenia z profilowaniem |
| Kampania employer branding bez konkretnej oferty pracy | poza zakresem pkt 4 | nie dotyczy rekrutacji na konkretne stanowisko |
| Monitorowanie i ocena wydajności pracowników przez AI | wysokie ryzyko | pkt 4 lit. b załącznika III |
Stan: projekt wytycznych Komisji z 19 maja 2026 roku, weryfikacja 3 października 2026.
Najczęstszy przypadek w MŚP to nie kupiony system rekrutacyjny, tylko nieformalne użycie ogólnego czatu do porównywania CV. Jak wykryć takie zastosowania w zespole, opisujemy w tekście Shadow AI w firmie: co to jest i jak ograniczyć ryzyko.
Czy scoring klientów i ocena zdolności kredytowej to wysokie ryzyko?
Tak, gdy AI ocenia zdolność kredytową lub ustala scoring kredytowy osób fizycznych. Mówi o tym załącznik III pkt 5 lit. b. Wyjątek dotyczy systemów do wykrywania oszustw finansowych. Punkt 5 lit. c obejmuje ocenę ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych, też wobec osób fizycznych.
W MŚP rozróżnij cztery sytuacje:
- Sprzedaż na raty lub z odroczoną płatnością dla konsumentów, w której AI decyduje albo realnie wpływa na to, kto dostanie limit: wysokie ryzyko, o ile nie zadziała wyjątek z art. 6 ust. 3.
- Wykrywanie podejrzanych transakcji: wyjątek z pkt 5 lit. b, poza wysokim ryzykiem z tego punktu.
- Scoring leadów w CRM, czyli ocena, który kontakt warto obsłużyć pierwszy: sam w sobie nie jest oceną zdolności kredytowej, więc zwykle nie mieści się w pkt 5. Uwaga na profilowanie i RODO.
- Ocena wiarygodności kontrahentów B2B: pkt 5 lit. b mówi o osobach fizycznych. Według projektu wytycznych system, który ocenia firmę, w tym jednoosobową działalność, wyłącznie na podstawie danych firmowych, nie ocenia osoby fizycznej i nie trafia do tego punktu. Granica przebiega tam, gdzie do oceny wchodzą finanse osobiste właściciela. Ten przypadek zostaw do oceny prawnej.
Osobną sprawą jest scoring społeczny, czyli ocena ludzi na podstawie zachowań społecznych prowadząca do ich gorszego traktowania w niezwiązanych kontekstach. To zakazana praktyka z art. 5 AI Act, nie wysokie ryzyko.
Wyjątek z art. 6 ust. 3: kiedy system z załącznika III nie jest wysokiego ryzyka?
System z załącznika III nie jest wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych i spełnia co najmniej jeden z czterech warunków. Według art. 6 ust. 3 AI Act system:
- wykonuje wąskie zadanie proceduralne,
- poprawia wynik czynności wcześniej zakończonej przez człowieka,
- wykrywa wzorce decyzyjne lub odstępstwa od nich, ale nie zastępuje ani nie zmienia oceny człowieka bez jej właściwej weryfikacji,
- wykonuje zadanie przygotowawcze do oceny istotnej dla obszaru z załącznika III.
Jest twarda granica: system, który profiluje osoby fizyczne, zawsze jest wysokiego ryzyka, nawet jeśli spełnia któryś z warunków. Ranking CV to w praktyce profilowanie, bo ocenia cechy i przydatność ludzi, dlatego w tabeli HR trafia do wysokiego ryzyka.
Skorzystanie z wyjątku trzeba udokumentować. Dostawca, który uznał, że jego system z załącznika III nie jest wysokiego ryzyka, dokumentuje tę ocenę przed wprowadzeniem systemu do obrotu (art. 6 ust. 4) i rejestruje go w unijnej bazie danych. Jeśli to Twoja firma okaże się dostawcą, ta dokumentacja jest po Twojej stronie.
Czy używając ChatGPT do rankingu CV, Twoja firma staje się dostawcą?
To otwarte zagadnienie, które wymaga oceny prawnej, a odpowiedź może zależeć od szczegółów. Nie rozstrzygamy go, pokazujemy tylko, skąd wynika.
Art. 25 ust. 1 AI Act wskazuje trzy sytuacje, w których podmiot stosujący staje się dostawcą systemu wysokiego ryzyka:
- umieszcza swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu,
- wprowadza w nim istotną zmianę, po której system nadal jest wysokiego ryzyka,
- zmienia przeznaczenie systemu AI, w tym systemu ogólnego przeznaczenia, tak że staje się on systemem wysokiego ryzyka (lit. c).
Ogólny asystent AI nie jest przeznaczony przez producenta do selekcji kandydatów. Gdy firma używa go do rankingu CV, można argumentować, że nadała mu nowe przeznaczenie z obszaru załącznika III.
Z drugiej strony otwarte pozostają pytania, czy jednorazowe polecenie wpisane w czat to już „zmiana przeznaczenia”, czy liczy się regularny proces, i jak ocenić skonfigurowanego asystenta z gotowymi instrukcjami do selekcji. Na 3 października 2026 nie ma też ostatecznych wytycznych Komisji, które by to rozstrzygały.
Do recenzji prawnej. Jeśli Twoja firma zostałaby uznana za dostawcę, przejmuje obowiązki dostawcy systemu wysokiego ryzyka: system zarządzania ryzykiem, dokumentację techniczną, ocenę zgodności, rejestrację.
Po zmianie rozporządzeniem 2026/1744 art. 25 ust. 2 pozwala pierwotnemu dostawcy zastrzec, że jego system nie może stać się systemem wysokiego ryzyka, i wtedy nie musi on współpracować z „nowym dostawcą”, więc firma używająca czatu do rankingu CV może zostać z tymi obowiązkami sama.
Bezpieczniejszy kierunek do rozważenia: do selekcji kandydatów używać narzędzia, którego producent deklaruje przeznaczenie rekrutacyjne i bierze na siebie rolę dostawcy, albo ograniczyć AI do zadań, które wyjątek z art. 6 ust. 3 obejmuje. Podobne pytanie dotyczy systemów budowanych na zamówienie: kto jest w nich dostawcą, warto ustalić z prawnikiem i odzwierciedlić w umowie.
Wątpliwość tego typu można przedstawić polskiemu organowi nadzoru. Od 28 października 2026 roku Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wydaje opinie indywidualne, opisujemy to w artykule Ustawa o systemach sztucznej inteligencji: co zmienia dla firm.
Co musi zrobić Twoja firma jako podmiot stosujący system wysokiego ryzyka?
Jeśli kupujesz gotowy system wysokiego ryzyka i używasz go zgodnie z przeznaczeniem, jesteś podmiotem stosującym, a Twoje obowiązki opisuje art. 26 AI Act. Dla systemów z załącznika III zaczną się stosować 2 grudnia 2027 roku. Kolumna „kto w firmie” to nasza propozycja podziału ról, nie wymóg przepisu.
| Obowiązek | Przepis | Kto w firmie (propozycja) |
|---|---|---|
| Używać systemu zgodnie z instrukcją dostawcy | art. 26 ust. 1 | właściciel procesu, np. kierownik HR |
| Powierzyć nadzór człowieka osobom z kompetencjami, przeszkoleniem i uprawnieniami | art. 26 ust. 2 | wyznaczony rekruter lub menedżer |
| Dbać o adekwatne dane wejściowe, w zakresie, w jakim je kontrolujesz | art. 26 ust. 4 | właściciel procesu |
| Monitorować działanie, informować dostawcę, zgłaszać poważne incydenty | art. 26 ust. 5 | właściciel procesu i IT |
| Przechowywać logi generowane przez system co najmniej 6 miesięcy, jeśli są pod Twoją kontrolą | art. 26 ust. 6 | IT |
| Poinformować pracowników i ich przedstawicieli przed użyciem systemu w miejscu pracy | art. 26 ust. 7 | zarząd i HR |
| Wykorzystać informacje od dostawcy przy ocenie skutków dla ochrony danych (art. 35 RODO) | art. 26 ust. 9 | osoba od ochrony danych |
| Poinformować osoby, wobec których system wspiera decyzje, że go stosujesz | art. 26 ust. 11 | HR |
| Współpracować z organami nadzoru | art. 26 ust. 12 | zarząd |
Stan: AI Act w brzmieniu po zmianach z rozporządzenia 2026/1744, weryfikacja 3 października 2026.
Dochodzą dwa przepisy spoza art. 26. Art. 86 daje osobie, wobec której podjęto decyzję na podstawie wyniku systemu z załącznika III, prawo do jasnego wyjaśnienia roli AI w tej decyzji. Kandydat odrzucony po rankingu może więc zapytać, jak AI wpłynęła na wynik.
Art. 86 nie został przesunięty i formalnie stosuje się od 2 sierpnia 2026 roku, ale dotyczy decyzji opartych na systemach z załącznika III, więc praktycznie nabierze znaczenia razem z nimi. Niezależnie od AI Act obowiązuje art. 22 RODO, który ogranicza decyzje oparte wyłącznie na zautomatyzowanym przetwarzaniu.
FRIA, czyli ocena skutków dla praw podstawowych z art. 27, dotyczy wąskiej grupy. Muszą ją przeprowadzić podmioty prawa publicznego, prywatne podmioty świadczące usługi publiczne oraz firmy stosujące systemy z załącznika III pkt 5 lit. b i c, czyli scoring kredytowy i wycenę ubezpieczeń na życie i zdrowotnych. Firma, która używa AI tylko w rekrutacji, FRIA robić nie musi.
Jeśli kandydaci rozmawiają z chatbotem rekrutacyjnym, dochodzi obowiązek poinformowania ich, że rozmawiają z AI. To osobny temat, opisany w tekście Oznaczanie treści AI i chatbota na stronie: co wynika z art. 50 AI Act.
Przykład: firma 40 osób i 300 CV
To scenariusz wymyślony na potrzeby artykułu. Firma handlowa zatrudnia 40 osób i szuka trzech handlowców. Rekruterka chce, żeby AI zrobiła wstępną selekcję 300 zgłoszeń.
- Krok 0. Nikt nie planuje analizy emocji.
- Krok 1. Ogólny asystent AI to system AI.
- Krok 2. Filtrowanie zgłoszeń i ocena kandydatów to załącznik III pkt 4 lit. a.
- Krok 3. Ranking ocenia przydatność ludzi, więc jest profilowaniem. Wynik: wysokie ryzyko, wyjątek z art. 6 ust. 3 odpada.
- Krok 5. Producent czatu nie przeznaczył go do rekrutacji. Pojawia się pytanie z art. 25 ust. 1 lit. c, które firma kieruje do prawnika.
- Krok 6. Obowiązki zaczną się 2 grudnia 2027, ale zakaz analizy emocji i zasady RODO działają już dziś.
Firma ma trzy realne drogi. Może zostawić AI zadania przygotowawcze, np. ujednolicenie formatu CV i wyciągnięcie z nich danych do tabeli, a ocenę zostawić rekruterce. Może kupić narzędzie rekrutacyjne, którego dostawca deklaruje przeznaczenie i zgodność z AI Act, i przygotować się do roli podmiotu stosującego. Może też zrezygnować z AI w selekcji i zapisać, dlaczego wybrała tę drogę.
Co zrobić teraz, zanim przyjdzie grudzień 2027
- Spisz zastosowania, nie narzędzia. Dla każdego zapisz cel, dane wejściowe i to, kto podejmuje decyzję na podstawie wyniku.
- Przepuść każde przez test w 6 krokach i zaznacz te, które trafiają do obszaru z załącznika III.
- Przy każdym zastosowaniu wysokiego ryzyka ustal rolę firmy: dostawca czy podmiot stosujący. W razie wątpliwości z art. 25 skonsultuj prawnika.
- Zapisz reguły użycia AI w HR w firmowych zasadach. Jak je ułożyć, pokazujemy w tekście Polityka AI w firmie: co powinna zawierać i jak ją wdrożyć (ze wzorem).
- Zapytaj dostawców narzędzi HR, czy uznają swój system za wysokiego ryzyka i jak przygotowują się do terminu z 2027 roku.
- Śledź wersję ostateczną wytycznych Komisji. Tabela HR w tym artykule opiera się na projekcie i zaktualizujemy ją, gdy pojawi się wersja finalna.
