AI Act - klasyfikacja ryzyka systemów AI

Sztuczna inteligencja nie będzie regulowana w Unii Europejskiej jednolicie dla każdego zastosowania. AI Act opiera się na podejściu opartym na ryzyku. Oznacza to, że zakres obowiązków prawnych zależy przede wszystkim od tego, do czego system AI jest przeznaczony, w jakim kontekście ma być używany oraz jakie skutki może wywoływać dla ludzi, zdrowia, bezpieczeństwa, praw podstawowych lub interesu publicznego. W ocenie obowiązków regulacyjnych i klasyfikacji systemów AI pomocna może być kancelaria prawna Warszawa, szczególnie gdy firma wdraża lub wykorzystuje rozwiązania sztucznej inteligencji w swojej działalności.

‍

Dlatego klasyfikacja ryzyka z AI Act jest jednym z pierwszych etapów wdrożenia zgodności z nowymi przepisami. Firma, która korzysta z narzędzi AI, tworzy je, wdraża u klientów albo integruje z własnymi produktami, powinna ustalić, do której kategorii ryzyka należy dany system. Dopiero później można prawidłowo ocenić, jakie obowiązki wynikają z AI Act.

‍

Dlaczego klasyfikacja systemu AI ma znaczenie

‍

AI Act nie zakłada, że każdy system sztucznej inteligencji jest tak samo niebezpieczny. Inaczej należy oceniać prosty chatbot informacyjny o usługach firmy, inaczej system wspierający rekrutację, a jeszcze inaczej system wykorzystywany w wyrobach medycznych.

‍

W praktyce AI Act kategorie ryzyka pełnią funkcję mapy regulacyjnej. Pozwalają ustalić, czy dany system AI:

• jest zakazany,
• jest systemem wysokiego ryzyka,
• podlega szczególnym obowiązkom przejrzystości,
• nie jest objęty istotnymi obowiązkami AI Act, choć nadal może podlegać innym przepisom, na przykład RODO, prawu pracy, przepisom konsumenckim lub zasadom odpowiedzialności cywilnej.

‍

To istotne, ponieważ błędna kwalifikacja systemu AI może prowadzić do nieprawidłowego wdrożenia AI Act compliance. W wielu organizacjach najważniejszym problemem nie będzie samo korzystanie z AI, lecz brak wiedzy, czy wykorzystywane narzędzie powinno zostać potraktowane jako system wysokiego ryzyka.

‍

AI Act kategorie ryzyka - podstawowy podział

‍

W uproszczeniu AI Act przewiduje cztery główne poziomy ryzyka.

‍

Pierwsza kategoria to ryzyko niedopuszczalne. Obejmuje praktyki zakazane, czyli takie zastosowania AI, które ustawodawca unijny uznał za sprzeczne z wartościami Unii, prawami podstawowymi lub bezpieczeństwem osób. Chodzi m.in. o określone formy manipulacji, wykorzystywanie podatności osób, niektóre formy scoringu społecznego, zakazane przypadki kategoryzacji biometrycznej czy niektóre zastosowania zdalnej identyfikacji biometrycznej w czasie rzeczywistym.

‍

Druga kategoria to systemy AI wysokiego ryzyka. Nie są one co do zasady zakazane, ale podlegają rozbudowanym obowiązkom regulacyjnym. To najważniejsza kategoria z perspektywy przedsiębiorców, administracji publicznej i dostawców technologii.

‍

Trzecia kategoria obejmuje systemy, które powodują ryzyko związane z przejrzystością. W takich przypadkach AI Act może wymagać poinformowania użytkownika, że ma kontakt z systemem AI albo że dana treść została wygenerowana lub zmanipulowana przez AI.

‍

Czwarta kategoria to systemy minimalnego ryzyka. AI Act nie nakłada na nie rozbudowanych obowiązków, choć w praktyce nadal mogą być objęte innymi przepisami, standardami kontraktowymi, wymogami bezpieczeństwa, ochroną danych lub wewnętrznymi zasadami governance.

‍

Systemy AI wysokiego ryzyka - kiedy występują

‍

Systemy AI wysokiego ryzyka są centralnym elementem AI Act. Ich klasyfikacja wynika przede wszystkim z art. 6 AI Act oraz załączników I i III.

‍

Pierwsza grupa obejmuje systemy AI, które są produktem lub elementem bezpieczeństwa produktu objętego określonym unijnym prawodawstwem harmonizacyjnym. Może to dotyczyć m.in. maszyn, wyrobów medycznych, zabawek, wind, urządzeń radiowych, środków transportu lub innych produktów wymienionych w odpowiednich przepisach sektorowych. Nie każdy produkt z komponentem AI będzie automatycznie systemem wysokiego ryzyka. Istotne jest m.in. to, czy system AI pełni funkcję bezpieczeństwa oraz czy produkt wymaga oceny zgodności z udziałem strony trzeciej.

‍

Druga grupa obejmuje samodzielne systemy AI wskazane w załączniku III AI Act. Są to zastosowania uznane za szczególnie wrażliwe z punktu widzenia praw podstawowych, bezpieczeństwa lub sytuacji życiowej osób fizycznych. Przykładowo mogą dotyczyć biometrii, infrastruktury krytycznej, edukacji, zatrudnienia, dostępu do podstawowych usług, egzekwowania prawa, migracji, kontroli granicznej, wymiaru sprawiedliwości oraz procesów demokratycznych.

‍

Ważne jest, że samo użycie AI w obszarze wymienionym w załączniku III nie zawsze oznacza automatycznie system wysokiego ryzyka. 

‍

Przeznaczenie systemu AI jako punkt wyjścia

‍

Dla klasyfikacji systemu AI kluczowe jest jego przeznaczenie. Należy ustalić, do czego system jest przeznaczony przez dostawcę, w jakim kontekście ma działać, jakie decyzje lub rekomendacje ma wspierać oraz jakie kategorie użytkowników lub osób mogą być dotknięte jego działaniem.

‍

Nie wystarczy nazwać narzędzia „asystentem”, „chatbotem” albo „systemem analitycznym”. Ten sam model lub podobna technologia może mieć różną kwalifikację prawną w zależności od zastosowania. Chatbot odpowiadający na ogólne pytania klientów może generować głównie obowiązki przejrzystości. System oceniający kandydatów do pracy, nadający im ranking lub rekomendujący odrzucenie aplikacji może już wchodzić w kategorię systemów wysokiego ryzyka.

‍

Dlatego w ramach AI Act compliance trzeba dokumentować nie tylko samą technologię, ale również jej funkcję biznesową, kontekst użycia, grupę użytkowników, dane wejściowe, rodzaj wyniku oraz wpływ wyniku na decyzje człowieka.

‍

Przykłady obszarów wysokiego ryzyka

‍

W praktyce systemy AI wysokiego ryzyka mogą wystąpić m.in. w następujących popularnych obszarach:

• Biometria - np. zdalna identyfikacja biometryczna, kategoryzacja biometryczna lub rozpoznawanie emocji, o ile dane zastosowanie nie jest zakazane i mieści się w zakresie systemów wysokiego ryzyka.
• Infrastruktura krytyczna - np. systemy wpływające na zarządzanie ruchem drogowym, dostawy wody, gazu, energii elektrycznej, ogrzewania lub funkcjonowanie krytycznej infrastruktury cyfrowej.
• Edukacja i szkolenie zawodowe - np. systemy oceniające wyniki nauczania, przydzielające osoby do instytucji edukacyjnych albo wpływające na dostęp do określonego poziomu kształcenia.
• Zatrudnienie i zarządzanie pracownikami - np. narzędzia do selekcji kandydatów, oceny CV, rankingowania aplikacji, podejmowania decyzji o awansie, monitorowania pracy lub oceny wydajności.
• Podstawowe usługi prywatne i publiczne - np. systemy oceny zdolności kredytowej osób fizycznych, oceny prawa do świadczeń publicznych lub ryzyka w ubezpieczeniach zdrowotnych i na życie.
• Egzekwowanie prawa, migracja i wymiar sprawiedliwości - np. systemy wspierające ocenę ryzyka, analizę dowodów, rozpatrywanie wniosków wizowych lub azylowych, a także narzędzia wspierające organy sądowe.

‍

‍

Czy człowiek w procesie wyłącza wysokie ryzyko

‍

Nie. Sam fakt, że człowiek zatwierdza decyzję albo ma możliwość nadzoru, nie oznacza, że system przestaje być systemem wysokiego ryzyka. Nadzór człowieka jest jednym z wymogów zgodności dla systemów wysokiego ryzyka, ale nie jest prostym sposobem na uniknięcie kwalifikacji.

‍

Jeżeli przeznaczenie systemu obejmuje przypadek użycia wymieniony w załączniku III, a system wpływa na decyzję dotyczącą osoby, to udział człowieka nie zmienia automatycznie klasyfikacji. Inaczej mówiąc, regulacje AI ryzyko oceniają przez funkcję i wpływ systemu, a nie wyłącznie przez formalne pozostawienie człowieka „w pętli”.

‍

Mechanizm wyłączenia z wysokiego ryzyka

‍

AI Act przewiduje tzw. mechanizm filtrujący dla niektórych systemów z załącznika III. System może nie zostać uznany za wysokiego ryzyka, jeżeli spełnia warunki wskazane w AI Act, np. wykonuje wąskie zadanie proceduralne, poprawia wynik wcześniej zakończonej czynności człowieka, wykrywa wzorce decyzyjne bez zastępowania oceny człowieka albo wykonuje zadanie przygotowawcze.

‍

Ten mechanizm trzeba jednak stosować ostrożnie. Nie będzie on dostępny, jeżeli system dokonuje profilowania w rozumieniu przepisów o ochronie danych osobowych. Nie powinien być też traktowany jako sposób formalnego obchodzenia przepisów przez rozbicie jednego systemu na kilka modułów.

‍

Systemy objęte obowiązkami przejrzystości

‍

Niektóre systemy AI nie będą systemami wysokiego ryzyka, ale nadal będą podlegały obowiązkom przejrzystości. Dotyczy to m.in. sytuacji, w których użytkownik wchodzi w interakcję z systemem AI, a także określonych przypadków generowania treści syntetycznych, deepfake’ów lub treści tekstowych publikowanych w celu informowania opinii publicznej o sprawach interesu publicznego.

‍

W takich przypadkach przedsiębiorca powinien ustalić, czy musi poinformować użytkownika o korzystaniu z AI, oznaczyć treść jako wygenerowaną przez AI albo zapewnić inne środki transparentności.

‍

Jak przeprowadzić klasyfikację ryzyka AI Act w firmie

‍

Prawidłowa klasyfikacja ryzyka AI Act powinna obejmować kilka etapów.

‍

Po pierwsze, trzeba ustalić, czy dane rozwiązanie w ogóle jest systemem AI w rozumieniu AI Act. Nie każde oprogramowanie i nie każda automatyzacja będą systemem AI.

‍

Po drugie, należy ustalić rolę organizacji. Inne obowiązki mogą dotyczyć dostawcy, inne importera, dystrybutora, podmiotu stosującego, producenta produktu etc.

‍

Po trzecie, trzeba opisać przeznaczenie systemu. W praktyce należy przeanalizować dokumentację techniczną, instrukcje używania, materiały sprzedażowe, komunikację marketingową, funkcje narzędzia i realny kontekst wdrożenia.

‍

Po czwarte, należy sprawdzić, czy system nie wchodzi w zakres praktyk zakazanych. Ten etap powinien poprzedzać analizę wysokiego ryzyka.

‍

Po piąte, trzeba ocenić, czy system jest objęty art. 6 AI Act i załącznikiem I albo III. Jeżeli tak, należy ustalić, czy możliwy jest mechanizm wyłączenia z klasyfikacji wysokiego ryzyka.

‍

Po szóste, należy sprawdzić, czy system podlega obowiązkom przejrzystości, nawet jeżeli nie jest systemem wysokiego ryzyka.

‍

Po siódme, wynik analizy powinien zostać udokumentowany. W AI Act compliance dokumentacja procesu decyzyjnego jest równie ważna jak sama konkluzja. Przy projektach obejmujących wdrożenie, integrację lub komercjalizację systemów AI znaczenie może mieć również obsługa prawna projektów AI.

‍

Co oznacza klasyfikacja dla dostawców i podmiotów stosujących

‍

Dla dostawców klasyfikacja wpływa na projektowanie systemu, dokumentację techniczną, zarządzanie ryzykiem, jakość danych, nadzór człowieka, dokładność, cyberbezpieczeństwo, rejestrowanie zdarzeń, ocenę zgodności i obowiązki po wprowadzeniu systemu na rynek.

‍

Dla podmiotów stosujących klasyfikacja ma znaczenie przy wyborze narzędzia, negocjowaniu umowy, ocenie dostawcy, kontroli instrukcji używania, wdrożeniu nadzoru człowieka, prowadzeniu rejestrów, informowaniu osób i organizacji procesu korzystania z AI.

‍

W praktyce nie wystarczy zapytać dostawcy, czy jego system jest zgodny z AI Act. Firma powinna rozumieć, do czego sama używa systemu, ponieważ zmiana sposobu użycia może zmienić kwalifikację prawną. System kupiony jako narzędzie ogólne może stać się systemem wysokiego ryzyka, jeżeli zostanie wdrożony do zastosowania wskazanego w AI Act.

‍

Podsumowanie

‍

AI Act nie reguluje sztucznej inteligencji według jednej, prostej zasady. Kluczowe znaczenie ma klasyfikacja ryzyka systemu AI. To od niej zależy, czy dane rozwiązanie jest zakazane, czy stanowi system wysokiego ryzyka, czy podlega obowiązkom przejrzystości, czy też pozostaje w kategorii minimalnego ryzyka.

‍

Dla przedsiębiorców oznacza to konieczność uporządkowania portfela narzędzi AI. Pierwszym krokiem nie powinno być tworzenie ogólnej polityki AI, lecz identyfikacja konkretnych systemów, opisanie ich przeznaczenia i przeprowadzenie kwalifikacji prawnej. Dopiero na tej podstawie można ustalić wymogi AI Act, obowiązki dostawców i podmiotów stosujących oraz zakres realnego AI Act compliance.

‍

Klasyfikacja ryzyka z AI Act nie jest formalnością. Jest punktem wyjścia do całego procesu zgodności z regulacjami dotyczącymi sztucznej inteligencji.

‍