AI Act w praktyce - wykład Aleksandry Maciejewicz dla CIONET

Partnerka kancelarii LAWMORE, Aleksandra Maciejewicz, wzięła udział w wydarzeniu poświęconym praktycznym aspektom stosowania Aktu o sztucznej inteligencji (AI Act). Spotkanie stanowiło przestrzeń do omówienia nowych obowiązków, jakie przepisy unijne nakładają między innymi na przedsiębiorców rozwijających i stosujących rozwiązania AI.

‍

AI Act - podstawa prawna

AI Act to rozporządzenie regulujące wprowadzanie do obrotu i używanie niektórych systemów sztucznej inteligencji w Unii Europejskiej oraz modeli sztucznej inteligencji ogólnego przeznaczenia. Rozporządzenie przewiduje również zakazy niektórych praktyk, przykładowo - w uproszczeniu - manipulowania zachowaniami przy użyciu technik podprogowych, systemów social scoring czy biometrycznej identyfikacji w czasie rzeczywistym. Kluczowe są także obowiązki dostawców i podmiotów stosujących oraz przepisy dotyczące przejrzystości treści generowanych przez AI. Harmonogram wdrożenia przepisów rozłożony jest na lata 2025–2027, co daje czas na przygotowanie się do nowych wymogów w niektórych aspektach, a w niektórych mamy już obowiązujące obowiązki.

‍

AI Act w praktyce – case studies

W trakcie wydarzenia Aleksandra Maciejewicz skupiła się na praktycznych przypadkach  zastosowań prawa. Przykładem jest narzędzie do wypełniania umów, które uczy się na podstawie wcześniejszych danych i proponuje wysokość kar umownych. Mimo że takie narzędzie może spełniać definicję legalną systemu AI z AI Act, to wątpliwe jest, aby zostało uznane za system wysokiego ryzyka. Inny przypadek dotyczył narzędzia wstępnej segregacji CV. Takie rozwiązanie może być uznane za system AI wysokiego ryzyka, będzie musiało spełniać restrykcyjne wymogi w zakresie dokumentacji, rejestrów i procedur zgodności. Podobnie systemy stosowane w edukacji, infrastrukturze krytycznej czy ocenie zdolności kredytowej są klasyfikowane jako wysokiego ryzyka i wymagają wdrożenia mechanizmów zarządzania ryzykiem, transparentności i nadzoru. Z kolei obowiązki podmiotów stosujących obejmują m.in. archiwizację logów, informowanie o stosowaniu AI w miejscu pracy czy monitorowanie incydentów.

‍

AI oczami prawnika

Aleksandra Maciejewicz podkreśliła, że AI Act nie rozstrzyga np. kwestii praw autorskich do treści wygenerowanych przez AI, ale wymaga transparentności co do danych użytych do trenowania modeli. Z perspektywy prawnika najważniejsze jest jednak nie tylko ścisłe przestrzeganie przepisów, ale też przygotowanie organizacji na praktyczne wyzwania - od dostosowania procedur compliance, przez analizę umów z dostawcami technologii, po budowanie wewnętrznych polityk odpowiedzialnego korzystania z AI. AI Act zmienia nie tylko sposób projektowania i wdrażania systemów sztucznej inteligencji, lecz także praktykę kontraktową i zarządzanie ryzykiem w firmach.