Akt w sprawie sztucznej inteligencji jest częścią unijnej polityki wspierającej cyfryzację. Prace nad uchwaleniem dokumentu rozpoczęły się już w 2021 roku. 13 marca 2024 Parlament Europejski zatwierdził Artificial Intelligence Act, czyli Akt w sprawie sztucznej inteligencji.
Na skróty:
AI Act jest pionierskim dokumentem mającym na celu uregulowanie kwestii wykorzystania sztucznej inteligencji. Unia Europejska chce, by sztuczna inteligencja była wprowadzana na rynek i stosowana w sposób, który jest zgodny z wartościami i prawami obywatelskimi UE. Celem jest umożliwienie konsumentom i przedsiębiorstwom w UE bezpiecznego korzystania z AI.
Jakie kategorie systemów sztucznej inteligencji uwzględnia AI Act?
Akt o sztucznej inteligencji zakłada zróżnicowane podejście do regulacji systemów AI oparte na poziomie ryzyka związanego z ich stosowaniem. Podejście to ma na celu zapewnienie odpowiedniego poziomu ochrony zdrowia, bezpieczeństwa oraz podstawowych praw i wolności ludzi w zależności od stopnia ryzyka, jakie mogą generować różne systemy AI. W dokumencie określono następujące poziomy ryzyka:
- Systemy niskiego ryzyka: większość systemów AI zalicza się do tej kategorii, gdzie ryzyko dla praw podstawowych lub bezpieczeństwa jest minimalne. Są to np. AI generujące rekomendacje filmów w serwisach streamingowych lub wirtualne asystentki pomagające w codziennych zadaniach. Dla tych systemów nie są przewidziane surowe regulacje, poza podstawowymi wymogami przejrzystości.
- Systemy ograniczonego ryzyka: obejmuje to systemy AI, które wymagają określonego poziomu przejrzystości. Przykładem mogą być chatboty – użytkownicy powinni być informowani, że interakcją zajmuje się system AI, nie człowiek.
- Systemy wysokiego ryzyka: to systemy AI, które mogą mieć znaczący wpływ na życie ludzi lub które są wykorzystywane w wrażliwych sektorach. Dla tych systemów wymagane jest spełnienie surowych wymogów regulacyjnych przed wprowadzeniem ich na rynek. Przykłady obejmują:
- AI w medycynie: systemy wspomagające decyzje diagnostyczne lub terapeutyczne, np. algorytmy oceniające zdjęcia rentgenowskie.
- Rekrutacja i zarządzanie zasobami ludzkimi: systemy AI używane do przesiewania CV, które mogą wpłynąć na szanse kandydatów na uzyskanie pracy.
- Rozpoznawanie twarzy i inne systemy biometryczne: używane np. w sektorze bezpieczeństwa publicznego.
- AI w edukacji: systemy monitorujące postępy i zaangażowanie uczniów, które mogą wpływać na oceny i ścieżkę edukacyjną.
- Systemy niedopuszczalnego ryzyka: AI Act zakazuje pewnych zastosowań AI, które są uznawane za zbyt inwazyjne lub niebezpieczne dla społeczeństwa. Przykłady to:
- cena społeczna: systemy oceniające obywateli na podstawie ich zachowań lub cech osobistych.
- Manipulacja i eksploatacja: systemy AI, które mogą manipulować użytkownikami lub wykorzystywać wrażliwości osób w sposób szkodliwy.
- Masowe nadzorowanie: systemy do identyfikacji biometrycznej w czasie rzeczywistym w przestrzeniach publicznych do celów nadzorczych, które mogą być stosowane przez organy ścigania bez właściwych gwarancji.
Akt w sprawie sztucznej inteligencji ma na celu stworzenie ram prawnych, które wspierają innowacje w dziedzinie sztucznej inteligencji i jednocześnie chronią obywateli UE przed potencjalnymi zagrożeniami i nadużyciami. Regulacje te mają być elastyczne i zdolne do adaptacji w miarę ewolucji technologii i społeczeństwa.
Jakiego użycia AI zabrania Akt w sprawie sztucznej inteligencji?
- Zakazane jest stosowanie systemów AI, które mają na celu lub prowadzą do istotnego zniekształcenia ludzkiego zachowania poprzez wykorzystanie technik manipulacyjnych lub oszukańczych, które podważają autonomię osób, prowadząc do znaczących szkód.
- Systemy AI, które wykorzystują wrażliwości osób ze względu na ich wiek, niepełnosprawność czy konkretną sytuację społeczno-ekonomiczną, mogą prowadzić do manipulacji lub eksploatacji tych osób i są zakazane.
- Zakazane jest stosowanie systemów AI do kategoryzacji biometrycznej osób na podstawie danych biometrycznych w celu wnioskowania lub określania ich poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub filozoficznych, rasy, życia seksualnego lub orientacji seksualnej.
- Zakazane jest wykorzystywanie systemów AI do społecznej oceny osób przez publiczne lub prywatne podmioty, co może prowadzić do dyskryminacyjnych wyników i wykluczenia niektórych grup.
- Stosowanie systemów AI do identyfikacji biometrycznej osób w przestrzeni publicznej w czasie rzeczywistym w celach egzekwowania prawa jest wysoce inwazyjne i zakazane, z wyjątkiem sytuacji ściśle określonych i ograniczonych, gdzie jest to ścisłe konieczne do osiągnięcia znaczącego interesu publicznego.
- Zakazane jest wykorzystywanie systemów AI wobec osób fizycznych w celu oceny ryzyka popełnienia przestępstwa lub przewidywania wystąpienia rzeczywistego lub potencjalnego przestępstwa, wyłącznie na podstawie profilowania tych osób lub oceny ich cech osobowości i charakterystyki.
- Zakazane jest tworzenie lub rozszerzanie baz danych rozpoznawania twarzy poprzez nieselektywne skrobanie obrazów twarzy z Internetu lub materiału wideo z monitoringu CCTV.
- Zakazane jest stosowanie systemów AI do identyfikowania lub wnioskowania o emocjach lub intencjach osób na podstawie ich danych biometrycznych w kontekście pracy i edukacji.
Te zakazy mają na celu ochronę podstawowych praw i wolności obywateli, zapewniając, że technologia AI jest rozwijana i stosowana w sposób etyczny i zgodny z wartościami Unii Europejskiej.
Jakie są kolejne kroki związane z AI Act?
Po przyjęciu tekstu AI Act przez Parlament Europejski, proces legislacyjny obejmuje kilka kolejnych kluczowych etapów, zanim Akt w sprawie sztucznej inteligencji stanie się prawnie wiążąye w całej Unii Europejskiej. Oto te kroki:
Po pierwszym czytaniu i przyjęciu stanowiska przez Parlament Europejski, rozpoczynają się tzw. negocjacje trilogowe, w których uczestniczą przedstawiciele trzech głównych instytucji UE: Parlamentu Europejskiego, Rady Unii Europejskiej (reprezentującej rządy państw członkowskich) i Komisji Europejskiej. Celem tych negocjacji jest osiągnięcie porozumienia co do ostatecznej wersji tekstu rozporządzenia.
Przyjęcie przez Radę UE: po osiągnięciu porozumienia w trakcie negocjacji trilogowych, zmieniony tekst musi zostać formalnie przyjęty przez Radę Unii Europejskiej.
Drugie czytanie w Parlamencie Europejskim: jeśli w trakcie trilogu zostaną wprowadzone znaczące zmiany, tekst powraca do Parlamentu Europejskiego na drugie czytanie, gdzie musi zostać ponownie przyjęty.
Podpisanie i publikacja: po przyjęciu przez obie instytucje legislacyjne (Parlament Europejski i Radę UE), tekst rozporządzenia jest podpisywany przez prezydentów obu instytucji i publikowany w Dzienniku Urzędowym Unii Europejskiej. Staje się wówczas prawnie wiążący.
Wejście w życie i okres przejściowy: rozporządzenie wchodzi w życie dwudziestego dnia po publikacji, ale zazwyczaj przewiduje się okres przejściowy, aby umożliwić podmiotom gospodarczym i instytucjom dostosowanie się do nowych przepisów.
Państwa członkowskie są odpowiedzialne za wdrożenie rozporządzenia i zapewnienie, by krajowe organy nadzorcze miały uprawnienia i zasoby niezbędne do jego egzekwowania. W przypadku AI Act może to również oznaczać utworzenie lub wskazanie specjalnych organów do spraw nadzoru nad systemami AI.
Mimo, że przed AI Aktem jeszcze dość długa droga cieszy, że Unia Europejska zajęła się tym ważnym problemem i doprowadziła do opublikowania wytycznych. Martwić może poziom szczegółowości zapisów, który może powodować zbyt restrykcyjne stosowanie nowego prawa.
Pełny tekst AI Aktu ( w języku angielskim) dostępny jest do pobrania ze strony Parlamentu Europejskiego.
Ilustracja tytułowa została wygenerowana przez sztuczną inteligencję.
