W Parlamencie Europejskim („PE”) trwają prace nad projektem rozporządzenia o sztucznej inteligencji („AI Act”).

11 maja Komisja Rynku Wewnętrznego i Komisja Wolności Obywatelskich przyjęły projekt mandatu negocjacyjnego w sprawie przepisów dotyczących sztucznej inteligencji. Projekt ten zawiera istotne poprawki rozporządzenia.

Poprawki dotyczą m.in. katalogu niedozwolonych technologii AI. Na liście zawierającej zakazy natrętnego i dyskryminującego wykorzystania systemów AI znalazły się:

• systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w miejscach publicznie dostępnych
• systemy zdalnej identyfikacji biometrycznej dokonywanej następczo – tutaj przewidziano wyjątek tj. z takich systemów będą mogły korzystać organy w celu ścigania poważnych przestępstw po uzyskaniu zezwolenia sądu
• systemy pozwalające na rozpoznawanie emocji w organach ścigania, w obszarze zarządzania granicami, a także w miejscach pracy i instytucjach edukacyjnych
• predykcyjne systemy policyjne (przewidywanie przestępstw) oparte na profilowaniu, lokalizacji lub przeszłych zrachowaniach przestępczych;

Zakazane ma być również zbieranie danych biometrycznych z mediów społecznościowych lub nagrań z monitoringu w celu tworzenia baz danych rozpoznawania twarzy. Posłowie PE uznali takie praktyki za naruszające prawa człowieka i prawo do prywatności. Nie będzie również dozwolone używanie systemów służących biometrycznej kategoryzacji ludzi
w oparciu o cechy wrażliwe np. płeć, rasa, pochodzenie etniczne, obywatelstwo, religia, poglądy polityczne.

Rozwój AI w Europie ma być etyczny i skoncentrowany na człowieku. Systemy AI
o niedopuszczalnym poziomie ryzyka dla bezpieczeństwa ludzi mają być zakazane, w tym m.in. takie które wykorzystują techniki podprogowe, celowo manipulacyjne, czy też wykorzystywane do punktacji społecznej tj. klasyfikowania ludzi na podstawie cech osobistych, statusu społeczno – ekonomicznego, zachowań społecznych.

Stanowisko Komisji zostanie poddane pod głosowanie na posiedzeniu plenarnym PE (planowane na 12-15.czerwca), a następnie rozpoczną się negocjacje pomiędzy Komisją, PE oraz Radą w celu wypracowania ostatecznego brzmienia AI Act.

Więcej informacji:

https://www.europarl.europa.eu/news/pl/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence