W Parlamencie Europejskim („PE”) trwają prace nad projektem rozporządzenia o sztucznej inteligencji („AI Act”).
11 maja Komisja Rynku Wewnętrznego i Komisja Wolności Obywatelskich przyjęły projekt mandatu negocjacyjnego w sprawie przepisów dotyczących sztucznej inteligencji. Projekt ten zawiera istotne poprawki rozporządzenia.
Poprawki dotyczą m.in. katalogu niedozwolonych technologii AI. Na liście zawierającej zakazy natrętnego i dyskryminującego wykorzystania systemów AI znalazły się:
- systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w miejscach publicznie dostępnych
- systemy zdalnej identyfikacji biometrycznej dokonywanej następczo – tutaj przewidziano wyjątek tj. z takich systemów będą mogły korzystać organy w celu ścigania poważnych przestępstw po uzyskaniu zezwolenia sądu
- systemy pozwalające na rozpoznawanie emocji w organach ścigania, w obszarze zarządzania granicami, a także w miejscach pracy i instytucjach edukacyjnych
- predykcyjne systemy policyjne (przewidywanie przestępstw) oparte na profilowaniu, lokalizacji lub przeszłych zrachowaniach przestępczych;
Zakazane ma być również zbieranie danych biometrycznych z mediów społecznościowych lub nagrań z monitoringu w celu tworzenia baz danych rozpoznawania twarzy. Posłowie PE uznali takie praktyki za naruszające prawa człowieka i prawo do prywatności. Nie będzie również dozwolone używanie systemów służących biometrycznej kategoryzacji ludzi
w oparciu o cechy wrażliwe np. płeć, rasa, pochodzenie etniczne, obywatelstwo, religia, poglądy polityczne.
Rozwój AI w Europie ma być etyczny i skoncentrowany na człowieku. Systemy AI
o niedopuszczalnym poziomie ryzyka dla bezpieczeństwa ludzi mają być zakazane, w tym m.in. takie które wykorzystują techniki podprogowe, celowo manipulacyjne, czy też wykorzystywane do punktacji społecznej tj. klasyfikowania ludzi na podstawie cech osobistych, statusu społeczno – ekonomicznego, zachowań społecznych.
Stanowisko Komisji zostanie poddane pod głosowanie na posiedzeniu plenarnym PE (planowane na 12-15.czerwca), a następnie rozpoczną się negocjacje pomiędzy Komisją, PE oraz Radą w celu wypracowania ostatecznego brzmienia AI Act.
Więcej informacji:
https://www.europarl.europa.eu/news/pl/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence