• W środę Parlament Europejski przyjął dyrektywę w sprawie sztucznej inteligencji.
• Nowe przepisy zakazują pewnych zastosowań sztucznej inteligencji, które zagrażają prawom obywateli.
• Ponadto służby policyjne nie będą mogły korzystać z systemów identyfikacji biometrycznej.
• Zobacz także: Najnowszy sondaż wyborczy. Hołownia ma duże kłopoty. Ogromny spadek poparcia Trzeciej Drogi

W środę Parlament Europejski przyjął dyrektywę w sprawie sztucznej inteligencji. Za tymi przepisami zagłosowało 523 europosłów, przeciw było 46, natomiast 49 europosłów wstrzymało się od głosu. Nowe przepisy zakazują pewnych zastosowań sztucznej inteligencji, które zagrażają prawom obywateli. Chodzi między innymi o systemy kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe i nieukierunkowane pobieranie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej, by stworzyć bazy danych służące rozpoznawaniu twarzy.

W miejscach pracy zakazane będzie wykorzystywanie AI do rozpoznawania emocji pracowników, a także zostanie to zabronione w instytucjach edukacyjnych, przy prognozowaniu przestępczości tj. poprzez profilowanie danej osoby i ocenianiu jej cech. Nie będzie też dozwolona sztuczna inteligencja, która manipuluje zachowaniem ludzi lub wykorzystuje ich słabości.

Policja zyska nową technologię?

Ponadto służby policyjne nie będą mogły korzystać z systemów identyfikacji biometrycznej. Jednakże będą istnieć pewne wyjątki, gdzie organy ścigania będą mogły korzystać z AI wyłącznie w czasie rzeczywistym i będą spełniać określone warunki. Na przykład mogą je stosować w określonym czasie i w określonym położeniu geograficznym.

Organy ścigania muszą też posiadać specjalne zezwolenie sądowe lub administracyjne. Mogą je wykorzystywać, by odnaleźć zaginioną osobę lub zapobiegać atakowi terrorystycznemu.

Służby będą mogły korzystać z systemów identyfikacji biometrycznej post factum, dopiero po uzyskaniu pozwolenia od sądu, gdyż systemy takie wykorzystuje się do wyszukiwania w związku z przestępstwem.

Czytaj więcej: Wizyta Dudy i Tuska w Waszyngtonie. Współpraca na rzecz bezpieczeństwa ponad podziałami. Domański: "To jest pozytywne zaskoczenie"

Obywatel zyskają prawo do obrony przed sztuczną inteligencją

Szczególne obowiązki określono również dla innych systemów sztucznej inteligencji wysokiego ryzyka, ponieważ stanowią one potencjalne zagrożenie dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji czy praworządności. Obszary, w których wykorzystuje się takie systemy, to na przykład: infrastruktura krytyczna, edukacja i szkolenie zawodowe, zatrudnienie, podstawowe usługi prywatne i publiczne (np. opieka zdrowotna, bankowość). Opierają się też na nich niektóre systemy organów ścigania.

Takie systemy muszą oceniać i ograniczać ryzyko oraz prowadzić rejestry zdarzeń. Muszą też być przejrzyste i dokładne oraz podlegać kontroli człowieka. Dzięki rozporządzeniu obywatele będą mieć prawo składania skarg dotyczących systemów. Będą także otrzymywać wyjaśnienia decyzji podejmowanych przez systemy sztucznej inteligencji wysokiego ryzyka, które mają wpływ na ich prawa.

Najbardziej zaawansowane modele AI ogólnego przeznaczenia, które mogą stwarzać ryzyko systemowe, będą musiały spełniać dodatkowe wymagania. Operatorzy sztucznej inteligencji będą musieli między innymi przeprowadzać oceny modeli, oceniać i ograniczać ryzyko systemowe i zgłaszać incydenty. Ponadto należy wyraźnie oznaczać nieautentyczne lub zmanipulowane obrazy, treści audio lub wideo, tzw. deepfakes.