1 sierpnia wchodzą w życie przepisy o sztucznej inteligencji
Unijne przepisy AI Act, które regulują kwestie wykorzystania sztucznej inteligencji, weszły w czwartek w życie. Nowe prawo dzieli różne rodzaje AI na cztery grupy: oprogramowanie wysokiego ryzyka, technologie ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne, które będą w UE zakazane. AI nie będzie mogła np. być wykorzystywana do śledzenia obywateli lub pobierania wizerunków ich twarzy z internetu lub monitoringu miejskiego.
1 sierpnia, 20 dni po publikacji AI Act w Dzienniku Urzędowym UE, przepisy, które regulują kwestie wykorzystania sztucznej inteligencji, weszły w życie. W pełni zaczną obowiązywać za dwa lata. Prace nad polską ustawą już się toczą. Gotowy projekt ma być przyjęty przez rząd w tym roku.
Cztery rodzaje Al
Nowe prawo dzieli różne rodzaje AI na cztery grupy: oprogramowanie wysokiego ryzyka, technologie ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne, które będą w UE zakazane.
Modele niestwarzające ryzyka systemowego, takie jak chatboty czy gry, będą podlegać niewielkim wymogom, głównie dotyczącym przejrzystości. Chodzi o to, żeby użytkownicy mieli świadomość, że mają do czynienia ze sztuczną inteligencją. Dodatkowe wymogi bezpieczeństwa nałożone zostaną na treści zmanipulowane, tzw. deepfakes, czyli materiały wygenerowane przez AI, których celem jest wprowadzenie użytkownika w błąd. Te również będą musiały być opatrzone wyraźnym oznaczeniem.
Systemy wysokiego ryzyka, np. technologie wykorzystywane w oświacie, jak systemy AI analizujące podania studentów o stypendia czy przyjęcie na studia, będą dopuszczane na rynek UE pod warunkiem spełnienia surowych wymogów. Oznacza to, że producenci będą musieli ocenić ich ryzyko jeszcze przed wprowadzeniem na unijny rynek, a obywatele – np. studenci, którzy nie dostaną świadczenia – będą mieli prawo do zaskarżenia decyzji podjętych z użyciem AI.
Al nie wszystko może
Unijne przepisy zakazują stosowania oprogramowania stanowiącego wyraźne zagrożenie dla praw podstawowych użytkowników. Chodzi tu o technologie pozwalające np. na monitorowanie i szpiegowanie ludzi czy wykorzystywanie ich danych wrażliwych, takich jak orientacja seksualna, pochodzenie lub wyznanie, do przewidywania ich zachowań, w tym do tzw. prognozowania kryminologicznego, czyli ryzyka popełnienia przez nich przestępstw, lub do podsuwania im treści mogących wpłynąć na ich decyzje i zachowanie.
Zabronione będzie też stosowanie tzw. systemu punktowania społecznego, służącego do oceny obywateli na podstawie ich zachowań społecznych. Tego typu technologie wykorzystywane są m.in. w Chinach, gdzie np. sąsiedzi przyznają sobie punkty za poprawne wyrzucanie śmieci na osiedlu. Zakaz będzie też dotyczył systemów monitorujących emocje ludzi w miejscach pracy, urzędach, szkołach lub na uczelniach. Takie technologie stosowane są czasem do przewidywania strajków i niepokojów społecznych.
AI nie będzie mogła być też wykorzystywana do śledzenia obywateli lub pobierania wizerunków ich twarzy z internetu lub monitoringu miejskiego, by stworzyć bazy danych służące rozpoznawaniu twarzy. Będą wyjątki, bo z systemów rozpoznawania twarzy pod pewnymi warunkami (np. przy poszukiwaniu osób podejrzanych o terroryzm) będą mogły korzystać służby. W takim przypadku zgodę będzie jednak musiał wydać sąd lub właściwy urząd.
Kontrola nad Al
Przepisy zakładają również powołanie nowych organów monitorujących, w tym urzędu ds. sztucznej inteligencji przy Komisji Europejskiej czy rady do spraw sztucznej inteligencji, w której zasiadać mają przedstawiciele państw unijnych.
Firmy, które nie będą przestrzegać unijnych przepisów o AI, będą musiały liczyć się z surowymi karami. Będzie to albo część rocznego globalnego obrotu firmy lub odgórnie określona grzywna w zależności od tego, która kwota będzie wyższa. Małym i średnim przedsiębiorstwom oraz start-upom grozić będą raczej kary administracyjne.