Od 2 sierpnia unijny Akt o sztucznej inteligencji wchodzi w decydującą fazę. Koniec z deklaracjami, zaczynają się kontrole i kary, a polskie organy nadzoru otrzymują realne uprawnienia do egzekwowania przepisów.
Najważniejsze zmiany dotyczą art. 50 rozporządzenia, czyli obowiązków związanych z przejrzystością systemów AI. Firmy będą musiały informować użytkowników, że mają do czynienia z chatbotem lub voicebotem, a także odpowiednio oznaczać treści wygenerowane przez sztuczną inteligencję, w tym deepfake’i. Część z tych wymogów dotyczy dostawców, czyli producentów narzędzi, a część przedsiębiorców, którzy używają AI w swojej działalności.
– Od 2 sierpnia 2026 r. zaczynają być stosowane przepisy dotyczące informowania człowieka, że wchodzi w bezpośrednią interakcję z systemem AI, informowania o stosowaniu systemów rozpoznawania emocji i kategoryzacji biometrycznej oraz ujawniania deepfake’ów i niektórych tekstów wygenerowanych przez AI. Obowiązki te nie dotyczą wyłącznie wyspecjalizowanych, wielkoskalowych producentów technologii. Mogą mieć znaczenie dla banku korzystającego z voicebota, sklepu internetowego z chatbotem, influencerów, redakcji wykorzystującej generatywną AI czy agencji publikującej syntetyczne materiały reklamowe – tłumaczyła w rozmowie z WNP dr Paula Skrzypecka, CEO i współzałożycielka AI Leaders, prawniczka zajmująca się prawem nowych technologii i AI governance.
Co dokładnie się zmienia
Dr Gabriela Bar, radczyni prawna zajmująca się AI i nowymi technologiami, wskazuje trzy kluczowe obszary regulacji. Pierwszy dotyczy systemów wchodzących w bezpośrednią interakcję z człowiekiem, takich jak chatboty czy voiceboty. Takie rozwiązania muszą jasno informować rozmówcę, że nie jest on w kontakcie z człowiekiem, chyba że jest to oczywiste ze względu na okoliczności.
– Z mojego doświadczenia wynika, że lepiej jasno informować, że mamy do czynienia z chatbotem czy voicebotem. Widziałam sytuacje, w których szczególnie osoby starsze lub mniej obeznane z technologią nie zdawały sobie sprawy, że rozmawiają ze sztuczną inteligencją, a nie z człowiekiem – tłumaczy.
Drugi obszar to oznaczanie treści syntetycznych w sposób techniczny, maszynowo odczytywalny, czyli watermarking. Trzeci to deepfake’i, które w AI Act są zdefiniowane szeroko, jako treści przypominające rzeczywiste obrazy, zdarzenia lub ludzi.
– W praktyce oznacza to, że jeśli w firmie generujemy np. grafiki na social media, elementy reklam czy inne materiały wizualne przy użyciu AI, które łudząco przypominają rzeczywiste osoby lub sytuacje, to takie treści będą podlegały obowiązkowi oznaczenia jako „AI-generated content” – dodaje prawniczka.
Obowiązek oznaczania deepfake’ów spoczywa na przedsiębiorcy, który korzysta z danego systemu. Jeśli ktoś wygeneruje wizerunek polityka łudząco podobny do rzeczywistej osoby, nawet gdy odbiorca domyśla się, że to AI, konieczne jest oznaczenie. Jak relacjonuje dr Bar, w jej praktyce zdarzają się już przypadki klientów generujących materiały reklamowe i pytających o kwalifikację prawną takich treści.
Polskie firmy wciąż niegotowe
Poziom przygotowania firm w Polsce do nowych regulacji jest bardzo nierówny. Z raportu Grupy Banku Światowego wynika, że tylko 8 proc. polskich firm korzysta z AI, podczas gdy w Austrii czy Czechach odsetek jest kilkukrotnie wyższy. Analitycy Banku Światowego szacują, że odpowiednie wykorzystanie AI może zwiększyć polski PKB o 1,3 do 12,1 proc. do 2035 roku. Jednocześnie rośnie zjawisko shadow AI. Według raportu Dagma Bezpieczeństwo IT/ESET, 62 proc. pracowników używa narzędzi AI bez wiedzy i zgody swojej organizacji, często wprowadzając do chatbotów firmowe dane.
– Jeśli chodzi o poziom przygotowania biznesu w Polsce na nowe obowiązki, widzę, że świadomość rośnie, ale jest bardzo nierówna – ocenia dla WNP dr Gabriela Bar.
Jak dodaje, najlepiej przygotowane są sektory regulowane, takie jak finanse, telekomunikacja czy energetyka. Średnie przedsiębiorstwa wprowadzają polityki AI i szkolenia, ale działają punktowo, zamiast patrzeć na temat całościowo. Najmniej przygotowane są mikro i małe firmy, które często zakładają, że skoro korzystają z gotowych narzędzi, to AI Act ich nie dotyczy. Brakuje też szkoleń dopasowanych do specyfiki danej organizacji. Do tego dochodzi obowiązek AI literacy z art. 4, obowiązujący od lutego 2025 roku, o którym wciąż mówi się niewiele.
– Wiele przedsiębiorstw dopiero rozpoczyna identyfikację wykorzystywanych systemów AI i ocenę ryzyk, dlatego najbliższe miesiące będą kluczowe dla uporządkowania procesów oraz zapewnienia zgodności z AI Act – stwierdza dr Judyta Latymowicz, partnerka w kancelarii LEGALLY.SMART.
Ekspertka radzi, aby przedsiębiorcy sprawdzili, jakie systemy AI działają w ich organizacji i do jakich celów służą. To podstawa oceny obowiązków wynikających z rozporządzenia. Konieczna jest także weryfikacja wewnętrznych zasad korzystania z AI, szkolenia pracowników i bieżące monitorowanie wytycznych Komisji Europejskiej, ponieważ kolejne wymogi będą wchodzić w życie etapami.
Kary i nadzór rynku
Za naruszenie obowiązków z art. 50 grozi administracyjna kara pieniężna do 15 mln euro albo do 3 proc. całkowitego światowego rocznego obrotu przedsiębiorcy z poprzedniego roku finansowego. Wysokość kary zależy od tego, która wartość okaże się wyższa.
Kilka dni temu prezydent Karol Nawrocki podpisał krajową ustawę o systemach sztucznej inteligencji, która tworzy ramy prawne dla stosowania AI Act w Polsce. Dokument zakłada powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI), która ma pełnić funkcję organu nadzorującego rynek. Zgodnie z zapowiedziami resortu cyfryzacji, komisja ma powstać w ciągu około trzech miesięcy i będzie uprawniona do przeprowadzania kontroli oraz nakładania kar.
– Do tej pory mieliśmy przede wszystkim katalog obowiązków, ale brakowało mechanizmów ich skutecznego egzekwowania. Ustawa krajowa została już uchwalona i podpisana przez prezydenta, co otwiera drogę do praktycznego stosowania tych przepisów. Warto też pamiętać, że od lutego ubiegłego roku obowiązują już przepisy dotyczące zakazanych zastosowań AI. W mojej praktyce rzadko spotykam sytuacje, w których klienci zadają sobie pytanie, czy konkretne wykorzystanie AI nie jest przypadkiem zakazane, ten wątek jest wciąż nieco marginalizowany – mówi.
Resort cyfryzacji zapowiedział również, że mikro, mali i średni przedsiębiorcy będą mogli korzystać za darmo z piaskownicy regulacyjnej, która ma powstać w ciągu najbliższych trzech, czterech miesięcy.
Źródło: WNP.PL, Fot. Tingey Injury Law Firm/Unsplash; Scott Graham/Unsplash