Obowiązki przejrzystości w AI Act od 2 sierpnia 2026 roku – wyzwania dla dostawców i firm stosujących sztuczną inteligencję

Obowiązki przejrzystości, które dotyczą również oznaczania treści sztucznie wygenerowanej, to tylko jeden z wielu przepisów dotyczących sztucznej inteligencji, który wprowadza AI Act. Zasady te zostały zdefiniowane w art. 50 i zaczną obowiązywać na terenie Unii Europejskiej od 2 sierpnia 2026 roku. W tym artykule wskażę kilka wyzwań, które mogą pojawić się na różnych etapach dla dostawców oraz stosujących systemy AI, a także – dlaczego przywołany art. 50 okaże się często nieskuteczny wobec sieci kontaktów oraz komunikacji w Internecie.

Rozporządzenie o sztucznej inteligencji AI Act wprowadza szereg różnych regulacji dotyczących systemów tego typu¹. Część z nich wejdzie w życie na terenie Unii Europejskiej dopiero za jakiś czas. Niektóre zaczną jednak obowiązywać już od 2 sierpnia br. Dotyczy to zasad przejrzystości z art. 50 „Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI”. Warto podkreślić, że dla obszaru obowiązywania przepisów nie ma znaczenia siedziba dostawcy lub podmiotu stosującego dany system, która może znajdować się na terenie UE lub poza nim.

Oznaczenia informujące użytkowników o treści wygenerowanej przez AI

Dość popularnym tematem jest kwestia oznaczania treści wygenerowanej przez sztuczną inteligencję, ponieważ przepis obejmuje potencjalnie wiele firm. Nie dotyczy on jednak osób, które wykorzystują AI pozazawodowo. Co więcej, oznaczane muszą być tylko wyselekcjonowane efekty działania sztucznej inteligencji:

• tekst opublikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, jeżeli może wprowadzać w błąd;
• obrazy, audio lub wideo, które mogą stanowić deepfake albo manipulację taką treścią lub zawierają treści o charakterze deepfake. 

W praktyce nie wszystkie obrazy, dźwięki czy wideo są objęte tym obowiązkiem. Dotyczy to wyłącznie tych treści, które mogą zostać przez odbiorcę mylnie uznane za prawdziwe, gdy prezentują ludzi, sceny, miejsca w sposób wprowadzający w błąd. W przypadku tekstów istotny będzie ich charakter, to na ile dotyczy on kwestii ważnych społecznie, publicznie. Chodzi tu m.in. o tematy zdrowia publicznego, kwestie społeczno-polityczne, podszywanie się pod badania naukowe, raporty, ostrzeżenia instytucji, a także manipulowanie rzeczywistymi treściami tego typu przy użyciu sztucznej inteligencji.

W każdej z tych sytuacji podmiot stosujący AI musi oznaczyć wskazaną treść jako wygenerowaną lub zmanipulowaną przez sztuczną inteligencję. Wskazana informacja powinna być dostępna najpóźniej w momencie pierwszej interakcji użytkownika z taką zawartością.

Obowiązki przejrzystości i informacja o interakcji z AI

Zasada przejrzystości sztucznej inteligencji w AI Act dotyczy także informowania użytkowników, że prowadzą rozmowę z AI, a rozwiązania te powinny być wdrożone przez dostawców. Mówimy zatem o podejściu do samego rozwoju sztucznej inteligencji. Nie chodzi tylko o komunikat, który potencjalne można byłoby umieścić w każdym miejscu interface’u w przypadku chatbotów lub automatyczny tekst poza działaniem samego systemu AI dla rozmów głosowych. To system AI musi informować o tym, że właśnie użytkownik wchodzi w interakcję ze sztuczną inteligencją. 

W praktyce to kilka problemów, które można sprowadzić do dwóch skrajności:

• zupełnie zbędna informacja o tym, że rozmowę prowadzi AI, gdy użytkownik o tym wie z innych etapów customer/user journey, na co wskazuje art. 50 ust. 1 nakazujący informowanie, „chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania”²;
• niezbędna informacja podczas pierwszej interakcji, na początku rozmowy oraz w dowolnym momencie, nawet kilka razy powtarzana w różnych częściach dyskusji na życzenie użytkownika.

Moim zdaniem należałoby uwzględnić, że oba scenariusze powinny zostać obsłużone przez systemy AI zgodnie z tak sformułowanym przepisem. Jeżeli ktoś uważa, że drugi punkt to złośliwość użytkownika, to od razu tłumaczę, iż mogą zdarzyć się sytuacje, gdy klientem będzie grupa ludzi wchodząca w interakcję z AI. Wyobraźmy sobie, że pojedyncze osoby dołączają do rozmowy jedna po drugiej i zadają pytanie, kto ich obsługuje. Obecnie wystarczy, że użytkownik będzie zajęty czymś innym i źle usłyszy lub pominie odpowiedź z roztargnienia, więc poprosi jeszcze raz o informację. Osoba dyskutująca z AI może również chcieć podzielić się po minucie rozmowy z kimś innym, że jako klient korzysta z wirtualnego asystenta i z tego powodu ponowi pytanie.

Zgodnie z przepisem informacja powinna zostać podana użytkownikowi już na samym początku interakcji. Jednocześnie byłoby to niefortunne, gdyby ktoś otrzymał komunikat na początku rozmowy, że wszedł w interakcję ze sztuczną inteligencją, a później zupełnie inną odpowiedź w trakcie dyskusji. Oczywiście informacja dostępna w jakiejś części interface’u zapewne może być podstawą do uznania, że dla uważnego i ostrożnego użytkownika jest to oczywiste, gdyż został dostatecznie poinformowany, zna komunikat. W przepisie dość mocno zaakcentowano działanie systemów AI, wskazując wytyczne, by je „projektowano i rozwijano w taki sposób, aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI”³.

Znakowanie treści wygenerowanej przez AI a zasady przejrzystości

Dostawcy systemów bazujących na sztucznej inteligencji muszą również zapewnić znakowanie treści wygenerowanej przez ich rozwiązania „w formacie nadającym się do odczytu maszynowego” tak, aby „były wykrywalne jako sztucznie wygenerowane lub zmanipulowane”. Przykłady znakowania tego typu obejmują m.in. niewidoczne znaki wodne lub wskazówki w metadanych. Przy czym dostawcy systemów AI powinni zapewniać „skuteczność, interoperacyjność, solidność i niezawodność swoich rozwiązań technicznych w zakresie, w jakim jest to technicznie wykonalne, uwzględniając przy tym specyfikę i ograniczenia różnych rodzajów treści, koszty wdrażania oraz powszechnie uznany stan wiedzy technicznej, co może być odzwierciedlone w odpowiednich normach technicznych”⁴.

W praktyce każdy z tych sposób będzie w pewnym zakresie zawodny. Nadal jednak jest to dobry krok w kierunku zniechęcania do tworzenia treści celowo wprowadzających w błąd poprzez: wzrost kosztów lub zbytnie skomplikowanie dla części potencjalnych oszustów. Oczywiście dopóki korzystają oni z rozwiązań dostarczanych przez firmy, które stosują się do przepisów AI Act lub decydują się na udział w takich systemach dobrowolnie.

Informacja o wykrywaniu emocji oraz kategoryzacji biometrycznej w AI Act

Obowiązki przejrzystości z AI Act dotyczą również informowania o rozpoznawaniu emocji użytkowników oraz wykorzystaniu kategoryzacji biometrycznej. Pierwsza kwestia to bezpośrednie weryfikowanie emocji, np. za pomocą analizy mimiki, głosu, sposobu poruszania się, potencjalnie na podstawie ruchu gałek ocznych, zmiany źrenic i innych reakcji biologicznych organizmu, ale należałoby także zwrócić uwagę na pośrednie wnioskowanie o emocjach, m.in. z danych behawioralnych – kliknięcia, ruchy myszką, sposób pisania na klawiaturze, a nawet błędy i tendencje językowe skorelowane ze stanem emocjonalnym, które nie oddają emocji wprost. Natomiast kategoryzacja biometryczna definiowana jest jako przypisywanie ludzi „do określonych kategorii na podstawie danych biometrycznych tych osób”⁵. W odniesieniu do szczególnych kategorii w AI Act wskazuje się takie aspekty, jak: płeć, wiek, kolor włosów, kolor oczu, tatuaże, cechy behawioralne, osobowości, język, religia, przynależność do mniejszości narodowej, orientacja seksualna lub poglądy polityczne. 

Przepis ten obejmuje podmioty stosujące systemy AI, a część z nich to również dostawcy. Nie obejmuje on jednak tych sytuacji, w których weryfikacja danych biometrycznych jest wymagana do świadczenia określonej usługi i pełni rolę pomocniczą, nie istnieje zatem bez głównej funkcjonalności o charakterze komercyjnym. O ile ktoś nie próbuje pod pozorem takiego pomocniczego charakteru dostarczać rozwiązań, których głównym zadaniem jest kategoryzacja biometryczna. Jako przykład wskazano filtry w mediach społecznościowych czy aplikacje klasyfikujące cechy twarzy lub ciała wykorzystywane do doradzania klientom w sklepach online, co już teraz jest powszechnym rozwiązaniem w przypadku odzieży i kosmetyków.

Z obawą muszę stwierdzić, że to duże pole do nadużyć. W grę wchodzi zbieranie danych, które można powiązać bezpośrednio w konkretnymi osobami, a następnie wykorzystywać do dalszych działań. Jednocześnie już teraz wielu użytkowników korzysta z różnych rozwiązań do poprawiania swoich fotografii czy filmów, nie zawsze weryfikując, jak ich dane będą wykorzystywane w przyszłości.

Podmioty objęte obowiązkami przejrzystości w AI Act

Wskazane przepisy nie obejmują osób fizycznych korzystających z rozwiązań bazujących na sztucznej inteligencji pozazawodowo. Tym samym nie dotyczy użytkowników, którzy generują teksty, obrazy, dźwięki lub wideo niekomercyjnie oraz nie są dostawcami tych systemów. Nie muszą oni również dbać o oznaczenie wygenerowanej treści, gdyż nie są za to odpowiedzialni.

Ważne jest podkreślenie, że art. 50 AI Act odnosi się do „dostawcy systemów AI” i „podmiotu stosującego”, który należy rozumieć „jako osobę fizyczną lub prawną, w tym organ publiczny, agencję lub inny podmiot, która wykorzystuje system AI, nad którym sprawuje kontrolę, oprócz przypadków gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”⁶. W Polsce znaczenie ma także ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji⁷, którą Prezydent RP podpisał 24 lipca 2026 roku⁸. Wskazuje ona m.in. zakres podmiotowy i przedmiotowy nadzoru nad rynkiem systemów AI oraz sposób jego sprawowania.

Obowiązki przejrzystości z AI Act nie rozwiązują wszystkich problemów

Najgorsze, co mogłoby się stać, to poczucie użytkowników, że obowiązki przejrzystości z art. 50 AI Act, a także nadzór nad rynkiem sztucznej inteligencji uregulowany w ustawie o systemach AI, zwalniają ich z samodzielnej weryfikacji treści. Nawet jeżeli wszyscy dostosują się do tej zasady perfekcyjnie, to nie daje gwarancji, że nie trafimy na informacje celowo wprowadzające w błąd, a wygenerowane za pomocą AI. Problem może bowiem powstać na różnych etapach.

1. Regulacja rynku nie oznacza regulacji globalnego przepływu informacji

Regulacja rynku na określonym terenie jest możliwa, chociaż i tak skomplikowana, szczególnie w dobie tak rozwiniętych międzynarodowych zależności gospodarczych. Trudno jednak mówić o terenie w przypadku informacji w Internecie. Ktoś może udostępnić treść prywatnie, twierdząc, że sam nie wiedział, że to deepfake, nieprawdziwa scena, która nie powstała przy użyciu systemów tworzonych, dostarczanych na terenie UE, a sama informacja nawet nie była tworzona z myślą o tym rynku czy obszarze. Hipotetycznie możemy zobaczyć prywatny wpis dowolnej osoby, która udostępni wygenerowany fikcyjny obraz ludzi wykonujących jakieś czynności bez żadnego znakowania i oznaczenia, na który autor publikacji natrafił przypadkiem, stwierdzając, że „takie rzeczy dzieją się na świecie”.

2. Zatarcie przez technologię podziału na to, co prywatne i publiczne

Prywatnie stworzony żart, za pomocą narzędzi, które nie spełniają lub nie spełniały powyższych przepisów w przeszłości, może trafić bardzo skomplikowanymi drogami w ręce kogoś, kto uzna go za prawdę lub nie, ale zaprezentuje publicznie jako fakt. Przesyłane prywatnie obrazy potrafią rozprzestrzeniać się bardzo szybko, a pozostają nieznane szerszemu gronu do momentu, gdy ktoś uzna, że należy je opublikować. Pierwotny twórca często nie ma pojęcia, jak publiczny stał się tego typu żart, który w domyśle był częścią prywatnej dyskusji. Jeżeli niefortunnie trafił do setek osób również w prywatnych rozmowach, to w końcu znajdzie się w posiadaniu kogoś, kto nie będzie znał kontekstu i może podejść do wygenerowanej informacji zbyt poważnie. Prywatność zatarta jest także przez fakt, że wpis, który został opublikowany pozazawodowo, w poczuciu użytkownika w czasie prywatnym w sieci prywatnych kontaktów, może potencjalnie trafić do tysięcy lub milionów użytkowników.

3. Prawo nie działa wstecz, a technologia nie zawsze

Przykład z punktu 2 obrazuje też problem historycznie wygenerowanych treści, które nie zostały w żaden sposób oznaczone. Nawet jeżeli w tym momencie powinny być oznakowane przez niektóre podmioty lub powinny zostać zapewnione sposoby znakowania nadające się do odczytu maszynowego przez dostawców, to nie można tego zrobić wstecznie wobec już wygenerowanych treści. Utworzony przy wykorzystaniu AI obraz, który ktoś pobrał na swoje urządzenie, działa bowiem jak informacja, a przekazanie informacji to proces bezzwrotny, ponieważ nie można jej komuś odebrać. Możliwe jest nadal ograniczenie zakresu jej wykorzystania. W przypadku AI Act niezawodowo sztucznie wygenerowana zawartość nie jest objęta zasadą przejrzystości. Jeśli zatem powstała jakiś czas temu, to dostawcy nie byli zobligowani do znakowanie jej tak, by ułatwić detekcję automatyczną, a publikując jako osoba fizyczna niezawodowo takie efekty działania AI, nie trzeba ich dodatkowo oznaczać. Obraz z przykładu może dalej funkcjonować w sieciach komunikacji prywatnych i płynnie przechodzić do publicznych, by w ten sposób stać się przyczyną dezinformacji.

4. Większość zabezpieczeń technicznych można obejść

W przypadku rozwiązań, których celem jest zabezpieczenie, możliwe jest przy określonym nakładzie zasobów, znalezienie pewnych sposób ich obejścia. Jeżeli ktoś będzie zdeterminowany i wystarczająco obojętny na negatywne konsekwencje niewłaściwego postępowania, to decydujące staną się koszty w stosunku do potencjalnych subiektywnych zysków. Tym samym nawet najlepsze znakowanie treści powstającej przy użyciu sztucznej inteligencji w taki sposób, by możliwe było weryfikowanie, że została ona sztucznie wygenerowana, może zostać usunięte.

5. Przepisy nie obejmują wszystkich

Wskazane obowiązki przejrzystości nie obejmują wszystkich. Ktoś może dla celów prywatnych wygenerować nieprawdziwe informacje, nawet nie mając złych intencji. Z punktów 2 i 3 możemy wyczytać, jak łatwo żart może stać się przyczyną dezinformacji. Ponadto przepisy dotyczą określonego obszaru.

Zasady przejrzystości w AI Act a potrzeba tworzenia systemów weryfikacji treści

Biorąc pod uwagę powyższe kwestie, należy stwierdzić, że nadal potrzebne są systemy weryfikacji, czy treść została wygenerowana przez sztuczną inteligencję. Dotyczy to zarówno rozwoju umiejętności oraz edukacji, jak również zorganizowanych systemów w przypadku firm i instytucji. Obok samego oznaczania w sposób jawny oraz znakowania niewidocznymi znakami wodnymi czy pozostawiania innych wskazówek w metadanych, ważna jest także weryfikacja za pomocą detektorów analizujących samą treść, które muszą być stale rozwijane, aby sprostać wyzwaniom. Praca specjalisty jest pod tym względem istotna na każdym z etapów: tworzenie odpornych rozwiązań znakowania pod automatyczną weryfikację, rozwój oprogramowania weryfikującego nie tylko tego typu znakowanie, weryfikacja treści przez człowieka. Więcej na ten temat można znaleźć w artykule na temat weryfikacji treści wygenerowanej przez sztuczną inteligencję.

1. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:32024R1689. ↩︎
2. Ibidem. ↩︎
3. Ibidem. ↩︎
4. Ibidem. ↩︎
5. Ibidem. ↩︎
6. Ibidem. ↩︎
7. Ministerstwo Cyfryzacji, Ustawa o systemach AI – bezpieczny rozwój sztucznej inteligencji w Polsce, https://www.gov.pl/web/cyfryzacja/ustawa-o-systemach-ai–bezpieczny-rozwoj-sztucznej-inteligencji-w-polsce. ↩︎
8. Oficjalna strona Prezydenta Rzeczypospolitej Polskiej, https://www.prezydent.pl/aktualnosci/wydarzenia/prezydent-podpisal-5-ustaw-1-skierowal-do-tk-w-trybie-kontroli-prewencyjnej,123691. ↩︎