Oznaczanie treści wygenerowanej przez AI od 2 sierpnia 2026 roku – kto i kiedy musi je stosować?

Oznaczanie treści wygenerowanej przez sztuczną inteligencję od 2 sierpnia 2026 roku to temat, który interesuje wiele osób, ponieważ potencjalnie dużo podmiotów powinno dostosować się do art. 50 ust. 4 i ust. 5 AI Act. Nie oznacza to, że wszyscy są zobowiązani do oznaczania efektów działania sztucznej inteligencji, a nawet podmioty zobowiązane nie zawsze będą musiały to robić. W tym artykule opiszę, kto musi oznaczać treść wygenerowaną przez AI, a kto nie jest do tego zobowiązany oraz w jakich sytuacjach taka informacja nie będzie wymagana od nikogo.

Oznaczanie treści wygenerowanej przy użyciu sztucznej inteligencji to obowiązek, który został zdefiniowany w AI Act. Wszedł on w życie 2 sierpnia 2026 roku. Przepis ten nie dotyczy jednak wszystkich, a nawet zobowiązane do oznaczania treści podmioty nie muszą wskazywać takiej informacji za każdym razem.

Kto musi oznaczać treść wygenerowaną przy użyciu AI?

Do oznaczania wskazanej treści zobligowane są „podmioty stosujące systemy AI”, które należy rozumieć „jako osobę fizyczną lub prawną, w tym organ publiczny, agencję lub inny podmiot, która wykorzystuje system AI, nad którym sprawuje kontrolę, oprócz przypadków gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”¹. Tym samym przepisy te nie dotyczą osób pozazawodowo generujących teksty, grafiki, filmy czy audio za pomocą sztucznej inteligencji. Nie wszyscy zatem, którzy generują treści przy użyciu AI, muszą dbać o jej oznaczenie i są za to odpowiedzialni.

Jakie treści wygenerowane przy użyciu sztucznej inteligencji należy oznaczać?

W AI Act wskazano dwie podstawowe kategorie przypadków, gdy treść wygenerowana przy użyciu sztucznej inteligencji powinna zostać oznaczona przez podmioty stosujące systemy AI. Wśród nich wymieniono:

• teksty opublikowane w celu informowania społeczeństwa o sprawach leżących w interesie publicznym;
• obrazy, audio lub wideo, które mogą stanowić deepfake albo manipulację taką treścią².

Czym jest deepfake według rozporządzenia AI Act?

W praktyce zatem nie wszystkie grafiki, wideo i dźwięki są objęte obowiązkiem z art. 50, ponieważ deepfake ma swoją określoną definicję w AI Act. Obejmuje on „wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia”, jeżeli „mogą niesłusznie zostać uznane przez odbiorcę za autentyczne lub prawdziwe”³.

W praktyce oznacza to, że podmioty stosujące systemy AI nie zawsze będą zobowiązane do podawania informacji o użyciu sztucznej inteligencji. Ważne jest jednak podkreślenie, że nie chodzi tutaj wyłącznie o sztucznie wygenerowane fotorealistyczne grafiki czy filmy prezentujące osoby rozpoznawalne publicznie czy same instytucje. Wszystkie obrazy, dźwięki i wideo potencjalnie wprowadzające w błąd, mogą zostać uznane za deepfake, o ile prezentują określone sceny sugerujące rzeczywiste wydarzenia.

Takie deepfake’i muszą zostać oznaczone przez podmioty stosujące systemy AI jako wygenerowane lub zmanipulowane przez sztuczną inteligencję. Jeżeli stanowią one tylko część całego materiału, to należy ten fakt właściwie wskazać. Informacja musi zostać podana najpóźniej w momencie pierwszej interakcji.

Przykład deepfake objętego obowiązkiem przejrzystości AI

Przykładem może być fotorealistyczna grafika opublikowana przez firmę, która w żartobliwy sposób prezentuje interwencję policji w związku z bójką pomiędzy ludźmi konfliktującymi się o ostatnią sztukę produktu w promocji, o ile może zostać uznana za prawdę. Podobne sytuacje będą miały miejsce przy generowaniu obrazów przez media, ukazujących tłumy czy obrazujących w realistyczny sposób nieprawdziwe zamieszki albo inne tego typu sceny wprowadzające w błąd.

Czym jest tekst informujący o sprawach leżących w interesie publicznym?

Teksty opublikowane w celu informowania społeczeństwa o sprawach leżących w interesie publicznym mogą dotyczyć m.in. tematów zdrowia, szczególnie zdrowia publicznego, bezpieczeństwa, kwestii praw, instytucji itp. W praktyce zakres tego typu tematów będzie bardzo szeroki, ponieważ możemy wskazać tu przykładowo: opiekę zdrowotną, bezpieczeństwo żywności, zarządzania infrastrukturą i energetykę, usługi publiczne, bezpieczeństwo wewnętrzne, obronę narodową, wymiar sprawiedliwości, a nawet dezinformację na tematy dotyczące środowiska oraz klimatu (np. manipulowanie danymi oraz komunikatami Instytutu Meteorologii i Gospodarki Wodnej).

Najważniejsze jest jednak to, czy dany tekst faktycznie może stanowić taki wprowadzający w błąd komunikat. Opinia może zostać uznana za głos w sprawie i zwykły post. Podszywanie się jednak pod komunikaty instytucji, generowanie fałszywych sprawozdań, raportów, manipulowanie prawdziwymi wynikami badań nawet w formie żartu, może zostać uznane bez oznaczenia za łamiące wskazany przepis.

Informacja, że treść została sztucznie wygenerowane w przypadku tekstu opublikowanego w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, powinna być dostępna dla odbiorcy najpóźniej w momencie pierwszej interakcji. Jeżeli stanowi on tylko część całego materiału, należy to także wskazać.

Przykład wykorzystania AI w przypadku tekstu objętego art. 50 AI Act

Przykładem jest wygenerowanie przy pomocy sztucznej inteligencji nieprawdziwej wiadomości SMS zbliżonej do tej z RCB (Rządowe Centrum Bezpieczeństwa) od dowolnej instytucji, urzędu, organu państwa w formie nawet ewidentnego żartu. Załóżmy, że w ramach pracy zawodowej influencer chciałby zwrócić uwagę na jakieś kwestie dotyczące takich powiadomień poprzez pastisz. Jeżeli taka grafika wraz z tekstem nie zostanie oznaczona w sposób jasny dla odbiorcy jako sztucznie wygenerowana, to może być to złamanie wskazanego przepisu, o ile działalność zostanie uznana za prowadzoną w ramach pracy zawodowej.

Niezawodowo nadal można generować treść bez jej oznaczania

Niezawodowo nadal można generować treść przy użyciu sztucznej inteligencji bez jej oznaczania. Jednocześnie w dzisiejszych czasach „pozazawodowo” nie jest równoznaczne z pojęciem „prywatnie”. Tego typu informacje mogą zostać opublikowane przez dowolną osobę i potencjalnie trafić do tysięcy czy milionów użytkowników. Może ona zostać wygenerowana przez dowolne rozwiązanie, które nie spełnia wymagań AI Act lub z innych przyczyn nie posiada czytelnego dla systemów znakowania, które dostawcy wdrożyli. Widoczne oznaczenia mogą zostać usunięte. Tego typu treść, np. obraz, może zostać także opublikowana bez wykorzystania standardów danej platformy, która udostępnia możliwość informowania o wykorzystaniu sztucznej inteligencji, nawet ze złamaniem jej regulaminu, jeżeli obliguje on do tego użytkowników.

Użytkownicy nadal powinni zachować czujność

Niezawodowe tworzenie treści przy użyciu AI nie jest objęte wskazanym obowiązkiem przejrzystości z art. 50 AI Act. Deepfake’i potencjalnie mogą jednak powodować pociągnięcie do odpowiedzialności z przepisów innych aktów prawnych niż wskazany. W praktyce to oznacza, że pozostali użytkownicy nadal powinni zachować czujność. Nie wszystkie treści, wygenerowane przy użyciu sztucznej inteligencji, będą bowiem oznaczanie w sposób jednoznaczny i prosty do zweryfikowania przez odbiorcę.

1. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:32024R1689.  ↩︎
2. Ibidem. ↩︎
3. Ibidem. ↩︎