Weryfikacja treści wygenerowanej przez AI – jak to robić?

Z pewnością wiele osób trafiło już na różne sposoby rozpoznania treści wygenerowanej przez AI. Pomysły użytkowników, jak przejrzeć, że teksty zostały stworzone przez sztuczną inteligencję i z jej wykorzystaniem są często naprawdę bardzo kreatywne. Prawda jest jednak taka, że weryfikacja ponad wszelką wątpliwość niektórych treści bywa problematyczna, a wraz z rozwojem modeli może być jeszcze gorzej. W tym artykule opowiem trochę o problemach z identyfikacją treści wygenerowanej przez AI oraz o znakach wodnych i SynthID. Warto podkreślić także zaangażowanie Google, Nvidia, OpenAI, ElevenLabs, Kakao, ponieważ współpraca w zakresie bezpieczeństwa jest tutaj kluczowa. Im więcej osób wybierze rzetelnych dostawców rozwiązań bazujących na sztucznej inteligencji, tym większa szansa, że firmy będą wdrażać zabezpieczenia, a to kwestia ważna dla nas wszystkich.

Doskonale wszyscy wiemy, że możliwe jest tworzenie przy pomocy AI tekstów, grafik, wideo i audio, które mogą przypominać twórczość ludzi. Dzisiaj chciałabym skupić się na podstawowych drogach weryfikacji, czy treść została wygenerowana przy użyciu sztucznej inteligencji i ich ograniczeniach. Te sposoby detekcji to:

1. heurystyki oraz narzędzia stosowane przez ludzi;
2. detektory wykorzystujące algorytmy przy braku znaków wodnych; 
3. znaki wodne – niewidoczne znakowanie treści generowanej z użyciem AI przez dostawców narzędzi, przykład SynthID i watermarków dla obrazów, wideo, audio.

Znaki wodne, detektory bez watermarków czy samodzielna weryfikacja – odpowiedź: tak!

Wykorzystanie heurystyk i narzędzi do samodzielnej analizy, które ludzie mogą wdrażać w swojej codzienności, wymaga nauki, wysiłku oraz większej ilości czasu. Bywa też bardzo zawodne, a przyczyny błędów wskażę dokładnie poniżej. Podejścia związane z algorytmami sprawdzającymi treści bez watermarków mają swoje ograniczenia związane z probabilistycznym charakterem analizy oraz specyfiką wykorzystania genAI przez użytkowników. Znakowanie efektów działania sztucznej inteligencji znakami wodnymi wymaga dobrowolnego uczestniczenia w systemach tego typu weryfikacji. Potencjalnie mogą również powstać algorytmy służące do ich usuwania.  

W zasadzie detekcja powinna obejmować wszystkie trzy poziomy. Przy automatycznej weryfikacji – dwa poziomy działania algorytmów: weryfikacja rozkładu prawdopodobieństwa przy braku watermarków oraz znaki wodne.

Algorytmiczne modyfikacje obrazów

Na początku warto wskazać, że treści generowane z wykorzystaniem AI nie są jednorodnym zbiorem. Analizując grafiki, możemy natrafić na fotorealistyczne obrazy oraz imitujące rysunek czy w określonym stylu malarskim. Gdy myślimy o sztucznej inteligencji i grafice, często analizujemy fotorealistyczne obrazki, a te mogą mocno odbiegać od zdjęcia. Jednocześnie od lat stosujemy wiele modyfikacji zdjęć przy użyciu algorytmów. Użytkownicy mogą kilkoma kliknięciami zmieniać fotografię w rysunek lub imitację obrazu namalowanego farbami za pomocą nawet bezpłatnych programów graficznych. Większość osób korzystała z różnego rodzaju filtrów, aby poprawić zdjęcie pod względem kolorów. Kwestia modyfikowania wyglądu za pomogą gotowych oraz profesjonalnych narzędzi, a także profesjonalnej fotografii w ogóle to już temat wręcz oklepany w dyskursie publicznym dotyczącym obrazów ludzi w mediach. Negatywny wpływ, szczególnie na młodych odbiorców, nierealistycznego ukazywania ciała omawiany jest od lat, a analizy tego typu obejmują okres przed dostępnością generatywnej sztucznej inteligencji, a nawet czasy sprzed popularności mediów społecznościowych¹.

Algorytmiczne przerysowanie emocji

Przerysowana ekspresja emocjonalna jest charakterystyczna dla niektórych wystąpień skierowanych do dużej liczby osób i treści dostępnych publicznie, a emocjonalne mowy porywały tłumy przez wieki. Część jest nam znana z relacji świadków, autorów innych dzieł, inne zostały zapisane lub utrwalone. W przypadku bardziej codziennych treści użytkownicy od lat byli przyzwyczajani do ekspresyjnej manifestacji emocji w mediach społecznościowych. Znaczna część tekstów, które tam widzimy powstaje po dokładnym przemyśleniu przez nadawcę, z uwzględnieniem standardów pisania tego typu treści, a jednocześnie cechują się bardzo wysoką emocjonalnością, intencja nadawcy jasno wskazuje na chęć wywołania mocnej reakcji u odbiorcy. Rekomendacje treści są wynikiem m.in. preferencji użytkowników, a do pewnego stopnia działają oni kolektywnie, chociaż nie zawsze mają tego świadomość, co jest powiązane ze specyfiką projektowania takich algorytmów. To z kolei sprawia, że chcąc trafić do szerszego grona odbiorców, kolejne treści tworzone są w zgodzie z ugruntowaną tendencją dla społeczności. Czym odbiorca jest mniej znany, tym możemy spodziewać się częstszego przywoływania znanych narracji w celu redukcji niepewności reakcji lub języka charakterystycznego dla komunikacji o charakterze wystąpień publicznych, chociaż nadawca wypowiada się na tematy osobiste czy z perspektywy osobistej. Wynika to z różnicy oczekiwań wobec komunikacji, która odbywa się na poziomach: intrapersonalnym, interpersonalnym, grupowym, międzygrupowym, organizacyjnym i instytucjonalnym oraz masowym². Komunikacja w social media bardzo często łączy te różne poziomy, a w zależności od twórcy czy nadawcy – może cechować się większym lub mniejszym nasyceniem tendencjami z poszczególnych jej rodzajów.

Dla zobrazowania proponuję porównać codzienne rozmowy do ekspresji emocji w tekstach publikowanych w tego typu mediach i szybko dojdziemy do podobnego wniosku – rzeczywistość jest bardziej spokojna oraz prozaiczna niż część tekstów w social media. W końcu, gdy wracamy do domu z popularnej sieci sklepów, a na kasie nabito nam o 1 grosz więcej, ale zorientowaliśmy się po drodze, to jakieś emocje nam towarzyszą, ale rzadko na dwie strony A4. Natomiast historia, że 1 grosz mógł trafić do świnki skarbonki od ukochanej osoby i w przyszłości posłużyć do spełnienia marzeń, a teraz nadzieje legły w gruzach, to kolejna odsłona storytellingu. Można być optymistą i wspierać osobę, która właśnie przeżywa ten 1 grosz lub zezłościć się z nią, ponieważ też nam się to przytrafiło, a w końcu należy zwalczać nieuczciwe praktyki wielkich sieciówek. Można być pesymistą i kwestionować zasadność reakcji, w końcu to tylko drobny błąd, a nie – spisek, a tekst w mediach społecznościowych bez wskazania, co zrobić w takiej sytuacji, niczego nie zmienia. Można także być realistą i zapytać: „Czy te zakupy powinny być przechowywane w lodówce i czy nie zepsuły się w czasie, kiedy powstawały te dwie strony A4 tekstu?”.

Takie reguły pisania zgodnego z zasadami tworzenia emocjonalnego storytellingu to idealna wręcz przestrzeń dla algorytmicznych emocji. Trudno jest oddać odczucia i wrażenia subtelnie, delikatnie, to domena człowieka, codziennych interakcji oraz czytania pomiędzy wierszami. To również przestrzeń dużej niepewności – w istocie ludzie nie zawsze pewnie czują się z nieznanymi sobie osobami, które nie wyrażają emocji dla nich jednoznacznie i gdy nie jest jasne, w jaki sposób zareagować. Media społecznościowe dają ludziom w ich odczuciu bezpieczne ramy do wyrażania emocji w zgodzie z zachowaniem innych.

Emocjonalny i osobisty charakter treści nie oznacza braku wykorzystania AI

Można powiedzieć, że algorytmy nauczyły użytkowników ekspresji emocji pod algorytmy i spopularyzowały storytelling, sprawiając, że wiedza ta jest dostępna dla każdego. Jednocześnie taka ekspresja jest możliwa do odtworzenia przez AI w ramach stylu generowanego tekstu. Przy czym warto zwrócić uwagę, że podczas treningu na danych tekstowych trudno jest oddzielić styl i formę od merytoryki, gdyż razem tworzą zawartość. Jest to dość intuicyjna sprawa dla osób, które prowadzą badania medioznawcze oraz dla językoznawców, lingwistów i specjalistów od pragmatyki językowej. To natomiast może przekładać się na tendencje do określonych fraz lub zlepków słów, a nawet struktury treści, zdeterminowanych w zasadzie wybranym stylem. 

W przypadku obrazu, wideo i audio sprawa jest bardziej skomplikowana. Ten sam tekst może zostać wypowiedziany z mimiką twarzy lub tonem głosu wskazującym na odwrotne nacechowanie emocjonalne niż wynika z treści przekazu, albo wspierać lub modyfikować nacechowanie emocjonalne warstwy tekstowej. W takich sytuacjach forma i styl mogą nie współgrać z tekstową zawartością komunikatu. Oddanie nacechowania emocjonalnego w takich wypadkach bywa trudne. Wiemy jednak już dziś, że wraz z rozwojem modele AI będą coraz lepiej radzić sobie z takimi skomplikowanymi zadaniami.

Trudności ze zdroworozsądkową weryfikacją treści

W konsekwencji wcale nie jest łatwo odróżnić efekt wygenerowany przez sztuczną inteligencję, o ile użytkownicy właściwie wspomagają się AI. Część zlepków słów i charakterystycznych tendencji jest możliwa do uchwycenia, jednocześnie z o wiele mniejszą pewnością niż wielu się wydaje. To, co użytkownicy wskazują jako zarzut w przypadku tekstu, często nie jest w ogóle powiązane z działaniem genAI. To znowu, co uchodzi za indywidualne doświadczenie emocjonalne, bywa bardzo dobrą formą stylistyczną i właściwie opisanym kontekstem w zapytaniu. 

Doceniam kreatywność w weryfikowaniu, czy treść została wygenerowana przez AI i czy właśnie rozmawiamy ze sztuczną inteligencją. Jednocześnie – należy zachować daleko posuniętą ostrożność. To całkiem dobry pomysł (nie jest mój) w przypadku niektórych lokalizacji geograficznych i określonych uwarunkowań, aby zapytać kogoś, czy za oknem pada, o ile to nie jest bardzo duże miasto, a rozmowę prowadzą dwie osoby znajdujące się na dwóch jego końcach, gdyż czasami tylko w jednym z tych miejsc leje deszcz. Podobnie w mniejszych, sąsiadujących ze sobą miejscowościach w Polsce bywa tak, że w jednej jest gradobicie, a w drugiej – kilka chmurek na niebie. Sztuczna inteligencja też może odpowiedzieć poprawnie, gdy ma dostęp do właściwych informacji, albo przypadkowo podać dobrą odpowiedź, a mogłaby wpaść, jeżeli przyznałaby, że nie ma dostępu do takich danych. Znowu jeżeli ktoś zechce stwierdzić, że AI na pewno nie będzie „upierać się” przy swojej odpowiedzi, to też można się czasami zdziwić. O ile trudno jest zaimplementować rzeczywistą obronę prawdziwej tezy przez AI czy weryfikację braków informacji, to zwykły upór jest już łatwiejszy do odtworzenia jako styl czy forma dla bardziej naturalnych doświadczeń użytkownika.

Rozpoznanie obrazów także nie jest wcale tak proste, jak mogłoby się wydawać. Oczywiste błędy na fotorealistycznych grafikach można wyłapać. Gorzej bywa w przypadku dobrze dopracowanych obrazów ludzi wygenerowanych przez genAI. Problemy w identyfikowaniu zdjęć wygenerowanych przez sztuczną inteligencję mają również osoby o szczególnych predyspozycjach w rozpoznawaniu twarzy, a mowa o umiejętnościach charakterystycznych dla specjalistów w tym zakresie. Trafność wskazań tych wyjątkowo uzdolnionych badanych w rozpoznaniu twarzy wygenerowanej przez AI została uznana za wyższą niż w grupie kontrolnej, a dokładność określono – uśredniając – na 57%, chociaż standardowo uzyskują oni ponad 90% dla zadań w zakresie identyfikacji twarzy ludzi. Jednocześnie według badaczy osoby te zamiast szukać niedoskonałości, kierowały się informacją o zbytniej doskonałości twarzy³. Jak wskazałam wcześniej podobna nienaturalna idealność to cecha, która może być pochodną modyfikowania obrazów za pomocą programów graficznych lub gotowych narzędzi bazujących na AI, chociaż zdjęcie rzeczywiście zostało wykonane i ukazuje prawdziwą osobę (istotny będzie tutaj jednak charakter wprowadzonych modyfikacji). Link do artykułu naukowego można znaleźć w przypisie.

Skoro styl tekstów, obrazy, filmy i audio coraz bardziej przypominają rzeczywiste wytwory ludzkie, to obawy o brak możliwości odróżnienia wygenerowanej treści od twórczości człowieka są uzasadnione. Jednocześnie potrzeby ludzkie sprawiają, że kontakt z robotycznymi botami w codziennym życiu mógłby nie spełniać oczekiwań. Z jednej strony – mamy perspektywę pracownika, który chce, aby bot wykonał zadanie. Z drugiej – odbiorcę zadań wykonywanych przez bota, który wolałby czuć się komfortowo, swobodnie komunikując się, przykładowo z chatbotem obsługującym klienta.

Automatyczna detekcja wygenerowanej treści bez znaków wodnych

Detekcja treści przez algorytmy, bazująca wyłącznie na analizie prawdopodobieństwa, dotyczy przewidywania wystąpienia przykładowo określonych słów w przypadku tekstu. Rozkład prawdopodobieństwa nie może jednak ograniczać się do samej weryfikacji występowania określonych słów po sobie czy otaczających dany wyraz. W końcu do pewnego stopnia język determinuje występowanie pewnych fraz. Tym samym istotne staje się przeanalizowanie zmian rozkładu tego prawdopodobieństwa dla weryfikowanego tekstu, w całości lub podzielonego na określone fragmenty. I już na tym etapie zaczynamy dostrzegać, że dłuższe opracowania stają się ogromnym wyzwaniem. Możemy spodziewać się, że fragmenty pracy poświęconej badaniom ilościowym będą zawierać dość standardowe i niekiedy dłuższe opisy tabel czy wykresów, a ze względu na wysoce sformalizowany charakter, detekcja automatyczna może okazać się niewystarczająca do jednoznacznego potwierdzenia, czy dany fragment został wygenerowany przez AI. Jeżeli jednak przeanalizujemy tę samą pracę w całości, wraz z towarzyszącą jej teorią, wnioskami, metodologią, to obraz może być już zupełnie inny, gdyż dany tekst zostanie uznany za napisany przez człowieka. Oczywiście nie tylko sformalizowane opracowania mogą paść ofiarą „zbytniej poprawności” czy zbyt „sztucznointeligentnego” rozkładu prawdopodobieństwa.

W tym samym czasie treści, które powstają przy współpracy człowieka z genAI, mogą mieć przypisane przez detektory (i przez ludzi również) niskie prawdopodobieństwo wygenerowania przez sztuczną inteligencję. Nawet jeżeli cały tekst zostanie utworzony w większości przez AI. Jeżeli użytkownik właściwie podzieli dłuższe opracowanie na fragmenty i osobne rozbudowane zapytania, a następnie złoży z tego większą całość, niekiedy wycinając jedynie fragmenty, to może okazać się, że ludzka praca koncepcyjna i częściowe zaangażowanie będą wystarczające, aby detektory wskazały niskie prawdopodobieństwo wygenerowania tekstu przez AI. Szczególnie jeżeli w pewnym zakresie znajdą się tam części rzeczywiście napisane przez daną osobę⁴. Od razu podkreślam, że powyższe stanowi ostrzeżenie, a nie przepis.

Do tego należy przyjąć pewne założenie, a mianowicie – wskazać przykładowo, jakie zmiany rozkładu prawdopodobieństwa są charakterystyczne dla genAI a jakie dla tekstu człowieka. Można zrobić to na podstawie analiz rzeczywistych treści, po co często sięgają twórcy detektorów. Szybkie zmiany modeli i ich udoskonalanie z pewnością nie ułatwiają tej pracy. 

Problem tekstów wygenerowanych przez sztuczną inteligencję z pewnością przyciąga uwagę i dobrze obrazuje trudności, z jakimi trzeba mierzyć się w procesie automatycznej weryfikacji treści tego typu. Obrazy, audio i wideo cechują się nieco innymi tendencjami, jednocześnie wraz z rozwojem narzędzi musimy spodziewać się, że w części przypadków przydatna będzie weryfikacja autentyczności. To znowu może sprawiać problemy osobom, które potrzebują szybkich efektów, nie interesują się szczegółowo algorytmami, albo w sytuacjach decydowania pod presją czasu przy dużej ilości informacji. Grafika również może być częściowo generowana przez AI, a film składany z wykorzystaniem prawdziwych nagrań oraz generowanych obrazów. Podobne problemy dotyczą także ścieżek audio. To dodatkowo komplikuje sprawę automatycznej weryfikacji.

Znaki wodne jako sposób na oznaczanie treści generowanej przez sztuczną inteligencję

Pewnym rozwiązaniem może być stosowanie znaków wodnych, które nie będą widoczne dla ludzi, a jednak pozwolą na wskazanie, że dany obraz, audio i wideo zostały wygenerowane przez sztuczną inteligencję. Takim rozwiązaniem jest SynthID⁵. Użytkownicy mogą łatwo zweryfikować, czy obraz, wideo i audio zostały wygenerowane przez sztuczną inteligencję, dzięki oznaczeniu treści przez dostawcę rozwiązania. Jeżeli ktoś używa rozwiązań Google, to wystarczy, że skorzysta z Gemini. Więcej można znaleźć tutaj. Watermarki mają jednak najistotniejsze ograniczenie – mogą one pomóc w weryfikowaniu treści wygenerowanych przez AI, ale wymagają dobrowolnego stosowania przez dostawców narzędzi. Współpraca firm rozwijających sztuczną inteligencję i wspierających jej rozwój, jak Google, Nvidia, OpenAI, ElevenLabs, Kakao⁶, to obiecujący rozdział w dbaniu o bezpieczeństwo korzystania ze sztucznej inteligencji.

Zastosowanie niezauważalnych dla ludzi znaków wodnych, pozwala na wiarygodną identyfikację wykorzystania AI. Jednak zapewne powstaną algorytmy służące do ich usuwania, bardziej lub mniej skuteczne. Czas też pokaże, jak rozwinie się dalej temat dobrowolnego stosowania watermarków przez dostawców narzędzi. Tym bardziej warto wspierać te firmy, które są skłonne podejmować działania, wymagające od nich zaangażowania na rzecz bezpieczeństwa.

Rozwiązania hybrydowe w detekcji treści wygenerowanej przez AI jako przyszłość

Przyszłość identyfikowania treści wygenerowanych przez AI bazuje na rozwiązaniach hybrydowych. Detekcja automatyczna przy braku watermarków powinna iść w parze z analizą znaków wodnych. Co więcej – już teraz wiele podmiotów powinno analizować systemy, w których specjaliści z dostępem do detektorów treści potencjalnie wygenerowanej przez sztuczną inteligencję weryfikują autentyczność.

1. Magdalena Gajtkowska, Obraz własnego ciała współczesnej młodzieży a kultura popularna. Badania własne, „Kultura – Społeczeństwo – Edukacja” 2013, nr 2 (4), s. 103-118. ↩︎
2. Denis McQuail, Teoria komunikowania masowego, Warszawa 2007, s. 36. ↩︎
3. James D. Dunn, David White, Clare A. M. Sutherland, Elizabeth J. Miller, Ben A. Steward, Amy Dawel, Too good to be true: Synthetic AI faces are more average than real faces and super‐recognizers know it, „British Journal of Psychology” 2026, s. 1–16, https://bpspsychub.onlinelibrary.wiley.com/doi/10.1111/bjop.70063. ↩︎
4. Kathleen C. Fraser, Hillary Dawkins, Svetlana Kiritchenko, Detecting AI-Generated Text: Factors Influencing Detectability with Current Methods, „Journal of Artificial Intelligence Research” 2025, nr 82, https://arxiv.org/abs/2406.15583. ↩︎
5. Google DeepMind, SynthID, https://deepmind.google/models/synthid. ↩︎
6. Keynote Google I/O 2026, SynthID. ↩︎