AI: znaki wodne można uszkodzić za darmo w dwie minuty, a nadal mają sens!
Niedawno napisałam artykuł na temat weryfikowania, czy treść została wygenerowana przez sztuczną inteligencję. Nadal uważam, że połączenie pracy człowieka oraz różnych automatycznych sposób weryfikacji, w tym znaków wodnych, to najlepsze, co możemy zrobić. Dzisiaj jednak napiszę o tym, w jaki sposób w 30 sekund lub maksymalnie 2 minuty usunąć znaki wodne z obrazu wygenerowanego przez Gemini. Jednocześnie chciałabym podkreślić, że watermarki w treści wygenerowanej przez sztuczną inteligencję mają ogromny sens. To nie oznacza, że nie można tego zabezpieczenia obejść. Jednocześnie chociaż jest ono wrażliwe na mocne kadrowanie, to w wielu przypadkach tak duża ingerencja w nieprawdziwy obraz będzie oznaczała, że straci on sens. Tym samym – potencjalne oszustwo będzie nieskuteczne. Znaki wodne chronią też przed automatyzacją tworzenia fałszywych informacji w prosty sposób.
Weryfikacja obrazów przez Gemini bazuje na znakach wodnych SynthID1 oraz innych danych identyfikujących treść, takich jak sygnały pochodzenia C2PA2. Każdy może wrzucić plik w oknie chatbota Gemini, by otrzymać odpowiedź na pytanie, czy obraz został wygenerowany przez AI. Tylko niestety – nie zawsze będzie ona poprawna. Sprawdziłam, że oszukanie detektora zajmuje między 30 sekund a 2 minuty (w zależności od źródła grafiki), przy użyciu darmowych programów graficznych. Jednocześnie podatność na błąd powiązana była z kadrowaniem, a to oznacza, że zastosowanie watermarków w wielu przypadkach będzie chroniło przed potencjalnym wprowadzeniem w błąd kogoś, kto zetknie się z wygenerowanym obrazem. Nadal firmy, które decydują się, by z nich korzystać, zasługują na przychylność użytkowników.
Gemini przy swojej grafice bezradne w około 2 minuty
Sprawienie, że Gemini stało się bezradne wobec obrazu, który samo wygenerowało, zajęło maksymalnie 1 do 2 minut. Jednak można ten czas skrócić. Modyfikacje w obrazie: kadrowanie, nałożenie warstwy o kryciu 5,0 (w bezpłatnym programie GIMP, czyli krycie 5%) oraz punktowe rozsmarowanie sprawiły, że znaki wodne stały się nieczytelne.
Znaki wodne Google są najbardziej wrażliwe na kadrowanie
Wykonałam kilka różnych prób z obrazem wygenerowanym przez Gemini. W efekcie należy stwierdzić, że znaki wodne SynthID są najbardziej wrażliwe na kadrowanie. Rozsmarowania, które mają być niewidoczne dla człowieka albo na tyle delikatne, by nie zakłócać odbioru wizualnego, nie były wystarczające do tego, by detektor całkowicie nie wykrywał watermarków. Znaczące pogorszenie jakości obrazu z mocniejszymi rozsmarowaniami, rozmyciem mogłoby jednak okazać się skuteczne.
Wieloetapowa weryfikacja treści generowanej przez AI
Więcej informacji na temat weryfikacji treści generowanej przez AI można znaleźć w moim poprzednim artykule. Tutaj tylko wspomnę, że rozwiązania powinny bazować nie jedynie na znakach wodnych, a tym bardziej nie na samych metadanych pliku, które można łatwo usunąć, ale również na algorytmach weryfikujących inne aspekty treści niż watermarki. Nadal automatyczna detekcja wymaga również wsparcia ze strony doświadczonego profesjonalisty.
Same narzędzia do detekcji powinny dzielić się na te szybkie do codziennego użytku oraz profesjonalne. Te drugie mogą działać dłużej, posiadać opcje wyboru, co powinno być tworzone z myślą o specjalistach. Oczywiście skomplikowane detektory oznaczają wysokie koszty ich pracy.
Znaki wodne mają sens
Warto też podkreślić z całą stanowczością, że dostawcy rozwiązań, którzy stawiają na korzystanie ze znaków wodnych, zasługują na uznanie. Pomimo tego, iż można obejść takie zabezpieczenie w przypadku prostych grafik, to nadal są one dobrym rozwiązaniem. W praktyce ominięcie znaków wodnych w całych scenach jest dużo trudniejsze, gdy wykadrowanie oznacza utratę części obrazu. Niekiedy bowiem zmiana kadru oznaczałaby usunięcie istotnej zawartości, informacji, a przekaz takiej grafiki nie miałby sensu. Koszt ich usunięcia w wideo i audio będzie wyższy. W efekcie watermarki w treściach generowanych przez AI nadal są dobrym rozwiązaniem i zwiększają szansę na wykrycie potencjalnego oszustwa. Chronią też w pewnym stopniu przed automatyzacją tworzenia fałszywych informacji.
Dodatkowy żart dla wytrwałych Czytelników
Ciekawy jest „żart od Gemini” wpleciony w tę całą sytuację, gdyż napis „Autentyczna grafika Gemini” na obrazie, pomimo moich modyfikacji, które spowodowały błąd detektorów, dla człowieka nadal jest częściowo widoczny. Oczywiście: Gemini, Gem i inny zlepek znaków nazwy tej sztucznej inteligencji to mogą być pseudonimy człowieka, który jest twórcą takiej grafiki (w końcu nie każde dzieło to zdjęcie).
- Google DeepMind, SynthID, https://deepmind.google/models/synthid. ↩︎
- Pomoc Google, https://support.google.com/gemini/answer/16722517?visit_id=639178018301109853-4148201635&p=verify_ai&rd=1 ↩︎
