Jak oznaczać treści generowane przez AI? Obowiązki z art. 50 AI Act

Od 2 sierpnia 2026 r. stosowane są obowiązki w zakresie przejrzystości określone w art. 50 AI Act. Obejmują one kilka odrębnych sytuacji, w tym obowiązki dostawców systemów AI oraz podmiotów stosujących takie systemy. Nie oznacza to jednak, że każda treść wygenerowana lub zmodyfikowana przy wykorzystaniu AI będzie musiała zostać oznaczona. W pierwszej kolejności należy ustalić, jaką rolę w łańcuchu dostaw pełni podmiot, który wykorzystuje dany system AI, a następnie jaki rodzaj treści powstał oraz który z obowiązków określonych w art. 50 AI Act może mieć zastosowanie.

Art. 50 AI Act to nie tylko przepisy dotyczące oznaczania treści, ale również zapewnienia technicznej możliwości ich oznaczenia przez dostawcę danego systemu AI.

Art. 50 AI Act przewiduje kilka różnych obowiązków w zakresie przejrzystości.

Po pierwsze, dostawca systemu AI przeznaczonego do bezpośredniej interakcji z osobami fizycznymi powinien zaprojektować i opracować system w taki sposób, aby osoby te były informowane, że prowadzą interakcję z systemem AI. Obowiązek ten nie ma zastosowania, jeżeli z okoliczności i kontekstu korzystania z systemu AI wynika to w sposób oczywisty[2]. 

Po drugie, dostawcy systemów AI, które generują syntetyczne treści, mają obowiązek zapewnić, aby wyniki systemu były oznakowane w formacie nadającym się do odczytu maszynowego oraz aby można było wykryć, że zostały sztucznie wygenerowane lub zmanipulowane. Rozwiązania te powinny spełniać określone wymagania techniczne, w szczególności w zakresie skuteczności, interoperacyjności, solidności i niezawodności[3]. 

Obowiązek ten jest odrębny od obowiązku ujawnienia odbiorcy, że dana treść została wygenerowana lub zmodyfikowana przez AI. Widoczna informacja dla odbiorcy nie zastępuje technicznego oznakowania zapewnianego przez dostawcę systemu AI i odwrotnie.

Kiedy trzeba oznaczyć treść?

Z perspektywy podmiotu stosującego system AI szczególne znaczenie ma art. 50 ust. 4 AI Act. Podmiot stosujący system AI, który generuje lub modyfikuje obrazy, treści audio lub wideo stanowiące treści typu deepfake, ma obowiązek ujawnić, że treść została sztucznie wygenerowana lub zmanipulowana[4]. 

Nie każda realistyczna treść wygenerowana przez AI będzie jednak deepfake’em. Zgodnie z definicją zawartą w art. 3 pkt 60 AI Act znaczenie ma między innymi to, czy treść przypomina istniejącą osobę, przedmiot, miejsce, podmiot lub zdarzenie oraz czy mogłaby fałszywie sprawiać osobie wrażenie autentycznej lub prawdziwej. Ocena powinna uwzględniać treść przekazu, kontekst jej wykorzystania oraz przewidywanego odbiorcę[5]. Przykładem może być syntetyczny głos przypominający głos istniejącej osoby, realistyczny awatar przedstawiający konkretną osobę czy zmodyfikowany materiał przedstawiający istniejące zdarzenie, jeżeli treść może sprawiać wrażenie autentycznej lub prawdziwej.

Odrębne zasady dotyczą treści artystycznych, twórczych, satyrycznych lub fikcyjnych. W takim przypadku obowiązek przejrzystości nadal może mieć zastosowanie, ale ujawnienie powinno zostać dokonane w sposób, który nie utrudnia wyświetlania ani korzystania z utworu[6]. 

A co z tekstem?

AI Act nie wymaga oznaczania każdego tekstu stworzonego przy wykorzystaniu AI.

Obowiązek ujawnienia dotyczy tekstu wygenerowanego lub zmanipulowanego przez AI, który jest publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. Obowiązek ten nie ma jednak zastosowania wtedy, gdy treść została poddana weryfikacji przez człowieka lub kontroli redakcyjnej, a za jej publikację odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna[7]. 

Nie wystarczy przy tym czysto formalne sprawdzenie tekstu. Komisja Europejska wskazuje, że przykładowo samo sprawdzenie pisowni lub gramatyki, automatyczna weryfikacja albo pobieżna akceptacja redakcyjna nie powinny być uznawane za wystarczającą weryfikację przez człowieka lub kontrolę redakcyjną[8]. Minimalnym wymaganiem jest kontrola w postaci weryfikacji faktów ( fact-checking) i zapewnienia, że wykorzystane źródła są wiarygodne. Komisja wskazuje w wytycznych dotyczących obowiązku przejrzystości, że kontrola redakcyjna oznacza kontrolę sprawowaną przez odpowiedzialny podmiot redakcyjny, na przykład redaktora naczelnego, nad treścią, obejmującą uprawnienie do zatwierdzenia, zmiany lub odrzucenia treści tekstu na podstawie merytorycznych przesłanek, w tym weryfikacji informacji pod względem faktycznym oraz zapewnienia wiarygodności źródeł[9]. 

Jak powinno wyglądać oznaczenie treści wygenerowanej lub zmodyfikowanej (zmanipulowanej) przez AI?

Informacje wymagane na podstawie art. 50 ust. 1–4 AI Act powinny być przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego zastosowania, a także z uwzględnieniem mających zastosowanie wymogów dostępności[10]. 

AI Act nie narzuca jednego, obowiązkowego wzoru oznaczenia. Komisja Europejska oraz uczestnicy kodeksu praktyk dotyczącego przejrzystości treści wygenerowanych przez AI pracują jednak nad rozwiązaniami ułatwiającymi stosowanie tych obowiązków w praktyce, w tym nad technicznymi sposobami oznaczania i wykrywania treści.

Komisja Europejska opublikowała również Wytyczne dotyczące wdrażania obowiązków w zakresie przejrzystości dla niektórych systemów AI na podstawie art. 50 AI Act , które mają pomóc dostawcom i podmiotom stosującym w jednolitym stosowaniu tych obowiązków. Wytyczne mają charakter niewiążący.

Nie każda treść wygenerowana przez AI wymaga oznaczenia

W praktyce kluczowe znaczenie będzie miała zatem ocena konkretnego sposobu wykorzystania systemu AI , a nie samo stwierdzenie, że w procesie tworzenia treści wykorzystano AI.

Przed publikacją warto odpowiedzieć na kilka podstawowych pytań:

▸ Co powstało? – obraz, treść audio, wideo czy tekst?

▸ Co zrobił system AI? – wygenerował treść czy ją zmodyfikował?

▸ Kto wykorzystuje system AI? – dostawca czy podmiot stosujący?

▸ Czy treść spełnia kryteria deepfake’u albo tekstu objętego art. 50 ust. 4? 

▸ Czy znajduje zastosowanie któryś z wyjątków lub szczególnych sposobów realizacji obowiązku?

▸ W jaki sposób należy przekazać informację odbiorcy?

Właśnie tym zagadnieniom poświęciliśmy przygotowany przez nas praktyczny przewodnik „AI + treści: kiedy musisz je oznaczać?”, który zawiera ścieżkę oceny, przykłady oraz praktyczne wskazówki dotyczące realizacji obowiązków wynikających z art. 50 AI Act.

[1] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, Dz.U. L 2024/1689 z 12.7.2024.

[2] AI Act, art. 50 ust. 1. 

[3] AI Act, art. 50 ust. 2. 

[4] AI Act, art. 50 ust. 4. 

[5] AI Act, art. 3 pkt 60; Komisja Europejska, Wytyczne dotyczące wdrażania obowiązków w zakresie przejrzystości dla niektórych systemów AI na podstawie art. 50 AI Act, pkt 113–114.

[6] AI Act, art. 50 ust. 4. 

[7] AI Act, art. 50 ust. 4. 

[8] Komisja Europejska, Wytyczne dotyczące wdrażania obowiązków w zakresie przejrzystości dla niektórych systemów AI na podstawie art. 50 AI Act, pkt 133-137.

[9] Komisja Europejska, Wytyczne dotyczące wdrażania obowiązków w zakresie przejrzystości dla niektórych systemów AI na podstawie art. 50 AI Act, pkt 134.

[10] AI Act, art. 50 ust. 5