Obowiązek oznaczania treści tworzonych przez AI

Od 2 sierpnia 2026 r. zastosowanie znajdzie art. 50 ust. 4 AI Act, wymagający ujawniania i oznaczania określonych treści sztucznie wygenerowanych lub zmanipulowanych. Digital Omnibus odroczył część obowiązków wynikających z AI Act. Odroczenie nie objęło jednak obowiązków podmiotów stosujących AI w zakresie obowiązku oznaczania treści tworzonych przez sztuczną inteligencję.

Powyższe obowiązki z zakresu przejrzystości dotyczą wykorzystywania AI w działalności zawodowej, w szczególności do tworzenia grafik, materiałów wideo i audio oraz niektórych tekstów.

Zakres obowiązku zależy w szczególności od rozumienia pojęcia deepfake. Zgodnie z wytycznymi Komisji Europejskiej nie ogranicza się ono do materiałów przedstawiających rzeczywiste osoby. Może obejmować również wygenerowane lub zmodyfikowane obrazy, nagrania i dźwięki przedstawiające realistyczne obiekty lub zdarzenia, które odbiorca może uznać za autentyczne. Oznaczenia mogą więc wymagać także wizualizacje produktowe, tła reklamowe czy syntetyczny głos lektora. Prosta korekta parametrów technicznych, takich jak ostrość lub kolorystyka, pozostaje poza tym zakresem, o ile nie tworzy fałszywego wrażenia autentyczności.

Praktycznym punktem odniesienia dla wdrożenia tych obowiązków może być Kodeks postępowania w zakresie przejrzystości treści generowanych przez AI, opublikowany 10 czerwca 2026 r., o którym pisaliśmy w FintechNewsie pt. „Oznaczanie treści AI: Komisja Europejska przyjęła nowy kodeks postępowania”. Dokument określa sposób projektowania i umieszczania oznaczeń, w tym stosowanie komunikatów „AI GENERATED” i „AI MODIFIED” oraz informowanie o sztucznym pochodzeniu dźwięku na początku interakcji. Przystąpienie do Kodeksu jest dobrowolne, jednak jego stosowanie ma zapewniać domniemanie zgodności z AI Act. Podmioty wybierające własne rozwiązania, będą musiały wykazać ich adekwatność przed organem nadzoru.

Dla sektora FinTech rodzi to konieczność przeglądu procesów marketingowych, obsługi klienta i publikacji eksperckich. Oznaczenie powinno pojawić się najpóźniej przy pierwszym kontakcie odbiorcy z materiałem. Kontrolą należy objąć także treści dostarczane przez agencje zewnętrzne.

Naruszenie obowiązków przejrzystości może skutkować karą do 15 mln euro albo do 3% całkowitego rocznego światowego obrotu przedsiębiorstwa. Przed 2 sierpnia 2026 r. organizacje powinny zatem zidentyfikować zastosowania AI oraz wdrożyć zasady zatwierdzania i oznaczania treści.

Autor: radca prawny Michał Barwicki