AI Act ruszył pełną parą, a już zauważyć daje się pewien trend dobrze znany z…RODO.

To znaczy z ostrożności lepiej uznać za dane osobowe WSZYSTKO i udzielić RODO-pouczeń WSZYSTKIM.

Podobnie internet traktuje obrazy wygenerowane przez AI: lepiej jest oznaczyć WSZYSTKO niż…nie.

Za tym postępowaniem stoi żelazna logika: przepisy nie przewidują kar za nadgorliwość i zbyt dużą „przejrzystość” 😉.

Za to surowo każą za niedopełnienia obowiązków związanych z pouczeniami i oznaczeniem treści AI.

Taka „taktyka” może jednak okazać się bardzo krótkowzroczna:

Algorytmy mogą zacząć penalizować treści związane ze sztuczną inteligencją (tutaj przeczytasz jak popularnonaukowy kanał @kurzgesagt został „zbanowany” przez youtube).

Ludzie już mają dość AI slopu i co raz mocniej preferują treści tworzone przez twórców z krwi i kości.

Wreszcie zwyczajnie warto wiedzieć kiedy treści wymagają oznaczenia jako obrazy wygenerowane przez AI, a kiedy nie.

Jeżeli nie dla siebie to z całą pewnością takie pytania prędzej czy później zaczną Ci zadawać klienci.

Czy trochę wiedzy i zdrowego rozsądku sprawi, że będziesz bezbłędnie oznaczać te treści które tego wymagają?

Odpowiedź może Cię zaskoczyć 😉.

Czy obrazy wygenerowane przez AI to zawsze deepfejki?

Dla zrozumienia czego tak naprawdę AI Act od nas oczekuje kluczowym pojęciem jest „deepfake”.

Określenie „deepfake” łączy dwa angielskie pojęcia: „deep learning”, czyli uczenie głębokie, oraz „fake”, oznaczające fałszywy.

Same deepfake’i powstają dzięki modelom uczenia maszynowego wykorzystującym sztuczne sieci neuronowe.

AI Act definiuje je w następujący sposób:

„deepfake” oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe”.

I tutaj kwestia absolutnie kluczowa: nie każdy obraz wygenerowany lub zmanipulowany przez AI będzie stanowić deepfejka.

Definicja deekfake wymaga bowiem, aby jednocześnie występowały trzy elementy:

1/ Treści muszą być wygenerowane przez AI lub zmanipulowane przez AI

Tutaj akurat sprawa jest prosta: wszystko co jest rezultatem pracy LLMa (outputem) jest wygenerowane lub zmanipulowane przez AI.

2/ Treści muszą przypominać istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia

Te elementy muszą obiektywnie istnieć w rzeczywistości, a wygenerowane treści powinny je przypominać.

Przykładowo park wody na spotcie Suntago przypomina prawdziwą atrakcję.

3/ Musi istnieć potencjał wprowadzenia odbiorcy w błąd co do autentyczności lub prawdziwości treści

I tutaj mamy sedno całej definicji.

Jeżeli do tej pory deepfake kojarzył Ci się z „podstępem” czy „fałszowaniem” to bardzo dobrze, bo dokładnie tak powszechnie się rozumie to pojęcie.

W AI Act również ustanawia zasadę, że za deepfejk uważa się coś co może wprowadzić odbiorcę w błąd.

Wątpliwości wokół definicji deepfake

Jak to bywa przy tego typu regulacjach nie mogło obejść się bez „legislacyjnego skandalu”.

W zawartej w AI Act definicji deepfake umieszczony jest wymóg, aby treści „przypominały istniejące osoby osoby, przedmioty, miejsca, podmioty lub zdarzenia„. Również w angielskiej wersji językowej ten wymóg jest wyraźnie zaakcentowany: „content that resembles existing persons, objects, places, entities or events„.

Nie chodzi więc o hipotetyczną możliwość, że AI może wygenerować tak realistyczną kobietę, że mogłaby ona istnieć. Gdyby intencją było uznanie za deepfejki wszystko co teoretycznie mogłoby istnieć to słowo „istniejące”/”existing” nie trafiłoby do przepisu.

Makes sens, nieprawdaż ?

Otóż nie!

Jak zajrzysz na stronę Komisji Europejskiej to dowiesz się, że słowo „istniejące” należy tłumaczyć jako:

„symulowane osoby, obiekty, miejsca, byty lub wydarzenia muszą przypominać kogoś lub coś, co istnieje, może prawdopodobnie istnieć lub mogło istnieć w rzeczywistości”.

Na chłopski rozum to próbuje się „doszyć” do przepisu coś czego w nim nie ma.

No bo jak komuś wyjaśnić, że „istnieje” to to samo co „może prawdopodobnie istnieć”?

No to istnieje czy nie?

Dwie możliwe interpretacje „deepfake” w AI Act

Problem z wykładnią tej definicji jest na tyle duży, że dr Mateusz Łabuz poświęcił mu całkiem spory artykuł naukowy.

Pan doktor zwraca uwagę, że możliwe są dwie interpretacje tego przepisu:

Pierwsza, oparta na dosłownym brzmieniu, zakłada, że materiał musi przedstawiać konkretną istniejącą osobę, miejsce, przedmiot, podmiot albo wydarzenie. Jeżeli AI stworzy całkowicie fikcyjnego prezentera wiadomości, lekarza czy przedsiębiorcę, który nie ma swojego odpowiednika w rzeczywistości, taki materiał nie będzie deepfake’em. Będzie jedynie treścią syntetyczną, a więc nie będzie podlegał obowiązkowi oznaczenia przewidzianemu w art. 50 ust. 4 AI Act.

Autor proponuje jednak szerszą interpretację. Jego zdaniem słowo „existing” nie powinno odnosić się wyłącznie do konkretnych osób lub obiektów istniejących w rzeczywistości. Wystarczy, że materiał przedstawia postać należącą do określonej kategorii lub archetypu i wygląda na autentyczny. Innymi słowy, fikcyjny lekarz, dziennikarz czy polityk może równie skutecznie wprowadzać odbiorców w błąd jak deepfake przedstawiający konkretną osobę.

Takie podejście ma istotne znaczenie praktyczne. Nie byłoby konieczne każdorazowe ustalanie, czy AI odwzorowała rzeczywiście istniejącego człowieka. Wystarczyłoby ocenić, czy materiał sprawia wrażenie autentycznego i może zostać uznany za prawdziwy. W konsekwencji również całkowicie fikcyjne postacie wygenerowane przez AI mogłyby zostać uznane za deepfake’i i podlegać obowiązkowi oznaczenia wynikającemu z AI Act.

Wracając do tego o czym pisałem na początku: nie dziwię, że ludzie oznaczają WSZYSTKO jako AI.

Odbiorca odbiorcy nierówny

AI Act nie definiuje o jakiego odbiorcę generalnie się rozchodzi, ale zauważyłem, że wielu prawników próbuje sięgnąć przez analogię do definicji konsumenta (w końcu wielu odbiorców będzie też konsumentami).

Sąd Najwyższy, TSUE i wszelkiej maści sądy oraz trybunały przyjmują, że przeciętny konsument jest osobą dojrzałą i krytyczną, która posiada określony zasób informacji o otaczającej go rzeczywistości i potrafi to wykorzystać, dokonując analizy przekazów rynkowych.

W ten sposób podobnie za odbiorcę odbiorcę próbuje się uznać osobę posiadającą wiedzę i umiejętności percepcji przynajmniej na poziomie przeciętnym.

ALE (zawsze musi być jakieś „ale”) ja osobiście się z tym nie zgadzam.

W końcu sami autorzy AI Act zauważają, że „(…) systemy AI mogą również w inny sposób wykorzystywać słabości danej osoby lub określonej grupy osób ze względu na ich wiek, niepełnosprawność w rozumieniu dyrektywy Parlamentu Europejskiego i Rady (UE) 2019/882 16 lub szczególną sytuację społeczną lub ekonomiczną, która może sprawić, że osoby te, takie jak osoby żyjące w skrajnym ubóstwie, osoby z mniejszości etnicznych lub religijnych, będą bardziej narażone na ich wykorzystanie”.

Dlatego zrównywanie w umiejętnościach percepcyjnych dojrzałego odbiorcy i np: 8 letniego dziecka byłoby dużym nadużyciem.

Odbiorca odbiorcy nie równy! To nie jest grupa homogeniczna

Oceny co odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe trzeba dokonywać przez pryzmat KONKRETNYCH odbiorców do których kierowane są treści AI.

W praktyce, przyznam to bez bicia, może to okazać się być bardzo trudne.

Co odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe

Nie wystarczy, że obraz został wygenerowany przez AI i wygląda realistycznie.

Istotne jest również to, czy sposób jego przedstawienia może sprawić, że przeciętny odbiorca uzna go za autentyczny.

To właśnie tutaj przebiega jedna z najważniejszych granic między zwykłym obrazem wygenerowanym przez AI a deepfake’iem.

Więc co taki rozsądny odbiorca mógłby uznać za autentyczne lub prawdziwe?

Wszystko zależy od kontekstu!

Zdjęcie wygenerowane przez AI, które zostało opublikowane na stronie głównej portalu informacyjnego? Tutaj zaufanie do strony powoduje, że potencjał na wprowadzenie odbiorcy w błąd jest ogromny.

Opublikowana na Facebooku kolorowa fotografia Alberta Einsteina pracującego nad pierwszym telefonem komórkowym? Tutaj zapewne popatrzymy na to
„z przymróżeniem oka”.

Wiele zależy też od prompta wykorzystanego do wygenerowania deepfake’a.

Jeżeli zamierzonym efektem końcowym było stworzenie wiarygodnie wyglądającej grafiki to z całą pewnością jej „twórca” dołoży staranności, aby wyeliminować typowe dla AI błędy lub niedociągnięcia (najczęściej dotyczące dłoni 😉).

Dobrym przykładem jest tutaj historia dotycząca publikowania wygenerowanych przez AI wizerunki ofiar Holokaustu.

Wzór na deepfake?

Całe zamieszanie z deepfejkami można teoretycznie sprowadzić to do prostego wzoru:

Treść AI + podobieństwo do istniejących elementów rzeczywistości + potencjał wprowadzenia odbiorcy w błąd = deepfake.

Tyle że każdy z tych elementów ma znaczenie i trzeba go rozpatrywać w szerokim kontekście osobowym i sytuacyjnym.

Po pierwsze, mamy treść wygenerowaną albo zmanipulowaną przy pomocy AI. Bez tego nie ma mowy o deepfake’u w rozumieniu AI Act.

Po drugie, treść musi przypominać coś, co znamy z rzeczywistości: konkretną osobę, miejsce, przedmiot, podmiot albo wydarzenie.

Po trzecie, i chyba najważniejsze, materiał musi mieć potencjał wprowadzenia odbiorcy w błąd. Nie chodzi więc o to, czy obraz jest po prostu „ładny” albo fotorealistyczny. Chodzi o to, czy przeciętny odbiorca tego typu treści może pomyśleć, że są one prawdziwe.

Inną miarę będziemy jednak przykładać do zdolności pozwanych dzieci, inną do osób w podeszłym wieku, a jeszcze inną do specjalistów z branży IT.

Wróćmy do wygenerowanego przez AI zdjęcia Alberta Einsteina pracującego nad pierwszym smartfonem.

Jeżeli pokażesz je jako żart, mem albo ilustrację do artykułu o możliwościach sztucznej inteligencji, trudno będzie mówić o próbie stworzenia fałszywego wrażenia autentyczności.

Ale jeżeli opublikujesz dokładnie ten sam obraz z podpisem sugerującym, że jest to odnaleziona fotografia z laboratorium Einsteina, sytuacja zmienia się diametralnie.

Obraz się nie zmienił. Zmienił się kontekst.

A wraz z nim zmienił się potencjał wprowadzenia odbiorcy w błąd.

I mogę iść jeszcze o krok dalej.

Joseph Goebbels miał stwierdzić, że kłamstwo powtórzone tysiąc razy staje się prawdą.

Udostępniona dalej grafika AI być może nie zaczęła swojej „kariery” jako deepfake, ale w miarę jak stała się „viralem” dla wielu osób nabrała dużej wiarygodności.

Obrazy wygenerowane przez AI? Oznaczaj „jak leci”

Czy teraz już rozumiesz dlaczego ludzie wolą oznaczyć wszystko „jak leci” jako wygenerowane albo zmodyfikowane przez AI?

Zwyczajnie proces oceny każdej grafiki pod kątem obowiązku ich oznaczania jako materiał AI jest TEORETYCZNIE bardzo skomplikowane.

I właściwie nigdy nie ma pewności czy Twoje postępowanie jest prawidłowe.

Dlatego kończąc te już nieco przydługaśne wywody chcę zostawić Cię z jedną myślą: jeżeli masz jakiekolwiek wątpliwości – oznaczaj treści.

Brak czasu na czytanie?

Potrzebujesz gotowego produktu?

Zobacz także:

• Prawna ochrona promptu agencji marketingowej – Czy agencja może chronić prompt jako swój know-how? Sprawdź czy istnieje prawna ochrona promptu i treści wygenerowanych z jego użyciem.
• Wykorzystywanie AI przez agencję – Wykorzystanie AI przez agencję nie jest do końca prawnie uregulowane. Wiele zależy od tego, co strony uzgodniły lub nie uzgodniły w umowie…