Nie każde użycie AI wymaga oznaczenia. Co trzeba oznaczać zgodnie z AI Act od 2 sierpnia?

Użytkownik nie zawsze wie, kiedy w aplikacji, na infolinii czy w publikowanych przez markę treściach ma kontakt ze sztuczną inteligencją. Chatbot może przypominać prawdziwego konsultanta, syntetyczny głos brzmieć jak człowiek, a wygenerowany obraz wyglądać jak autentyczne zdjęcie. Wraz z coraz szerszym wykorzystaniem AI coraz trudniej rozpoznać, za co odpowiadał człowiek, a co zostało wygenerowane lub zmodyfikowane przez system.

Od 2 sierpnia 2026 roku zaczną obowiązywać nowe zasady dotyczące przejrzystości w korzystaniu ze sztucznej inteligencji, określone w art. 50 AI Act. Obowiązek oznaczania nie będzie jednak dotyczył bezwzględnie każdej treści stworzonej z pomocą AI.  Znaczenie ma sposób wykorzystania sztucznej inteligencji oraz rodzaj treści lub interakcji. W określonych sytuacjach firmy będą musiały jasno poinformować odbiorcę, że ma do czynienia z systemem AI albo z treścią wygenerowaną lub zmanipulowaną przy jego użyciu.

Chatbot nie powinien udawać człowieka

Jedna z najważniejszych zmian dla firm rozwijających aplikacje i usługi cyfrowe dotyczy chatbotów, voicebotów, wirtualnych doradców i agentów AI.

Jeżeli użytkownik rozmawia bezpośrednio z systemem AI, powinien wiedzieć, że po drugiej stronie nie ma człowieka. Informacja powinna pojawić się najpóźniej przy pierwszej interakcji. W przypadku chatbota może to być prosty komunikat, np. „Cześć, jestem asystentem AI i pomogę Ci znaleźć odpowiedź”. W voicebocie podobna informacja może być częścią powitania rozpoczynającego rozmowę.

Ma to szczególne znaczenie w przypadku systemów zaprojektowanych tak, aby przypominały prawdziwego konsultanta. Ludzkie imię, realistyczny awatar czy naturalnie brzmiący głos mogą sprawić, że użytkownik nie zorientuje się, że rozmawia z AI. 

Obowiązek ten nie oznacza jednak, że o wykorzystaniu sztucznej inteligencji trzeba informować przy każdej funkcji aplikacji. Jeśli AI działa w tle, np. odpowiada za rekomendacje produktów, personalizację treści czy porządkowanie wyników wyszukiwania, art. 50 ust.1 nie wymaga z tego powodu dodawania komunikatu o AI do interfejsu. Przepis w tym zakresie dotyczy systemów przeznaczonych do bezpośredniej interakcji z człowiekiem.

Dla zespołów tworzących takie rozwiązania oznacza to, że informację o wykorzystaniu AI trzeba uwzględnić już na etapie projektowania interfejsu i całej ścieżki użytkownika.

Co z treściami wygenerowanymi przez AI?

Art. 50 wprowadza również zasady dotyczące treści generowanych lub modyfikowanych przez AI, ale trzeba rozróżnić dwa rodzaje obowiązków. Dostawcy systemów generatywnych mają zadbać o to, aby wygenerowane treści były oznakowane w formacie możliwym do odczytu maszynowego i wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Służyć temu mogą m.in. metadane, cyfrowe poświadczenia pochodzenia lub inne rozwiązania możliwe do odczytania przez urządzenia.

Nie jest to jednak równoznaczne z tym, że firma publikująca materiał musi umieszczać widoczną etykietę na każdej grafice, nagraniu czy filmie stworzonym za pomocą AI. Taki obowiązek po stronie podmiotu wykorzystującego treść pojawia się w określonych przypadkach. Jednym z najważniejszych są deepfake’i, czyli materiały, które mogą zostać odebrane jako autentyczne – i właśnie im warto przyjrzeć się osobno.

Deepfake trzeba oznaczyć

Osobne zasady dotyczą deepfake’ów, czyli wygenerowanych lub zmanipulowanych obrazów, nagrań audio i wideo, które przypominają istniejącą osobę, przedmiot, miejsce, podmiot lub wydarzenie i mogą zostać błędnie odebrane jako autentyczne. Jeżeli firma wykorzystuje taki materiał, powinna ujawnić, że został on sztucznie wygenerowany lub zmanipulowany.

Ma to znaczenie m.in. w kampaniach reklamowych i komunikacji w social mediach. Przykładem może być wygenerowane nagranie przedstawiające prawdziwą osobę, która w rzeczywistości nie wypowiedziała przypisanych jej słów, albo realistyczny film pokazujący wydarzenie, które nigdy nie miało miejsca. W takich przypadkach odbiorca powinien otrzymać jasną informację o ingerencji AI.

Nie każda treść wizualna stworzona przez generator jest jednak deepfake’em. Abstrakcyjna grafika, fantastyczna sceneria czy ewidentnie fikcyjna postać nie spełniają tej definicji tylko dlatego, że powstały przy użyciu AI. Decydujące jest to, czy materiał może stworzyć fałszywe wrażenie autentyczności.

Czy każdy tekst napisany przy pomocy AI trzeba oznaczyć?

Samo wykorzystanie AI do researchu, przygotowania struktury, stworzenia pierwszej wersji tekstu czy korekty językowej nie oznacza automatycznie, że publikacja wymaga oznaczenia.

Art. 50 odnosi się do tekstów wygenerowanych lub zmanipulowanych przez AI, które są publikowane w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. Również w takim przypadku oznaczenie nie jest wymagane, jeśli treść została poddana weryfikacji przez człowieka lub kontroli redakcyjnej, a za jej publikację odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna.

Dla redakcji i zespołów contentowych oznacza to, że istotny jest nie tylko sam fakt wykorzystania AI, ale sposób pracy z wygenerowanym materiałem i odpowiedzialność za jego ostateczny kształt. AI może więc wspierać tworzenie treści, a wykorzystanie jej jako narzędzia nie oznacza automatycznie konieczności oznaczania każdej publikacji.

Rozpoznawanie emocji i biometria podlegają dodatkowym zasadom

Art. 50 AI Act obejmuje również systemy rozpoznawania emocji i kategoryzacji biometrycznej. Jeśli ich wykorzystanie jest dozwolone, osoby, wobec których są stosowane, muszą zostać o tym poinformowane. Jednocześnie przetwarzanie danych osobowych musi odbywać się zgodnie z przepisami o ochronie danych, w tym RODO.

Sam obowiązek informacyjny nie oznacza jednak, że każde zastosowanie takich systemów jest dopuszczalne. Rozpoznawanie emocji w miejscu pracy i szkołach jest co do zasady zakazane już od 2 lutego 2025 roku, z wyjątkiem zastosowań uzasadnionych względami medycznymi lub bezpieczeństwem.

W przypadku rozwiązań wykorzystujących rozpoznawanie emocji lub kategoryzację biometryczną samo spełnienie wymogów przejrzystości z art. 50 nie wystarczy więc do oceny zgodności systemu z prawem. Trzeba uwzględnić również pozostałe przepisy AI Act oraz regulacje dotyczące ochrony danych.

Co firmy powinny sprawdzić przed 2 sierpnia?

Przed wejściem w życie nowych obowiązków warto przejrzeć wszystkie miejsca, w których firma wykorzystuje AI w kontakcie z użytkownikami oraz przy tworzeniu publikowanych treści. W praktyce warto sprawdzić:

• czy chatboty, voiceboty i inni asystenci AI jasno informują użytkownika, że komunikuje się z systemem AI,
• czy informacja jest przekazywana najpóźniej przy pierwszej interakcji, a nie ukryta wyłącznie w regulaminie lub polityce prywatności,
• czy publikowane obrazy, nagrania i filmy będące deepfake’ami są odpowiednio oznaczane jako wygenerowane lub zmanipulowane,
• w jaki sposób wykorzystywane jest AI przy tworzeniu tekstów dotyczących spraw leżących w interesie publicznym i czy takie materiały podlegają weryfikacji człowieka lub kontroli redakcyjnej,
• czy firma wykorzystuje systemy rozpoznawania emocji lub kategoryzacji biometrycznej i jakie obowiązki oraz ograniczenia mają do nich zastosowanie.

Najważniejsze jest więc rozróżnienie, w jaki sposób firma wykorzystuje AI i z jakim rodzajem systemu lub treści mamy do czynienia. Dopiero na tej podstawie można określić, które obowiązki z art. 50 będą miały zastosowanie.

Transparentność AI staje się częścią projektowania produktu

Nowe obowiązki będą miały znaczenie nie tylko dla prawników i zespołów compliance. W przypadku aplikacji i usług cyfrowych sposób informowania o wykorzystaniu AI będzie trzeba uwzględnić również przy projektowaniu konkretnych funkcji.

Dotyczy to przede wszystkim rozwiązań, w których użytkownik bezpośrednio komunikuje się z AI. Informacja o tym powinna być czytelna, ale jednocześnie pasować do sposobu działania produktu i całej ścieżki użytkownika. Inaczej można ją zaprojektować w asystencie zakupowym, inaczej w aplikacji bankowej czy w usłudze, w której rozmowa może zostać przekazana z bota do konsultanta.

Art. 50 będzie więc istotny również dla product managerów, projektantów UX i osób odpowiedzialnych za customer experience. To właśnie na etapie projektowania trzeba zdecydować, gdzie i w jaki sposób przekazać użytkownikowi wymagane informacje, aby były jasne i nie ginęły w interfejsie.

Co art. 50 AI Act oznacza dla branży mobile?

Wejście w życie obowiązków z art. 50 nie oznacza ograniczenia możliwości korzystania z chatbotów, generatorów treści czy asystentów AI. Firmy nadal mogą rozwijać i wdrażać takie rozwiązania, ale w określonych sytuacjach muszą jasno informować użytkowników o wykorzystaniu sztucznej inteligencji.

Dla branży mobile oznacza to przede wszystkim konieczność uwzględnienia nowych wymogów w już działających rozwiązaniach oraz w produktach, które dopiero powstają. Warto więc sprawdzić nie tylko, gdzie firma wykorzystuje AI, ale przede wszystkim w jaki sposób użytkownik ma z nią kontakt i jakie obowiązki wynikają z tego konkretnego zastosowania.

Wykorzystane źródło: https://ai-act-service-desk.ec.europa.eu/pl/ai-act/article-50