O tym, że sztuczna inteligencja będzie wykorzystywana do zwalczania dark patterns, UOKiK informował w połowie marca na konferencji w Bydgoszczy. Działania są realizowane w ramach unijnego projektu „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji” („Detecting and combating dark patterns with Artificial Intelligence”). Więcej: Sztuczna inteligencja wytropi niedozwolone sztuczki e-sklepów.
System został już wdrożony w urzędzie, znamy też więcej jego szczegółów. Przedstawił je Mariusz Jażdżyk z polskiej firmy Firstscore, która odpowiada za technologiczną stronę rozwiązania.
Na początku współpracy z UOKiK musieliśmy zorientować się, czym w ogóle są dark patterns. Wcześniej współpracowaliśmy z branżą marketingową, w której różne działania zwiększające sprzedaż określano mianem „optymalizacji”. Dopiero po przejściu na drugą stronę mocy zrozumieliśmy, że niektóre tego typu praktyki mogą budzić zastrzeżenia – mówi Mariusz Jażdżyk w rozmowie z Prawo.pl.
Zadanie to było o tyle utrudnione, że nie ma jednej cechy wspólnej dark patterns. Tym mianem określa się przeróżne sztuczki stosowane przez e-sklepy, począwszy od kruczków regulaminowych aż po prezentowanie zegara odmierzającego rzekomy czas pozostały do końca nieistniejącej promocji. - Mogą to być utrudnienia przy wypisywaniu się z serwisu lub ukrywanie istotnych dla konsumenta informacji za symbolem gwiazdki, w mało widocznym miejscu – dodaje Mariusz Jażdżyk. Jak tłumaczy, przygotowując rozwiązanie technologiczne dla UOKiK, firma oparła się na przeprowadzonych wcześniej przez urząd analizach: kodów źródłowych stron internetowych oraz typowych zachowań konsumenckich.
- Na ich podstawie wytypowaliśmy 20 najważniejszych dark patterns, spośród których szczególną uwagę poświęciliśmy dziesięciu. Z rozmów z partnerami zagranicznymi wiemy, że ich katalog jest wspólny dla całej Unii Europejskiej i nie tylko – wyjaśnia ekspert.
Jak działa system multiagentów
Firma Firstscore opisuje zbudowany przez siebie system jako oparty na architekturze multiagentowej. Jego działanie porównuje do pracy kilkunastu „wirtualnych detektywów”, którzy jednocześnie sprawdzają daną stronę internetową pod kątem stosowania różnorakich dark patterns.
Przykładowo, jeden z agentów sprawdza, czy przycisk „Zrezygnuj” nie został celowo umieszczony w taki sposób, by być słabo widocznym (np. w szarym kolorze na białym tle). W tym czasie drugi agent analizuje kod JavaScript i szuka skryptów losujących, które są w stanie wygenerować nieprawdziwą liczbę osób oglądających w danej chwili dany produkt. Jest to tzw. fałszywy dowód społeczny (fake social proof), mający wpłynąć na zachowania konsumenckie.
Sztuczna inteligencja w służbie UOKiK radzi sobie też ze wspomnianymi zegarami odmierzającymi czas do końca nieistniejącej promocji (false timers). Agent sprawdza, co dzieje się, gdy licznik dojdzie do zera, a następnie odświeża stronę.
Inna funkcjonalność pozwala prześledzić całą ścieżkę zakupową – od karty produktu, przez wybór dostawy, po ekran płatności. AI wykrywa, czy w trakcie tego procesu nie są doliczane ukryte koszty (drip pricing), np. „opłata serwisowa”.
- Strony internetowe mogą być odwiedzane przez różnego rodzaju roboty, na przykład spamowe. Trudno się dziwić, że sklepy starają się blokować ich działanie. Z tego powodu nie wszędzie możemy dotrzeć – przyznaje Mariusz Jażdżyk. - W takich sytuacjach staramy się wskazywać obszary, w których potencjalnie występują nieuczciwe praktyki. Następnie proces sprawdzania kontroluje człowiek, pracownik UOKiK.
Twierdzenia AI to jeszcze nie dowód
Firma zapewnia, że dużą uwagę poświęciła tzw. wyjaśnialności (explainable AI), decyzje organów nie mogą bowiem opierać się na argumencie „bo tak powiedziała sztuczna inteligencja”.
- Gdy mówimy, że coś jest podejrzane, musimy wskazać dowód, na przykład obraz ze strony lub fragment kodu. Ostatecznie to urzędnik decyduje, czy dany materiał można uznać za dowód, czy też nie jest on wystarczający - opisuje Mariusz Jażdżyk.
Ten aspekt podkreślali też prawnicy, którzy w rozmowie z Prawo.pl generalnie przyklasnęli pomysłowi UOKiK na wykorzystanie AI do zwalczania nieuczciwych praktyk w sektorze e-commerce. Zwracali też jednak uwagę, że nie można bezrefleksyjnie zawierzyć nowej technologii.
- Tak samo, jak po pierwszym audycie wnioski mogą być błędne, tak samo sztuczna inteligencja może mylnie zakwalifikować daną praktykę jako dark pattern. Takie ustalenia są następnie weryfikowane w toku postępowania – mówił Tomasz Zalewski, radca prawny, partner w kancelarii Zalewski Legal.
- Nie wyobrażam sobie, by pracownik UOKiK bezrefleksyjnie powielał ustalenia sztucznej inteligencji, która nawet w najnowszych modelach może halucynować – mówił Krzysztof Witek, adwokat z Kancelarii Schönherr Attorneys At Law.
Przybliżył też możliwe dalsze kroki po wykryciu dark pattern. Według jego oceny, najczęściej w tego typu sprawach UOKiK w pierwszej kolejności zastosuje działania miękkie, czyli wezwie przedsiębiorcę do wprowadzenia zmian, jeszcze bez wszczynania postępowania mogącego zakończyć się wydaniem decyzji o wymierzeniu kary. - Natomiast przedsiębiorca, który twierdzi, że nie stosował dark patterns, ma szerokie spektrum działań na swoją obronę. Może odpowiadać na wystąpienia miękkie, proponując zmianę praktyk lub, w razie stwierdzenia, że urząd się myli - podważając ustalenia UOKiK – radził adwokat.
