Sztuczna inteligencja wytropi niedozwolone sztuczki e-sklepów

Urząd Ochrony Konkurencji i Konsumentów pracuje nad wykorzystaniem AI do wykrywania dark patterns, czyli tricków stosowanych przez podmioty sektora e-commerce, bazujących na zachowaniach zakupowych i słabościach kupujących. Prawnicy, chociaż przestrzegają przed mankamentami tej technologii, chwalą obrany kierunek. Ich zdaniem na użyciu sztucznej inteligencji nie powinni ucierpieć przedsiębiorcy, ostatecznie bowiem decyzje w ich sprawach będzie podejmował człowiek.

O realizacji unijnego projektu „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji” („Detecting and combating dark patterns with Artificial Intelligence”) UOKiK poinformował w poniedziałek w komunikacie, a we wtorek dzielił się pierwszymi doświadczeniami na konferencji w Bydgoszczy. Celem jest zapobieganie technikom manipulacyjnym, jakie stosują sklepy internetowe.

AI w służbie UOKiK

Z udostępnionych informacji wynika, że UOKiK stworzył narzędzie AI, które analizuje układy i kody źródłowe stron internetowych pod kątem występowania dark patterns. W czasie pilotażu oparł się na modelu GPT-4 od OpenAI. Dane do trenowania pozyskał m.in. z analizy ponad 300 stron internetowych. Materiał źródłowy uzupełniły analizy skarg konsumentów, fragmenty kodów źródłowych oraz wnioski z badań neuromarketingowych i behawioralnych.

Krzysztof Witek, adwokat z Kancelarii Schönherr Attorneys At Law, zwraca uwagę, że problem dark patterns, czyli zwodniczych interfejsów, jest powszechny, na co wielokrotnie wskazywali prezes UOKiK oraz Komisja Europejska.

- Sektor e‑commerce szczególnie silnie rozwinął się w okresie pandemii; z powodu dużej konkurencji przedsiębiorcy zaczęli prześcigać się w metodach wpływania na zachowania konsumentów, które często przyjmują formę niedozwolonych praktyk. Działania te polegają na przykład na dorzucaniu do koszyka produktu, którego konsument nie planował kupić, albo na pokazywaniu zegara odmierzającego rzekomy koniec promocji, która nigdy się nie kończy. Wykorzystują wiedzę na temat psychiki konsumentów, a w tym ich słabości – mówi mec. Witek.

Tomasz Chróstny, prezes UOKiK, w cytowanej w komunikacie wypowiedzi wskazuje, że sektor e-commerce korzysta przy tym z zaawansowanych technologii, w tym AI. Sugeruje, że odpowiedź urzędu na to zagrożenie powinna być podobna.

- UOKiK opracowuje swoje narzędzie w ramach projektu unijnego i być może z tego powodu informuje o nim publicznie, tak naprawdę bowiem nie ma żadnego obowiązku komunikowania, że będzie analizował strony internetowe z użyciem AI. Sztuczna inteligencja jest narzędziem jak każde inne. Jeśli działa dobrze i pozwala uprościć procedury, to powinniśmy z niej korzystać - mówi Tomasz Zalewski, radca prawny, partner w kancelarii Zalewski Legal. - Ryzyka oczywiście istnieją, na przykład ryzyko nadmiernego zawierzenia AI, ale zakładam, że urząd bierze je pod uwagę – dodaje.

- Urząd musi mieć narzędzia, aby skutecznie przeciwdziałać nieuczciwym praktykom w sektorze handlu internetowego. Nie jest tajemnicą, że jego zasoby kadrowe i budżetowe są ograniczone, więc nie dziwię się, że korzysta z nowoczesnych technologii i sięga po sztuczną inteligencję – wskazuje mec. Witek. - Nawet jeśli wykorzysta starsze modele i miałby być krok za sprawcami naruszeń, to bez tego mogłoby się okazać, że znalazłby się dziesięć kroków za nimi. Jestem więc optymistą, choć umiarkowanym - dodaje.

Na biznes wpłynie decyzja urzędnika, nie halucynacje AI

Prawnicy są zgodni, że samo stwierdzenie przez AI, że przedsiębiorca stosował zwodnicze interfejsy, może być dopiero sygnałem dla urzędnika do podjęcia reakcji – takim samym jak skarga od konsumenta.

- Nie wyobrażam sobie, by pracownik UOKiK bezrefleksyjnie powielał ustalenia sztucznej inteligencji, która nawet w najnowszych modelach może halucynować – mówi mec. Witek.

- Tak samo, jak po pierwszym audycie wnioski mogą być błędne, tak samo sztuczna inteligencja może mylnie zakwalifikować daną praktykę jako dark pattern. Takie ustalenia są następnie weryfikowane w toku postępowania. Model GPT‑4 nie jest najnowszy, ale oparte na nim narzędzie można zaprojektować do wykrywania bardzo konkretnych zbiorów. Nie znamy szczegółów technicznych stosowanych przez UOKiK, jednak istnieje możliwość dodania rozwiązań korygujących halucynacje np. poprzez porównanie wyniku ze wzorcową bazą danych - komentuje mec. Zalewski.

Krzysztof Witek spodziewa się, że najczęściej w tego typu sprawach urząd przeanalizuje praktykę wskazaną przez AI i - jeśli dopatrzy się naruszenia przepisów - w pierwszej kolejności zastosuje działania miękkie, czyli wezwie przedsiębiorcę do wprowadzenia zmian, jeszcze bez wszczynania postępowania mogącego zakończyć się wydaniem decyzji o wymierzaniu kary.

- Natomiast przedsiębiorca, który twierdzi, że nie stosował dark patterns, ma szerokie spektrum działań na swoją obronę. Może odpowiadać na wystąpienia miękkie, proponując zmianę praktyk lub, w razie stwierdzenia, że urząd się myli - podważając ustalenia UOKiK – mówi mec. Witek.

UOKiK na dalszym etapie projektu planuje opublikowanie wytycznych na temat wykorzystywania AI w jego działaniach. - AI nie zastąpi ani nie wyręczy nas w roli strażnika praw konsumentów w cyfrowym świecie, ale może stać się naszą bronią w walce z manipulacyjnym designem – podsumowuje prezes Chróstny.