Indeks Ksiąg Zakazanych przez długi czas był punktem odniesienia w kwestii tego, które treści są dozwolone, a które nie. Wprowadzony przez AI Act (rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, znane także jako akt w sprawie sztucznej inteligencji) wykaz systemów zakazanych AI będzie miał nieco podobny charakter. Przepisy w tym zakresie zaczną być stosowane bezpośrednio i wprost już od lutego 2025 r.
W odróżnieniu od wspomnianego Indeksu, AI Act nie zawiera tytułów czy też nazw konkretnych algorytmów, których nie będzie wolno wykorzystywać. Zamiast tego wskazuje „cel”, jaki ma być osiągnięty i potencjalny „skutek”. Można więc odnieść wrażenie, że jest to droga nieco na skróty. „Cel”, w jakim algorytm jest wykorzystywany, często pozostaje tajemnicą. „Celów” może być też kilka a niektóre (te priorytetowe) mogą być ukryte. Bywa też tak, że te deklarowane są nieosiągalne, a tak naprawdę chodzi o zupełnie co innego. „Skutek” natomiast często jest trudny do przewidzenia, a może też nigdy nie wystąpić. Co więcej, algorytmy uznane za dozwolone w jednej dziedzinie z uwagi na trudny do przewidzenia „skutek” czy też dorozumiany „cel” mogą być zakazane w innym kontekście.
Praktyczne znaczenie AI Act bywa przeceniane
Zamiast więc wyłączyć przed nawias, to co jest dla systemów zakazanych wspólne, sformułowano przepisy życzeniowo. Na zasadzie, „trzeba zrobić tak, żeby było dobrze”, nie wchodząc w szczegóły, w jaki sposób. Tytułem przykładu - algorytmy nie powinny wykorzystywać słabości człowieka dla ograniczenia zdolności do podejmowania świadomych decyzji. Granica jednak między manipulacją a zwykłą reklamą bywa nieostra i trudno uchwytna. Cechą charakterystyczną reklamy jest posługiwanie się superlatywami w celu wyeksponowania zalet reklamowanej oferty (tak: wyrok Sądu Apelacyjnego w Warszawie z dnia 22 lutego 2011 r., sygn. akt I ACa 667/10).
Z powodu dużej ogólności praktyczne znaczenie AI Act bywa więc przeceniane. Dużo większy wpływ na praktykę będą miały akty prawne, co prawda niższego rzędu, ale bardziej szczegółowe. Wiele zależeć też będzie od sformułowania wytycznych dla administracji co do tego, jak rozumieć tak ogólne przepisy AI Act. Opublikowana przez Ministerstwo Cyfryzacji broszura „Zakazane systemy AI” może być próbą rozjaśnienia problemu. Gdyby jednak chcieć je przełożyć na rzeczywistość 1:1 to okazuje się, że wiele z systemów rekomendacyjnych powszechnie wykorzystywanych może okazać się zabroniona.
Czytaj także: Resort cyfryzacji uwzględni część uwag do projektu o AI
Algorytmy zachęcające do zakupów
Żeby pokazać, w czym jest problem, najlepiej porównać dwa skrajne bieguny. Przepisy AI Act zabraniają wykorzystywania słabości osoby fizycznej i prowadzenia tzw. scoringu społecznego (art. 5). Większość osób zgodzi się, że jeżeli osobie uzależnionej od alkoholu algorytm będzie podsuwał reklamy napojów wyskokowych nie jest do końca w porządku. Algorytm jest przy tym w stanie tak manipulować przekazem, żeby silną wolę takiej osoby wystawić na możliwie największą próbę. Co prawda, osoby uzależnione z reklamami piwa mają i tak kontakt, ale przekaz przy wykorzystaniu AI może być bardziej subtelny, a co za tym idzie skuteczniejszy. Algorytm dopasuje reklamę nie tylko do naszych potrzeb, ale też naszej osobowości w taki sposób, aby dotknąć najbardziej wrażliwych nut. Wydaje się, że nie ma kontrowersji, że tego rodzaju manipulacja powinna być zakazana.
Na drugim biegunie są rekomendacje produktów co do zasady nieszkodliwych, ale wykorzystujące podobne mechanizmy. Jeżeli algorytm odkryje, że z uwagi na pewne cechy konkretna osoba jest gorącym fanem jakiegoś gatunku literackiego, np. książek biograficznych, to może skuteczniej zachęcając do zakupów. Książki co prawda nie są tak szkodliwe jak alkohol i dużo trudniej z nimi przesadzić, mechanizm działania algorytmu jest jednak bardzo podobny. Pojawia się więc problem w jakich przypadkach algorytm oparty na tej samej technologii ma być zakazany, a w jakich może być dozwolony. W końcu alkohol nie jest sam w sobie niczym złym czy nielegalnym.
Cena promocyjna: 80.09 zł
|Cena regularna: 89 zł
|Najniższa cena w ostatnich 30 dniach: 89 zł
Co więcej, przesadzić można ze wszystkim i z czytaniem również. Dowodów na to dostarcza sama literatura. W tym najbardziej chyba znana postać powieści Miguela de Cervanesa – Don Kichota, który walczył z wiatrakami pod wpływem książek o rycerzach. Pokazuje ona, jak treści, które przyswajamy wpływają na nasze wybory i styl życia. Co jednak ważniejsze, uświadamia, że nie jest to problem jedynie naszych czasów. Zakazując jednych treści, tracimy z pola widzenia inne możliwości i żyjemy w swojej bańce informacyjnej podobnie jak Don Kichot. Stosując AI, kontrola nad ludzkimi wyborami może być jeszcze łatwiejsza. O ile więc alkohol może doprowadzić do fatalnych skutków dla osoby, która go nadużywa, to w dłuższej perspektywie kontrola nad rynkiem dostępnych książek (czy informacji wyświetlanych w mediach społecznościowych) jest bardziej atrakcyjna dla różnego rodzaju potencjalnych autokratów.
W rzeczywistości celem Indeksu Ksiąg Zakazanych nie była ochrona przed manipulacją ze strony heretyków i deprawowaniem umysłów. Tak naprawdę chodziło o eliminację konkurencji po to, aby efektywniej samemu manipulować. Technologia AI dostarcza dzisiaj o wiele potężniejszego narzędzia, niż to, jakim dysponowała inkwizycja. Perspektywa spalenia na stosie mogła odstraszać, ale sposobów na ukrycie swoich poglądów było też wiele. Dzisiaj może to być trudniejsze. Łatwo sobie wyobrazić, że AI za wybór odpowiedniej książki przyzna rodzaj nagrody pozwalającej np. na polepszenie zdolności kredytowej. Taki system funkcjonuje już w Chińskiej Republice Ludowej i jest nazywany System Zaufania Społecznego (ang. Social Credit System). Zasada jego działania polega na tym, że drobne wybory dokonywane w życiu codziennym, takie jak punktualność w pracy czy właśnie wybór odpowiedniej książki w księgarni lub inne zwyczaje zakupowe, pozwalają zdobywać punkty, które decydują o kolejności awansów, dostępie do kredytów, przyznaniu zniżek na energię elektryczną czy też kolejności przyjęć na studia. System dzieli więc obywateli na pewne kategorie, w zależności od tego, jakich wyborów dokonują w życiu codziennym - w tym, co czytają i czego słuchają. Przy okazji pozwala to wygenerować olbrzymie ilości danych, które mogą zostać wykorzystywane do szybszego rozwoju technologii AI.
Sprawdź w LEX: Zawodowy pełnomocnik w social media – aspekty praktyczne > >
Nie da się uniknąć skojarzeń z "Rokiem 1984"
Nie da się tu uniknąć skojarzeń do rzeczywistości, jaką przedstawił inny, tym razem angielski pisarz – George Orwell w swojej powieści „Rok 1984”. Co prawda, nieco się przeliczył, jeśli chodzi o szybkość rozwoju technologii, ale konkretny rok nie ma tu znaczenia, bo opisuje mechanizmy ponadczasowe. Można więc pomyśleć, że AI Act, chociaż niedoskonały, to zabezpieczy nas przed takim losem. To jednak też nie jest tak oczywiste, bo jak wynika z treści przepisu AI Act, zakazane mają być systemy, które mogą z uzasadnionym prawdopodobieństwem wyrządzić poważną szkodę. Trudno natomiast zakładać, że drobne wybory życia codziennego jak zakup konkretnej książki czy puszki piwa taką poważną szkodę może spowodować. Manipulacja jest więc możliwa na dużo wyższym poziomie. O ile ukrywanie zakazanych książek było czynem heroicznym, to jednak pilnowanie każdej drobnej decyzji w życiu codziennym i rezygnacja z szans, jakie daje system, może w praktyce okazać się mimo wszystko trudniejsze.
Wprowadzenie w AI Act regulacji dotyczącej systemów zakazanych ma sprawić, że unikniemy losu mieszkańców antyutopii, o której pisze Orwell w „Roku 1984”. Jeżeli jednak przepisy są tak ogólne, to siłą rzeczy łatwo wybiórczo je stosować. To,czym jest manipulacja, będzie więc zależało od organów i sądów stosujących nowe prawo w 27 zbliżonych, ale jednak różnych jurysdykcjach. Sytuacja polityczna i realia też nie są jednakowe.
Ostrzeżeniem jest to, że Indeks Ksiąg Zakazanych, mimo że dużo bardziej precyzyjny swojej funkcji, też nie spełnił. Proces Galileusza (którego dzieła znalazły się w Indeksie Ksiąg Zakazanych) odbił się szerokim echem, ostatecznie jednak nie zatrzymał rozwoju nauki ani nawet nie wpłynął na kierunek jej rozwoju. Podobnie zakazy wprowadzane do AI Act, rozwoju technologii sztucznej inteligencji w niepożądanym kierunku nie zatrzymają. Tym bardziej, że w Chińskiej Republice Ludowej akty te znaczą niewiele. Może być więc tak, że czeka nas co najwyżej walka z wiatrakami w stylu Don Kichota. Jeżeli jednak jako kraj zostaniemy w tyle za resztą świata, jeśli chodzi o rozwój technologii, to może być jeszcze gorzej, bo nawet na polu bitwy z wiatrakami przypadnie nam rola drugoplanowa – takiego Sancho Pansy Europy.
Dariusz Tarabasz adwokat, partner w kancelarii Czyżewscy
Zobacz także w LEX: AI w praktyce prawniczej – krok w nowoczesność czy skok w przepaść? > >
-------------------------------------------------------------------------------------------------------------------
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów w programie LEX jest zależny od posiadanych licencji.