Urządzenia te dzięki wbudowanym czujnikom oraz połączeniu z siecią zapewniają najmłodszym interaktywną zabawę, zbierając przy okazji ogromną ilość informacji na ich temat. W jaki sposób obecne oraz przyszłe przepisy kształtujące europejski system ochrony danych będą wpływać na obowiązki prawne dostawców takich urządzeń?
Co wie o nas Barbie? Lepiej sprawdzić, jakie dane zbiera zabawka>>
Czym są inteligentne zabawki
Inteligentne zabawki (smart toys) to przeznaczone dla dzieci urządzenia zintegrowane z różnego rodzaju komponentami elektronicznymi (np. mikrofony, kamery, żyroskopy, czujniki zbliżeniowe), pozwalającymi im reagować na działania dziecka. Chociaż smart toys swoim wyglądem często przypominają tradycyjne zabawki (np. pluszowe misie SmartTeddy), to wbudowane sensory umożliwiają im zbieranie i przechowywanie informacji ze swojego otoczenia. Wśród nich należy rozróżnić urządzenia, które przetwarzają dane wyłącznie lokalnie oraz rozwiązania zapewniające interaktywną zabawę dzieciom dzięki połączeniu z siecią (tzw. connected toys lub smart connected toys). Smart connected toys stanowią podzbiór urządzeń Internetu Rzeczy i często są określane jako rozwiązania tzw. „internetu zabawek” (IoToys). Podobnie jak wirtualni asystenci czy urządzenia do noszenia (tzw. wearables) mogą one przechowywać, przetwarzać i udostępniać dane swoich użytkowników, a nawet aktywnie komunikować się z dziećmi.
Za pierwsze inteligentne zabawki można uznać powstałe pod koniec lat 90-tych Tamagotchi oraz Furby. Od tego czasu smart toys stały się bardziej zaawansowane, czego przykładem jest m.in. QTrobot – wielofunkcyjny robot społeczny wspierający dzieci ze specjalnymi potrzebami edukacyjnymi w nauce umiejętności społecznych oraz umożliwiający monitorowanie ich postępów. Co więcej, część smart toys (np. wycofana już z produkcji lalka Hello Barbie) przy pomocy oprogramowania do rozpoznawania mowy „komunikuje się” ze swoimi użytkownikami w oparciu o z góry określone linie dialogowe i algorytmy uczenia maszynowego.
Inteligentne zabawki bez wątpienia zapewniają wiele korzyści – poprzez interaktywną zabawę mogą zachęcać dzieci do rozwoju umiejętności rozwiązywania problemów oraz nabywania dobrych nawyków w zabawny i angażujący sposób. Indywidualne doświadczenia zapewniane przez tego typu zabawki mogą wspierać rozwój samodzielności dziecka, pozwalając mu na uczenie się we własnym tempie. W świecie, w którym technologia jest coraz bardziej rozpowszechniona, korzystanie z inteligentnych zabawek od najmłodszych lat może pomóc dzieciom nabrać pożądanej biegłości w posługiwaniu się technologią, kształtując kluczowe kompetencje cyfrowe.
Czytaj w LEX: Wpływ sztucznej inteligencji na postępowanie w przedmiocie udzielenia patentu na wynalazek >
Potencjalne zagrożenia dla danych osobowych dzieci
Pomimo swojego codziennego obycia z nowymi technologiami dzieci w ograniczony sposób rozumieją złożone procesy przetwarzania danych w gospodarce cyfrowej. Szeroki zakres danych pozyskiwanych w trakcie zabawy pozwala dostawcom inteligentnych zabawek na tworzenie rozbudowanych profili swoich użytkowników, umożliwiając im dalszą personalizację doświadczeń dziecka. Można powiedzieć, że u podstaw działania wielu z tych urządzeń leży monitoring polegający na „gromadzeniu danych i przekształcanie ich za pomocą różnych metod analitycznych w zasoby umożliwiające wywieranie wpływu lub kontrolowanie zachowania innych osób” (O.H. Gandy, The Panoptic Sort, Oxford 1993). W tym kontekście wykorzystywanie zabawek do zbierania informacji o dzieciach można postrzegać jako kolejny etap tzw. datafikacji dzieciństwa – procesu polegającego na tworzeniu „cyfrowych sobowtórów dzieci” – wysoce dokładnych wzorów zachowania i osobowości dzieci odtworzonych w czasie zbliżonym do rzeczywistego przez algorytmy na podstawie pozyskanych o nich danych – (szerz. np. J. Cheney-Lippold, We Are Data Algorithms and The Making of Our Digital Selves, Nowy Jork 2017) i czerpaniu korzyści z wywnioskowanych w ten sposób informacji o najmłodszych.
Czytaj w LEX: Odpowiedzialność za sztuczną inteligencję [projekt UE] >
Włączenie skomplikowanych mechanizmów przetwarzania danych do codzienności dzieci wiąże się z zagrożeniami dla ich autonomii informacyjnej, wśród których można wyróżnić m.in.:
- utratę kontroli opiekunów dzieci lub dzieci nad własnymi danymi, które dostawcy smart toys mogą przekazywać swoim partnerom lub brokerom danych, np. w celach marketingowych;
- "cyfrowe wywłaszczenie” czyli praktykę nadużywania przez dostawców smart toys praw własności intelektualnej, w celu utrudnienia wykonywania dzieciom (lub
- działającym w ich imieniu rodzicom) przysługujących im praw jako osób, których dane dotyczą (np. prawo do dostępu do danych);
- ·wykorzystywanie podatności i luk bezpieczeństwa smart toys przez osoby trzecie do nawiązania kontaktu z dziećmi (tzw. stranger danger).
Zobacz w LEX: Prawne aspekty sztucznej inteligencji >
Inteligentne zabawki w unijnych przepisach
Podstawowe znaczenie dla ograniczenia powyższych zagrożeń mają przepisy RODO, które poprzez wprowadzenie dodatkowych gwarancji dla ochrony autonomii informacyjnej najmłodszych (m.in. warunków wyrażenia zgody na przetwarzanie danych przez dziecko w przypadku usług społeczeństwa informacyjnego, obowiązku administratorów do przejrzystej komunikacji z podmiotem danych będącym dzieckiem), mają przyczyniać się do zwiększenia ich kontroli nad danymi zbieranymi przez smart toys. Ze względu na techniczne ograniczenia smart toys (np. brak ekranu lub zintegrowanej platformy) dostawcy takich urządzeń mogą napotkać praktyczne problemy z realizacją obowiązków informacyjnych w momencie zbierania danych lub umożliwienia łatwej zmiany ustawień prywatności.
Czytaj w LEX: RODO w IT: sztuczna inteligencja a dane osobowe - czy RODO definiuje AI oraz ML? >
Warto zauważyć, że pośredni lub bezpośredni wpływ na wykorzystywanie informacji o dzieciach przez dostawców smart toys będą miały również inne akty prawne. Przykładowo np. art. 28 DSA wprowadza zakaz wyświetlania przez dostawców platform internetowych reklam opartych na profilowaniu z wykorzystaniem danych osobowych odbiorcy usługi, jeżeli wiedzą z wystarczającą pewnością̨, że odbiorcą usługi jest małoletni. Chociaż same inteligentne zabawki trudno uznać za platformy internetowe w rozumieniu DSA, to zakaz ten może potencjalnie zmniejszyć dla dostawców takich usług opłacalność pozyskiwania informacji o małoletnich od innych podmiotów, w tym dostawców smart toys. W konsekwencji można spodziewać się, że zakaz profilowania małoletnich przewidziany w DSA pośrednio przyczyni się do ograniczenia handlu danymi pozyskiwanymi przy pomocy Internetu zabawek. Doniosłe znaczenie dla dostawców smart toys będą mieć także przyszłe przepisy rozporządzenia ws. sztucznej inteligencji. Niektóre z takich urządzeń mogą wykorzystywać różnego rodzaju systemu sztucznej inteligencji do np. prowadzenia komunikacji z dziećmi. AI Act ma zawierać zakaz wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu sztucznej inteligencji, który stosuje techniki podprogowe lub wykorzystuje dowolne podatności określonej grupy osp. (np. ze względu na ich wiek) w celu wywarcia wpływu na zachowanie jednostki w sposób, który powoduje lub może powodować szkodę fizyczną lub psychiczną. Jeżeli zakaz ten znajdzie się w ostatecznej wersji rozporządzenia dostawcy smart toys wykorzystujących AI będą musieli zatem sprawdzić, czy ich rozwiązania zmieniają lub mogą zmieniać zachowania ich małoletnich użytkowników w niepożądany społecznie sposób (np. przyczyniać się do utrwalania złych nawyków, zniechęcać dzieci do zabawy z rówieśnikami).
Zobacz nagranie szkolenia w LEX: Audyt aplikacji mobilnych pod kątem RODO >
Równie istotny dla dostawców inteligentnych zabawek jest projekt unijnego rozporządzenia w sprawie horyzontalnych wymogów cyberbezpieczeństwa w odniesieniu do produktów z elementami cyfrowymi (tzw. Cyber Resilience Act). Celem proponowanego aktu prawnego jest ustanowienie jednolitych ram regulacyjnych zawierających podstawowe wymogi w zakresie cyberbezpieczeństwa, które muszą zostać spełnione, aby produkt z elementami cyfrowymi mógł zostać wprowadzony na rynek UE. Przykładowo w świetle Cyber Resilience Act dostawcy smart toys będących produktami z elementami cyfrowymi będą zobowiązani do przeprowadzenia i udokumentowania oceny ryzyka w cyberprzestrzeni związanego ze swoim produktem i uwzględnienia wyników tej oceny na etapie planowania, projektowania, opracowywania, produkcji, dostarczania i utrzymania inteligentnej zabawki, którą będą chcieli oferować w UE.
Mateusz Kupiec, prawnik, doktorant w INP PAN
Czytaj w LEX: Wpływ rozwoju sztucznej inteligencji na proces stanowienia prawa w Polsce >
-------------------------------------------------------------------------------------------------------------------
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów w programie LEX jest zależny od posiadanych licencji.
