Komisja UE twierdzi, że algorytm rekomendacji TikToka może wciągać wrażliwych użytkowników w pętle szkodliwych treści

W skrócie

• Komisja Europejska wstępnie uznała, że kanał For You w TikToku narusza Akt o usługach cyfrowych.
• Regulatorzy twierdzą, że system rekomendacji może wciągać wrażliwych użytkowników w pętle treści dotyczących smutku, izolacji i wizerunku ciała.
• Komisja nakazała zmiany w aplikacji; w razie niedostosowania się TikToka możliwa jest kara w wysokości do 6 procent światowego rocznego obrotu.

Wstępne ustalenia dotyczące kanału For You

Komisja Europejska wstępnie uznała, że TikTok narusza Akt o usługach cyfrowych, czyli unijny zbiór zasad dla platform internetowych. (Suchtgefahr - Tiktok widerspricht Vorwüfen der EU-Kommission – Deutschlandfunk) (‚Králičí nory‘ mají negativní dopad na duševní zdraví. Podle komise TikTok porušuje unijní nařízení – iROZHLAS) Przedmiotem zainteresowania jest strona For You, główny kanał, który serwuje użytkownikom nieprzerwany strumień spersonalizowanych krótkich filmów. Regulatorzy twierdzą, że kanał nadal pokazuje powiązane treści, nawet gdy dotyczą problemów ze zdrowiem psychicznym i wizerunkiem ciała. (TikTok pod ostrzałem UE. Bruksela wskazuje niebezpieczeństwo „króliczych nor” – Rzeczpospolita)

Jak działa efekt "królika w norze"

Według Komisji im bardziej użytkownik angażuje się w jeden rodzaj treści, tym więcej podobnych materiałów rekomenduje algorytm. (Euroopa Komisjon: Tiktoki algoritm võib kahjustada kasutajate vaimset tervist – ERR) Regulatorzy twierdzą, że może to być szkodliwe, gdy powtarzana ekspozycja dotyczy tematów takich jak smutek, izolacja czy postrzeganie własnego ciała, a takie pętle mogą szkodzić zdrowiu psychicznemu, zwłaszcza wśród wrażliwych dorosłych i nieletnich. Henna Virkkunen, wiceprzewodnicząca wykonawcza Komisji ds. suwerenności technologicznej, bezpieczeństwa i demokracji, powiedziała, że za każdym razem, gdy użytkownik obejrzy lub polubi film, algorytm proponuje mu więcej tego samego, wciągając ludzi w pętle, z których trudno im się wyrwać. Regulatorzy łączą też ten kanał z zaburzeniami odżywiania i lękiem.

Czego chce Komisja

Komisja twierdzi, że TikTok nie ocenił w wystarczającym stopniu, jak jego system rekomendacji może wciągać użytkowników w takie pętle, i nie wdrożył skutecznych środków ograniczających to ryzyko. (Soziale Medien: EU: TikTok gefährdet mentale Gesundheit - Strafe droht – ZEIT ONLINE) Bruksela nakazała firmie zmianę sposobu działania aplikacji w celu ochrony zdrowia psychicznego użytkowników. TikTok wprowadził narzędzia mające przeciwdziałać efektowi "królika w norze", jednak wstępna ocena Komisji jest taka, że nie są one skuteczne. (TikTok’s For You page needs to change, says the EU – The Verge)

Odpowiedź TikToka

TikTok odrzuca zarzuty. Firma twierdzi, że proaktywnie usuwa treści promujące zaburzenia odżywiania lub samookaleczenia oraz oferuje kanał bez spersonalizowanych rekomendacji, zgodnie z wymogami prawa UE.

Możliwe kary

Jeśli TikTok nie dostosuje algorytmu, Komisja może nałożyć karę w wysokości do 6 procent światowego rocznego obrotu firmy. Odrębne postępowanie wobec platformy dotyczy innych funkcji, w tym nieskończonego odtwarzania filmów. Sprawa jest na etapie wstępnym, więc ustalenia mogą jeszcze ulec zmianie przed ostateczną decyzją.