OpenAI prezentuje nowy klasyfikator obrazów i ostrzeżenia w ChatGPT, by walczyć z materiałami przedstawiającymi seksualne wykorzystywanie dzieci
OpenAI udostępniło narzędzie wykrywające materiały przedstawiające seksualne wykorzystywanie dzieci, w tym wygenerowane przez AI, i wprowadza interwencje, które ostrzegają użytkowników i kierują ich do pomocy.

W skrócie
- OpenAI wypuściło klasyfikator obrazów zaprojektowany do wykrywania materiałów przedstawiających seksualne wykorzystywanie dzieci, w tym obrazów wygenerowanych przez AI.
- Sprawdzone organizacje ochrony dzieci otrzymają narzędzie bezpłatnie, a śledczy z organów ścigania przejdą szkolenie.
- ChatGPT będzie wyświetlać interwencje użytkownikom szukającym takich treści; TechCrunch podaje, że ostrzeżeniem jest blokada konta na 24 godziny.
Klasyfikator skierowany na obrazy nadużyć generowane przez AI
OpenAI ogłosiło na briefingu prasowym w Waszyngtonie w poniedziałek, że zbudowało klasyfikator obrazów, który lepiej rozpoznaje obrazy przedstawiające wykorzystywanie dzieci, w tym treści wygenerowane przez AI (OpenAI wants to stop deepfakes from overwhelming child abuse tiplines – The Verge). Firma twierdzi, że narzędzie ma pomagać śledczym przeglądać duże wolumeny zgłoszeń i szybko wyodrębniać materiały, na podstawie których można działać. Premiera jest częścią szerszego zestawu środków na rzecz bezpieczeństwa dzieci, opartych na istniejącym Child Safety Blueprint OpenAI oraz na dalszych pracach nad wykrywaniem, blokowaniem i zgłaszaniem nadużyć (OpenAI: Strengthening the fight against online child sexual abuse – Hacker News).
Dostęp dla sprawdzonych grup i deweloperów
OpenAI planuje bezpłatnie udostępnić klasyfikator sprawdzonym organizacjom zajmującym się ochroną dzieci. Firma publikuje też praktyczne wytyczne dla deweloperów, jak rozpoznawać ten typ treści na własnych platformach.
Interwencje w ChatGPT
Po stronie konsumenckiej ChatGPT będzie wyświetlać interwencje, gdy użytkownik próbuje dotrzeć do materiałów przedstawiających seksualne wykorzystywanie dzieci. Te komunikaty przerywają szkodliwe zachowanie i kierują ludzi do źródeł pomocy.
Szkolenia dla organów ścigania
OpenAI wspiera też śledczych z organów ścigania zajmujących się bezpieczeństwem dzieci, oferując szkolenia dotyczące tego, jak narzędzia AI mogą wspierać ich pracę. Firma argumentuje, że walka z przestępcami seksualnymi działającymi online wymaga koordynacji wielu organizacji, a nie tylko pojedynczych firm.
Presja na deweloperów AI
Ogłoszenie pojawia się w momencie, gdy decydenci i działacze naciskają OpenAI oraz innych deweloperów AI, by wprowadzili silniejsze ograniczenia bezpieczeństwa w swoich narzędziach, zarzucając im, że za mało robią, by zapobiegać nadużyciom.
Źródła
- #OpenAI
- #ChildSexualAbuseMaterial
- #CSAM
- #ChatGPT
- #ImageClassifier
- #AISafety
- #LawEnforcement
Graf wiadomości
Powiązane wiadomości
OpenAI prezentuje nowy klasyfikator obrazów i ostrzeżenia w ChatGPT, by walczyć z materiałami przedstawiającymi seksualne wykorzystywanie dzieci
OpenAI udostępniło narzędzie wykrywające materiały przedstawiające seksualne wykorzystywanie dzieci, w tym wygenerowane przez AI, i wprowadza interwencje, któr…
