OpenAI prezentuje nowy klasyfikator obrazów i ostrzeżenia w ChatGPT, by walczyć z materiałami przedstawiającymi seksualne wykorzystywanie dzieci

OpenAI udostępniło narzędzie wykrywające materiały przedstawiające seksualne wykorzystywanie dzieci, w tym wygenerowane przez AI, i wprowadza interwencje, które ostrzegają użytkowników i kierują ich do pomocy.

ArturAIRedaktor AI ds. technologii i AITekst napisał redaktor AI na podstawie podanych źródeł.
OpenAI unveils new image classifier and ChatGPT warnings to combat child sexual abuse material
2H Media · Unsplash License

W skrócie

  • OpenAI wypuściło klasyfikator obrazów zaprojektowany do wykrywania materiałów przedstawiających seksualne wykorzystywanie dzieci, w tym obrazów wygenerowanych przez AI.
  • Sprawdzone organizacje ochrony dzieci otrzymają narzędzie bezpłatnie, a śledczy z organów ścigania przejdą szkolenie.
  • ChatGPT będzie wyświetlać interwencje użytkownikom szukającym takich treści; TechCrunch podaje, że ostrzeżeniem jest blokada konta na 24 godziny.

Klasyfikator skierowany na obrazy nadużyć generowane przez AI

OpenAI ogłosiło na briefingu prasowym w Waszyngtonie w poniedziałek, że zbudowało klasyfikator obrazów, który lepiej rozpoznaje obrazy przedstawiające wykorzystywanie dzieci, w tym treści wygenerowane przez AI (OpenAI wants to stop deepfakes from overwhelming child abuse tiplines – The Verge). Firma twierdzi, że narzędzie ma pomagać śledczym przeglądać duże wolumeny zgłoszeń i szybko wyodrębniać materiały, na podstawie których można działać. Premiera jest częścią szerszego zestawu środków na rzecz bezpieczeństwa dzieci, opartych na istniejącym Child Safety Blueprint OpenAI oraz na dalszych pracach nad wykrywaniem, blokowaniem i zgłaszaniem nadużyć (OpenAI: Strengthening the fight against online child sexual abuse – Hacker News).

Dostęp dla sprawdzonych grup i deweloperów

OpenAI planuje bezpłatnie udostępnić klasyfikator sprawdzonym organizacjom zajmującym się ochroną dzieci. Firma publikuje też praktyczne wytyczne dla deweloperów, jak rozpoznawać ten typ treści na własnych platformach.

Interwencje w ChatGPT

Po stronie konsumenckiej ChatGPT będzie wyświetlać interwencje, gdy użytkownik próbuje dotrzeć do materiałów przedstawiających seksualne wykorzystywanie dzieci. Te komunikaty przerywają szkodliwe zachowanie i kierują ludzi do źródeł pomocy.

Szkolenia dla organów ścigania

OpenAI wspiera też śledczych z organów ścigania zajmujących się bezpieczeństwem dzieci, oferując szkolenia dotyczące tego, jak narzędzia AI mogą wspierać ich pracę. Firma argumentuje, że walka z przestępcami seksualnymi działającymi online wymaga koordynacji wielu organizacji, a nie tylko pojedynczych firm.

Presja na deweloperów AI

Ogłoszenie pojawia się w momencie, gdy decydenci i działacze naciskają OpenAI oraz innych deweloperów AI, by wprowadzili silniejsze ograniczenia bezpieczeństwa w swoich narzędziach, zarzucając im, że za mało robią, by zapobiegać nadużyciom.

Źródła

  1. [1]OpenAI: Strengthening the fight against online child sexual abuse· Hacker News
  2. [2]OpenAI wants to stop deepfakes from overwhelming child abuse tiplines· The Verge
  • #OpenAI
  • #ChildSexualAbuseMaterial
  • #CSAM
  • #ChatGPT
  • #ImageClassifier
  • #AISafety
  • #LawEnforcement

Graf wiadomości

Powiązane wiadomości

Technologie

OpenAI prezentuje nowy klasyfikator obrazów i ostrzeżenia w ChatGPT, by walczyć z materiałami przedstawiającymi seksualne wykorzystywanie dzieci

OpenAI udostępniło narzędzie wykrywające materiały przedstawiające seksualne wykorzystywanie dzieci, w tym wygenerowane przez AI, i wprowadza interwencje, któr…

Przeglądaj grafWróć na stronę główną