Konferencja ONZ w Genewie oceni ograniczenia dla autonomicznej broni napędzanej AI

W skrócie

• Konferencja ONZ dotycząca ograniczenia autonomicznej broni opartej na sztucznej inteligencji rozpoczyna się w Genewie 16 listopada w ramach Konwencji o niektórych broniach konwencjonalnych.
• Śmiercionośne systemy autonomiczne mogą wykrywać i atakować cele bez operatora, a drony z AI mogą wybierać cele nieokreślone wcześniej.
• Stany Zjednoczone postulują odpowiedni ludzki osąd, natomiast Francja wymaga udziału człowieka i zakazuje w pełni śmiercionośnych systemów autonomicznych.

Rozmowy w Genewie o autonomicznej broni

Konferencja odbędzie się w ramach Konwencji ONZ o niektórych broniach konwencjonalnych (CCW), w której państwa omawiają możliwe zakazy i ograniczenia dotyczące śmiercionośnych systemów broni autonomicznej, znanych jako LAWS (UN to discuss restrictions on AI-powered autonomous weapons – Ukrinform) (В ООН обговорять міжнародну заборону автономної зброї зі штучним інтелектом – Suspilne). Spotkanie rozpoczyna się 16 listopada w siedzibie ONZ w Genewie (В ООН обсудят введение ограничений и запретов на автономное оружие на базе ИИ — AFP – NV).

Do czego zdolne są te systemy

Według Jean-Marc Ricklego z Genewskiego Centrum Polityki Bezpieczeństwa takie systemy mogą identyfikować, wybierać i atakować cel bez interwencji operatora w tych zadaniach. Broń autonomiczna nie jest nowością; wcześniejszym przykładem są miny przeciwpiechotne. Drony wyposażone w sztuczną inteligencję mogą obecnie wybierać i razić cele, które nie zostały określone wcześniej, dostosowując się do otoczenia bez udziału człowieka.

Gdzie państwa się nie zgadzają

Kluczowe pytanie dla ewentualnych przyszłych zasad brzmi, jaki poziom kontroli człowieka musi pozostać przy decyzji o użyciu siły. Stany Zjednoczone twierdzą, że przy rozmieszczaniu broni autonomicznej potrzebny jest odpowiedni poziom ludzkiego osądu. Francja nalega, by w decyzjach uczestniczył człowiek. Francja zakazuje śmiercionośnych systemów autonomicznych, ale dopuszcza częściowo autonomiczne.

Dlaczego to ma znaczenie

Eksperci cytowani przez agencje twierdzą, że wojskowy rozwój AI wyprzedza tworzenie międzynarodowych zasad jej użycia. Spotkanie w Genewie jest forum, na którym ta luka mogłaby zacząć być adresowana, choć źródła nie opisują żadnego wiążącego wyniku.