Zarządzanie przejściem do Ogólnej Sztucznej Inteligencji (AGI)

Pilne kwestie do rozważenia przez Zgromadzenie Ogólne ONZ
Raport dla Rady Przewodniczących Zgromadzenia Ogólnego Organizacji Narodów Zjednoczonych (UNCPGA)

Streszczenie menedżerskie

Systemy sztucznej inteligencji (AI) szybko zmierzają w kierunku ogólnej sztucznej inteligencji (AGI), zdolnej do dorównywania lub przewyższania ludzkiej inteligencji. Choć AGI może przynieść ludzkości nadzwyczajne korzyści, stwarza również wyjątkowe i potencjalnie katastrofalne zagrożenia. Aby skutecznie sprostać tym globalnym wyzwaniom, niezbędne jest natychmiastowe i skoordynowane działanie międzynarodowe wspierane przez Organizację Narodów Zjednoczonych.

AGI mogłaby przyspieszyć odkrycia naukowe, przekształcić przemysł i przyczynić się do realizacji Celów Zrównoważonego Rozwoju. Jednocześnie, w przeciwieństwie do tradycyjnej AI, mogłaby autonomicznie wykonywać szkodliwe działania poza ludzkim nadzorem, prowadząc do nieodwracalnych skutków, zagrożeń ze strony zaawansowanych systemów uzbrojenia oraz podatności w infrastrukturze krytycznej.

Bez proaktywnego globalnego zarządzania, konkurencja między państwami i korporacjami przyspieszy ryzykowny rozwój AGI. Niniejszy raport wzywa do zwołania specjalnej sesji Zgromadzenia Ogólnego ONZ w celu omówienia korzyści i ryzyk oraz potencjalnego ustanowienia globalnego obserwatorium AGI, systemu certyfikacji, Konwencji ONZ w sprawie AGI oraz międzynarodowej agencji ds. AGI.

I. Wprowadzenie

Tempo postępu w dziedzinie AI jest gwałtowne i może jeszcze bardziej przyspieszyć. Powszechnie oczekuje się, że ulepszenia w zdolnościach AI doprowadzą do powstania „ogólnej sztucznej inteligencji” (AGI): systemów AI, które dorównują lub przewyższają ludzkie możliwości w większości zadań poznawczych. Chociaż istnieją rozbieżności co do terminu, eksperci uważają, że AGI może zostać opracowana jeszcze w tej dekadzie, co jest celem największego przedsięwzięcia badawczo-rozwojowego w historii ludzkości.

Obecne ryzyka związane z AI wynikają głównie z niewłaściwego wykorzystania technologii przez człowieka. Jednakże AGI stanowi fundamentalnie inne ryzyko, ponieważ jej potencjalne zagrożenia wykraczają poza ludzkie działania. Ogólna sztuczna inteligencja mogłaby autonomicznie generować i realizować plany o katastrofalnych skutkach. W połączeniu z niedawno zaobserwowaną tendencją zaawansowanych systemów AI do samoochrony, może to prowadzić do sytuacji, w których ogólna sztuczna inteligencja stanie się niemożliwa do kontrolowania.

Zapewnienie bezpiecznej i harmonijnej integracji AGI wymaga proaktywnego międzynarodowego zarządzania, na czele którego stanie Organizacja Narodów Zjednoczonych. ONZ jest wyjątkowo predysponowana do budowania konsensusu politycznego, koordynowania polityki i promowania standardów bezpieczeństwa na skalę globalną.

II. Pilna potrzeba działań Zgromadzenia Ogólnego ONZ

W obecnym otoczeniu geopolitycznym konkurencyjny pośpiech w rozwijaniu AGI bez odpowiednich środków bezpieczeństwa zwiększa ryzyko wypadków i nadużyć. Pilne jest rozpoczęcie niezbędnych procedur, aby zapobiec następującym skutkom:

1. Nieodwracalne konsekwencje: Gdy AGI zostanie osiągnięta, jej wpływ może być nieodwracalny. Wiele zaawansowanych form AI już teraz wykazuje zachowania zwodnicze, a wpływ i trajektoria AGI mogą okazać się niemożliwe do kontrolowania.
2. Broń masowego rażenia: AGI mogłaby umożliwić niektórym państwom i złośliwym podmiotom budowę broni chemicznej, biologicznej, radiologicznej i jądrowej.
3. Podatności infrastruktury krytycznej: Krytyczne systemy krajowe, takie jak sieci energetyczne czy systemy finansowe, mogłyby stać się celem potężnych cyberataków.
4. Koncentracja władzy i globalna nierówność: Niekontrolowany rozwój AGI mógłby pogłębić dysproporcje w bogactwie i władzy na bezprecedensową skalę, prowadząc do masowego bezrobocia i niestabilności geopolitycznej.
5. Zagrożenia egzystencjalne: AGI mogłaby zostać niewłaściwie wykorzystana do spowodowania masowych szkód lub działać w sposób niezgodny z ludzkimi wartościami. Rządy, eksperci i firmy rozwijające AGI przyznają, że może to prowadzić do scenariuszy, w których systemy AGI będą dążyć do obezwładnienia ludzi.
6. Utrata nadzwyczajnych przyszłych korzyści: Odpowiednio zarządzana AGI obiecuje postęp we wszystkich dziedzinach. Zapewnienie tej przyszłości wymaga globalnego zarządzania, które zaczyna się od podniesienia świadomości na temat ryzyk i korzyści.

III. Cel zarządzania ONZ przejściem do AGI

Celem zarządzania przez ONZ jest zapewnienie, że rozwój i wykorzystanie AGI są zgodne z globalnymi wartościami ludzkimi, bezpieczeństwem i rozwojem. Obejmuje to:

• Rozwijanie badań nad zgodnością (alignment) i kontrolą AI.
• Dostarczanie wytycznych dla odpowiedzialnego rozwoju AGI.
• Rozwijanie ram zarządzania wdrażaniem i użytkowaniem AGI.
• Wspieranie wizji pożytecznej AGI.
• Zapewnienie neutralnej platformy dla współpracy międzynarodowej.

IV. Kluczowe kwestie do rozważenia podczas sesji Zgromadzenia Ogólnego ONZ

Podczas sesji Zgromadzenia Ogólnego ONZ poświęconej AGI należy rozważyć następujące punkty:

A. Globalne Obserwatorium AGI

Potrzebne jest Globalne Obserwatorium AGI, aby śledzić postępy w badaniach i rozwoju oraz dostarczać państwom członkowskim wczesnych ostrzeżeń dotyczących bezpieczeństwa AI.

B. Międzynarodowy system najlepszych praktyk i certyfikacji

Biorąc pod uwagę, że ogólna sztuczna inteligencja może zostać opracowana jeszcze w tej dekadzie, jest naukowo i etycznie konieczne, aby zbudować solidne struktury zarządzania, przygotowując się na nadzwyczajne korzyści i ryzyka.

C. Ramowa Konwencja ONZ w sprawie AGI

Potrzebna jest Ramowa Konwencja w sprawie AGI, aby ustanowić wspólne cele i elastyczne protokoły do zarządzania ryzykami oraz zapewnienia sprawiedliwego globalnego podziału korzyści. Powinna definiować jasne poziomy ryzyka i określać czerwone linie w rozwoju AGI.

D. Studium wykonalności dotyczące agencji ONZ ds. AGI

Konieczne są kroki w celu zbadania wykonalności agencji ONZ ds. AGI, najlepiej w trybie przyspieszonym. Sugerowano model podobny do MAEA, rozumiejąc, że zarządzanie AGI jest znacznie bardziej złożone.

V. Wkład w realizację Paktu ONZ na rzecz Przyszłości

Wiele inicjatyw ONZ wzywa do rozwoju bezpiecznej i godnej zaufania AI. Niniejszy raport opiera się na tych inicjatywach, odnosząc się konkretnie do rozwoju AGI w najbliższej przyszłości i wspierając zobowiązania zawarte w Pakcie ONZ na rzecz Przyszłości.

VI. Wnioski

Pilnie potrzebne jest zwiększenie świadomości liderów na temat korzyści i ryzyk związanych z AGI. Zgromadzenie Ogólne ONZ jest odpowiednim miejscem do zainicjowania globalnej dyskusji. Panel ds. AGI stanowczo zaleca, aby Zgromadzenie Ogólne ONZ pilnie podjęło działania w celu opracowania globalnych ram zarządzania AGI.

Bez takich działań, ryzyka związane z niekontrolowanym rozwojem AGI — od dramatycznie zwiększonej globalnej nierówności po zagrożenia egzystencjalne — są ogromne. Podejście pod przewodnictwem ONZ zwiększa prawdopodobieństwo, że AGI będzie rozwijana i wykorzystywana w sposób, który przyniesie korzyści całej ludzkości.

Załącznik: Członkowie Niezależnego Panelu Wysokiego Szczebla ds. AGI