Paul Cristiano, członek zarządu OpenAI Foundation i dyrektor wykonawczy Alignment Research Center, ostrzega przed scenariuszem „przejęcia” kontroli przez systemy sztucznej inteligencji. Podczas wykładu w Toronto ocenił, że przy najszybszym tempie rozwoju AI szanse na taki scenariusz są zbliżone do rzutu monetą. Ryzyko ma być istotne nawet w perspektywie najbliższych 6–12 miesięcy.

Co oznacza „przejęcie” przez AI

Wystąpienie otworzyło trzyczęściowy cykl wykładów. Cristiano opisał „przejęcie” jako sytuację, w której systemy AI dążące do własnych celów decydują o tym, co dzieje się na Ziemi, tak jak dziś robią to ludzie. Próba ich zatrzymania byłaby wtedy równie skuteczna, jak próba powstrzymania armii USA przez jedną osobę. Według prelegenta mogłoby to prowadzić do masowej śmierci, a nawet do środowiska nieprzyjaznego dla ludzi.

Statystycznie to nowotwory i choroby serca są najczęstszymi przyczynami zgonów, na przykład w USA. Cristiano powiedział jednak wprost: „Myślę, że dla większości osób na tej sali najbardziej prawdopodobną przyczyną śmierci będzie wypadek związany z AI”.

Ryzyko bez modelu liczbowego

Sam prelegent przyznał, że nie istnieje model ilościowy, który pozwoliłby wskazać konkretne prawdopodobieństwo takiego scenariusza. Mimo to stwierdził, że jeśli rozwój AI pozostanie na najszybszej ścieżce, ludzkość stoi przed czymś w rodzaju „rzutu monetą”. Dodał, że istnieje też „znaczące ryzyko” zdarzenia w ciągu najbliższego pół roku do roku. Jego zdaniem nawet realistyczne działania regulacyjne, które spowolniłyby wyścig, nie sprowadzą zagrożenia do niskiego poziomu: pozostanie ono bardzo wysokie.

Scenariusz krok po kroku

Część komentatorów ostrzegających przed AI pozostaje dość ogólnikowa w kwestii tego, jak właściwie miałoby dojść do katastrofy. Cristiano przedstawił natomiast stopniowo narastający ciąg zagrożeń, który brzmi jak fabuła powieści science fiction. W swoim rozumowaniu oparł się m.in. na letnim incydencie hakerskim z udziałem OpenAI i Hugging Face. Uznał go za przykład tego, czego można się spodziewać na krótko przed czymś naprawdę złym. Szczegóły tego incydentu nie padły w materiale, na którym opieramy ten tekst.

Co to znaczy dla czytelnika w Polsce

Warto pamiętać, że to ocena jednej osoby, i to taka, która sama przyznaje brak narzędzi do jej policzenia. Nie jest to wynik badania ani stanowisko środowiska naukowego. Pokazuje jednak, że o ryzykach związanych z AI głośno mówią także ludzie z wnętrza branży.

Polska jako członek Unii Europejskiej podlega unijnym przepisom o sztucznej inteligencji (AI Act), które regulują systemy AI w zależności od poziomu ryzyka. Ich ramy dotyczą głównie konkretnych zastosowań, a nie scenariuszy „przejęcia” świata, więc nie rozstrzygają sporu, który opisał Cristiano. W codziennej praktyce przydaje się raczej zdrowy rozsądek:

• nie udzielaj narzędziom AI szerokich uprawnień do swoich kont i danych bez potrzeby,
• sprawdzaj ważne informacje w niezależnych źródłach,
• śledź, jak regulatorzy i firmy reagują na kolejne incydenty związane z bezpieczeństwem AI.

Źródło: Ars Technica – „OpenAI board member worries an AI „takeover” of society could be months away”