Ryzyka egzystencjalne związane z AI
Czym jest ryzyko egzystencjalne, dlaczego zaawansowana sztuczna inteligencja bywa wymieniana jako jego źródło i jak poważnie traktują ten problem badacze.
Ryzyko egzystencjalne to ryzyko zdarzenia, które trwale i drastycznie ograniczyłoby potencjał ludzkości — w skrajnym przypadku prowadząc do jej wyginięcia lub nieodwracalnej katastrofy.1 Część badaczy zalicza do tej kategorii scenariusze związane z utratą kontroli nad systemami AI znacznie przewyższającymi ludzkie zdolności.
Argument w uproszczeniu: jeśli powstanie system o zdolnościach przewyższających człowieka, a jego cele nie będą dobrze dopasowane (zob. problem alignmentu), to mógłby on dążyć do realizacji tych celów w sposób, którego nie bylibyśmy w stanie powstrzymać. Nie wymaga to „złej woli” w ludzkim sensie — wystarczy kompetentne dążenie do celu rozbieżnego z naszym dobrem.
Warto podkreślić, że jest to obszar realnej niepewności i sporu — zarówno co do prawdopodobieństwa, jak i ram czasowych. Celem tego tekstu nie jest wzbudzanie paniki, lecz rzetelne przedstawienie, dlaczego poważni badacze traktują ten problem na serio.
Miejsce na Twój właściwy tekst, przypisy i uczciwe omówienie różnych stanowisk.
Przypisy
-
T. Ord, The Precipice: Existential Risk and the Future of Humanity, Bloomsbury, 2020. ↩
Powiązane artykuły
Problem alignmentu
Dlaczego dopasowanie celów zaawansowanej sztucznej inteligencji do ludzkich wartości jest tak trudne — i dlaczego jest to jeden z najważniejszych problemów naszych czasów.
Czytaj dalej →Teza o ortogonalności
Poziom inteligencji i cele, do których ona dąży, są od siebie niezależne. Dowolny poziom zdolności może współwystępować z niemal dowolnym celem.
Czytaj dalej →