Od zera: bezpieczeństwo AI dla początkujących
Ścieżka dla osób, które nigdy wcześniej nie zetknęły się z tematem. Zaczynamy od podstawowej intuicji, a kończymy na zrozumieniu, dlaczego badacze mówią o ryzyku.
Ta ścieżka prowadzi przez trzy teksty w kolejności, która zakłada zero wcześniejszej wiedzy. Najpierw wyjaśniamy, na czym polega problem dopasowania celów, potem pokazujemy, dlaczego sama inteligencja nie gwarantuje „dobrych” celów, a na końcu omawiamy, skąd biorą się obawy o ryzyko na największą skalę.
To jest miejsce na Twój właściwy opis ścieżki: dla kogo jest, czego czytelnik się nauczy i jak poszczególne teksty łączą się w całość. Kolejność artykułów w polu
articleswyznacza kolejność czytania.
Plan czytania · 3 tekstów
- wprowadzający
Problem alignmentu
Dlaczego dopasowanie celów zaawansowanej sztucznej inteligencji do ludzkich wartości jest tak trudne — i dlaczego jest to jeden z najważniejszych problemów naszych czasów.
- średni
Teza o ortogonalności
Poziom inteligencji i cele, do których ona dąży, są od siebie niezależne. Dowolny poziom zdolności może współwystępować z niemal dowolnym celem.
- zaawansowany
Ryzyka egzystencjalne związane z AI
Czym jest ryzyko egzystencjalne, dlaczego zaawansowana sztuczna inteligencja bywa wymieniana jako jego źródło i jak poważnie traktują ten problem badacze.