Ścieżka techniczna
Dla osób z zapleczem informatycznym lub ML, które chcą zrozumieć problem dopasowania od strony pojęciowej, zanim sięgną po literaturę anglojęzyczną.
Ścieżka zakłada komfort z pojęciami z informatyki i uczenia maszynowego. Zaczynamy od tezy o ortogonalności (dlaczego zdolności i cele są niezależne), przechodzimy do problemu dopasowania, a kończymy na omówieniu ryzyk na największą skalę.
Miejsce na Twój właściwy opis: jakie założenia ma czytelnik, do jakich materiałów źródłowych warto odesłać i co czytelnik powinien wynieść z każdego tekstu.
Plan czytania · 3 tekstów
- średni
Teza o ortogonalności
Poziom inteligencji i cele, do których ona dąży, są od siebie niezależne. Dowolny poziom zdolności może współwystępować z niemal dowolnym celem.
- wprowadzający
Problem alignmentu
Dlaczego dopasowanie celów zaawansowanej sztucznej inteligencji do ludzkich wartości jest tak trudne — i dlaczego jest to jeden z najważniejszych problemów naszych czasów.
- zaawansowany
Ryzyka egzystencjalne związane z AI
Czym jest ryzyko egzystencjalne, dlaczego zaawansowana sztuczna inteligencja bywa wymieniana jako jego źródło i jak poważnie traktują ten problem badacze.