Przewodnik po bezpieczeństwie sztucznej inteligencji
Zrozum, czym jest ryzyko związane z AI — po polsku, od podstaw.
Większość materiałów o bezpieczeństwie sztucznej inteligencji istnieje wyłącznie po angielsku. Tłumaczymy najważniejsze idee na przystępny język, bez zakładania wcześniejszej wiedzy i bez straszenia — po to, byś mógł wyrobić sobie własne zdanie.
O co chodzi?
Krótko: budujemy coraz potężniejsze systemy, których zachowania nie umiemy jeszcze pewnie kontrolować.
Co to jest?
Bezpieczeństwo AI to dziedzina badająca, jak projektować systemy sztucznej inteligencji, by realizowały cele zgodne z ludzkimi wartościami — a nie tylko takie, które na takie wyglądają.
Dlaczego teraz?
Możliwości systemów rosną szybciej niż nasze metody ich kontroli. Im wyższa stawka, tym ważniejsze, by rozmawiać o tym świadomie — także w Polsce.
Czy to nie panika?
Nie. To obszar realnej niepewności i sporu. Pokazujemy argumenty uczciwie — łącznie z najczęstszymi wątpliwościami wobec tej tezy.
Dla kogo?
Dla ciekawych laików, studentów i inżynierów oraz osób zainteresowanych regulacją. Każdy znajdzie ścieżkę dopasowaną do siebie.
Ścieżki nauki
Wybierz drogę dla siebie
Od zera: bezpieczeństwo AI dla początkujących
Ścieżka dla osób, które nigdy wcześniej nie zetknęły się z tematem. Zaczynamy od podstawowej intuicji, a kończymy na zrozumieniu, dlaczego badacze mówią o ryzyku.
3 teksty · Rozpocznij → Dla osób technicznychŚcieżka techniczna
Dla osób z zapleczem informatycznym lub ML, które chcą zrozumieć problem dopasowania od strony pojęciowej, zanim sięgną po literaturę anglojęzyczną.
3 teksty · Rozpocznij → Polityka i zarządzaniePolityka i zarządzanie
Dla osób zainteresowanych regulacją i zarządzaniem ryzykiem. Najpierw intuicja, dlaczego problem jest realny, a potem kontekst dla rozmowy o regulacjach.
2 teksty · Rozpocznij →Od czego zacząć
Kluczowe pojęcia
Ryzyka egzystencjalne związane z AI
Czym jest ryzyko egzystencjalne, dlaczego zaawansowana sztuczna inteligencja bywa wymieniana jako jego źródło i jak poważnie traktują ten problem badacze.
Czytaj dalej →Teza o ortogonalności
Poziom inteligencji i cele, do których ona dąży, są od siebie niezależne. Dowolny poziom zdolności może współwystępować z niemal dowolnym celem.
Czytaj dalej →Problem alignmentu
Dlaczego dopasowanie celów zaawansowanej sztucznej inteligencji do ludzkich wartości jest tak trudne — i dlaczego jest to jeden z najważniejszych problemów naszych czasów.
Czytaj dalej →Najczęstsze wątpliwości
Masz wątpliwości? To dobrze.
Rozważamy najczęstsze zarzuty w najmocniejszej wersji — i odpowiadamy na nie rzetelnie.
Zobacz wszystkie wątpliwości →Newsletter
Bądź na bieżąco z nowymi tekstami
Bez spamu — okazjonalne podsumowanie nowych artykułów i materiałów.
Zapisz się →