Wątpliwość
„AI to tylko narzędzie — liczy się, jak go użyjemy”
Skoro sztuczna inteligencja jest tylko narzędziem jak młotek czy kalkulator, to o ryzyku decyduje wyłącznie człowiek, który ją stosuje. Czy obawy o „samodzielne” działanie systemów nie są przesadzone?
To jeden z najczęściej powtarzanych zarzutów — i w wersji steelman brzmi mocno: większość dzisiejszych systemów rzeczywiście jest narzędziami, które robią dokładnie to, co im każemy, a odpowiedzialność spoczywa na człowieku.
Miejsce na rzetelną, uczciwą odpowiedź: w czym ten zarzut ma rację, a gdzie się załamuje w odniesieniu do systemów zdolnych do autonomicznego, kompetentnego dążenia do celu (zob. problem alignmentu oraz tezę o ortogonalności).
Powiązane artykuły
Problem alignmentu
Dlaczego dopasowanie celów zaawansowanej sztucznej inteligencji do ludzkich wartości jest tak trudne — i dlaczego jest to jeden z najważniejszych problemów naszych czasów.
Czytaj dalej →Teza o ortogonalności
Poziom inteligencji i cele, do których ona dąży, są od siebie niezależne. Dowolny poziom zdolności może współwystępować z niemal dowolnym celem.
Czytaj dalej →