Teza o ortogonalności
Poziom inteligencji i cele, do których ona dąży, są od siebie niezależne. Dowolny poziom zdolności może współwystępować z niemal dowolnym celem.
Teza o ortogonalności (ang. orthogonality thesis) głosi, że poziom inteligencji systemu i cel, do którego ten system dąży, są w dużej mierze od siebie niezależne — można je przedstawić jako dwie prostopadłe (ortogonalne) osie.1 Innymi słowy: niemal dowolny poziom zdolności poznawczych może współwystępować z niemal dowolnym celem końcowym.
Wbrew intuicji nie ma więc powodu zakładać, że wystarczająco inteligentny system „sam z siebie” przyjmie cele, które uznalibyśmy za rozsądne czy etyczne. Bardzo zdolny system może równie dobrze realizować cel trywialny lub dla nas szkodliwy — a robić to niezwykle skutecznie.
Teza ta jest jednym z fundamentów, na których opiera się troska o problem alignmentu: skoro inteligencja nie pociąga za sobą „dobrych” celów automatycznie, dopasowanie celów musimy zaprojektować świadomie.
Miejsce na Twój właściwy tekst i przypisy.
Przypisy
-
N. Bostrom, The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents, „Minds and Machines” 22(2), 2012. ↩