superinteligencja

Niedocenienie inteligencji pociąga za sobą niedoszacowanie potencjalnej potęgi sztucznej inteligencji.

Możemy się mylić w kwestiach moralnych. Możemy błędnie rozpoznać, co jest dla nas dobre. Możemy nawet nie zrozumieć, czego tak naprawdę pragniemy. Wydaje się, że określenie celu ostatecznego wymaga przedarcia się przez gąszcz najeżonych trudnościami problemów filozoficznych. Wybór celu ostatecznego dla superinteligentnych maszyn, które ukształtują przyszłość całej ludzkości, jest okolicznością zupełnie dla nas nową.

Bardzo to krępujące dla naszego gatunku, ale prawa Asimova pozostały naszym szczytowym osiągnięciem w tym zakresie przez ponad pół wieku — i to pomimo oczywistych problemów powstających przy tym podejściu, z których część została przeanalizowana przez samego Asimova w jego kolejnych utworach.