William Hertling on Singularity, Boström

[109]

среди прочих, чувак высказывает интересную мысль о том, что сценарий терминатора весьма misleading: it's not so much about machine intelligence as about machine strength [against human intelligence]. реальный сценарий будет в каком-то смысле обратный: машины, которые гораздо умнее нас, will take over, несмотря на vulnerabilities: boxing, tripwires, и проч.

вообще, Boström, конечно, фундаментальное произведение написал. объял, так сказать, необъятное. фактически создал framework для обсуждения любых singularity-related тем на следующее десятилетие. читать хоть и трудно, но обязательно.