William Hertling on Singularity, Boström

[109]

среди прочих, чувак высказывает интересную мысль о том, что сценарий терминатора весьма misleading: it's not so much about machine intelligence as about machine strength [against human intelligence]. реальный сценарий будет в каком-то смысле обратный: машины, которые гораздо умнее нас, will take over, несмотря на vulnerabilities: boxing, tripwires, и проч.

вообще, Boström, конечно, фундаментальное произведение написал. объял, так сказать, необъятное. фактически создал framework для обсуждения любых singularity-related тем на следующее десятилетие. читать хоть и трудно, но обязательно.

Comments

[sasha-gil.livejournal.com]

Ты знаешь, мне его фамилия впервые попалась в контексте обсуждения simulation argument с случайным ЖЖ-собеседником. Профессия у него (Boström-а) такая: поп-философ (не в смыле, что он одновременно и философ, и поп, а в смысле приставки поп-). Т.е. кроме прочего -- навести философический дискурс по мотивам популярных фильмов ("Матрица" и т.п.). Собственно, "simulation argument" -- корректное рассуждение, но с таким количеством предваряющих оговорок -- "если A, B, C, D... то Z", что смысла обсуждать этот самый вывод Z для меня уже не осталось. В новой теме, подозреваю, будет что-то похожее (я, кстати, хотел на встречу с ним сходить -- да он до нас не долетел, на самолёт опоздал).

[109.livejournal.com]

это просто чувак почти что математически аккуратный в своих рассуждениях.

в книге подробно разобраны все варианты - и A, и B, и Z. трудно себе представить что-то более далёкое от "поп-". собственно, и то, что ты пишешь про simulation argument говорит за добросовестность, а не за "поп-".

[akimka.livejournal.com]

после прочтения его книги, я сразу понял смысл фильма терминатор:

Человечество перешло в новую, постбиологическую фазу эволюционным путем - сначала машины-помощники, затем машины-помогающие принимающие решения, затем машины, принимающие решения лучше людей, заменя ими политических систем, получение ключевых постов и наконец ликвидация белковых людей как неэффективных (скорее всего просто прекращением размножения, ибо размножение будет уже давно под контролем).

И как итог люди, борящиеся с машинами в терминаторе это просто такие луддиты, которые пытаются остановить паровой каток эволюции, и ресурсы выделенные на их уничтожение ничтожны и сама борьба не более важна, чем борьба человека сейчас с мелкой инфекцией от царапины. Но машины, конечно, победят ;)

[sshishka.livejournal.com]

>наконец ликвидация белковых людей как неэффективных

мысль не новая, у Докинза уже было

[109.livejournal.com]

под "его" ты, очевидно, имеешь в виду Хертлинга? (если бы ты прочитал Бострома, то такие глупости не писал бы ;)

[akimka.livejournal.com]

бострома я прочитал дл половины пока ;) так что и думаю глупости такие, как дочитаю будет интересно разобраться почему моя идея неверна.

[sshishka.livejournal.com]

>фактически создал framework для обсуждения любых singularity-related тем на следующее десятилетие

с междисциплинарным фреймворком когнититивной науки можно сравнивать