Нет, ни в коем случае нельзя давать девелоперам, потенциально способным создать АИ, общаться с философами. То есть наоборот, полезно для осознания глубины заблуждений в которую готов себя ввергнуть человеческий разум, но ни в коем случае не в качестве как бы предохранительного чего-нибудь.
Потому что философы ебанутые и обожают составлять бессмысленные слова в синтаксически корректные бессмысленные предложения.
Я бы этих чуваков заставил читать крутых современных научных фантастов. Например, Грега Игэна, но выборочно (он тоже в какую-то левую философию местами скатывается). Например, у него есть замечательный момент, там у него чувак, главный герой, в какой-то момент получает имплант в голову, который переориентирует его ценности в сторону блага некоей Корпорации. И он даже не может захотеть избавиться от этого импланта, поскольку это не пойдёт во благо Корпорации. А потом с ним связывается другой чувак, с таким же имплантом, который спрашивает, типа, а что такое Корпорация? Это совет директоров? Ну так каждый из них заботится о своём собственном благе, практически по определению. Другие какие-то чуваки? Это же не праздный вопрос совсем: вот ты получаешь приказ откуда-то сверху, как ты можешь знать, что отдавший его заботился о благе Корпорации? Ну, отвечает чувак, это всё очень мило, конечно, но бессмысленно, поскольку никакого более чёткого определения блага Корпорации я получить не могу. "А вот тут-то мы вас, батенька, и поправим", -- заявляет другой чувак, -- "Прикинь, существуют люди, которые по определению ставят благо Корпорации выше любых личных желаний. И ты их знаешь". "Ояебу, это мы что ли?" -- "Infallibility," he says, "is our greatest consolation."
Сам перенеси сценарий на самоуверенных программистов и зачаточное АИ.
абсолютно. но под философами, как я понял, андерс имеет не вообще каких попало, а таких специальных сингулярных философов, которые именно что будут нагнетать на девелоперов страхов перед неуправляемой сингулярностью, чтобы типа не считали себя infallible и прищуривались почаще, типа "а не получается ли у нас скайнет".
я бы то же самое порекомендовал делать с биодевелоперами. а то сейчас скрещивает же ужа с ежом уже кто попало же.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
(no subject)
Date: 2009-10-13 09:49 pm (UTC)Нет, ни в коем случае нельзя давать девелоперам, потенциально способным создать АИ, общаться с философами. То есть наоборот, полезно для осознания глубины заблуждений в которую готов себя ввергнуть человеческий разум, но ни в коем случае не в качестве как бы предохранительного чего-нибудь.
Потому что философы ебанутые и обожают составлять бессмысленные слова в синтаксически корректные бессмысленные предложения.
Я бы этих чуваков заставил читать крутых современных научных фантастов. Например, Грега Игэна, но выборочно (он тоже в какую-то левую философию местами скатывается). Например, у него есть замечательный момент, там у него чувак, главный герой, в какой-то момент получает имплант в голову, который переориентирует его ценности в сторону блага некоей Корпорации. И он даже не может захотеть избавиться от этого импланта, поскольку это не пойдёт во благо Корпорации. А потом с ним связывается другой чувак, с таким же имплантом, который спрашивает, типа, а что такое Корпорация? Это совет директоров? Ну так каждый из них заботится о своём собственном благе, практически по определению. Другие какие-то чуваки? Это же не праздный вопрос совсем: вот ты получаешь приказ откуда-то сверху, как ты можешь знать, что отдавший его заботился о благе Корпорации? Ну, отвечает чувак, это всё очень мило, конечно, но бессмысленно, поскольку никакого более чёткого определения блага Корпорации я получить не могу. "А вот тут-то мы вас, батенька, и поправим", -- заявляет другой чувак, -- "Прикинь, существуют люди, которые по определению ставят благо Корпорации выше любых личных желаний. И ты их знаешь". "Ояебу, это мы что ли?" -- "Infallibility," he says, "is our greatest consolation."
Сам перенеси сценарий на самоуверенных программистов и зачаточное АИ.
(no subject)
Date: 2009-10-13 09:59 pm (UTC)я бы то же самое порекомендовал делать с биодевелоперами. а то сейчас скрещивает же ужа с ежом уже кто попало же.