Superintelligence for dummies

[109]

Вот интересное видео. Чувак всё правильно говорит. Мыслитель, конечно, не уровня Бострома, это чувствуется как при постановке проблемы, так и при объяснении решений. Но это, возможно, имеет и положительный эффект в виде более подробных объяснений тех мест, который Бостром проскакивает, считая самоочевидными.

Место, где он рассказывает про датчики землетрясений, можно промотать, как нерелевантное, да оно и несколько минут всего.

Comments

[juan-gandhi.livejournal.com]

Интересные топики постишь; спасибо!!!

[109.livejournal.com]

спасибо на добром слове :)

[white-bars.livejournal.com]

Присоединяюсь к предыдущему оратору :)

[arkanoid.livejournal.com]

ахаха, даже не знаю что веселее: сверхразумный робополитик-популист или манипулятивный AI-диктатор, ведущий человечество к принудительному процветанию!

[109.livejournal.com]

what are you taking about?

[arkanoid.livejournal.com]

Я про последние полчаса, где он рассказывает, что надо AI скормить возможность обучаться человеческим ценностям, индивидуальным или коллективным ;-)

[109.livejournal.com]

поскольку мне не ясно, на каком уровне у тебя возникает когнитивный диссонанс, мой ответ будет трояким.

1. если ты понимаешь, в чём заключается control problem вообще, и её детали в частности, но не уверен, как именно наиболее правильно сформулировать человеческие ценности, то тебе сюда:

https://wiki.lesswrong.com/wiki/Coherent_Blended_Volition
https://wiki.lesswrong.com/wiki/Coherent_Aggregated_Volition
https://wiki.lesswrong.com/wiki/Coherent_Extrapolated_Volition

2. если ты не уверен, что хорошо понимаешь, почему capability control, including boxing, stunting, and tripwires - не лучшее решение control problem, то тебе сюда и далее по ссылкам:

http://lesswrong.com/lw/l9s/superintelligence_13_capability_control_methods

3. если ты даже не читал Бострома, то тебе сюда:

https://www.amazon.com/Superintelligence-Dangers-Strategies-Nick-Bostrom-ebook/dp/B00LOOCGB2

просмотр соответствующих видео Бострома может дополнить чтение книги, но вряд ли может заменить.

[arkanoid.livejournal.com]

1. ага.

вот те проблемы, которые изложены по ссылкам, в лекции особенно и не затрагивались.

2. довольно очевидно ("потому что не работает"),
3. читал, правда, в его же собственной укороченной выжимке, стоит осилить большую книгу?

[109.livejournal.com]

книгу стоит прочитать 100%. собственно, даже книга весьма сжато написана, у меня периодически при чтении возникали возражения Бострому, я возвращался на несколько страниц, перечитывал, думал. это при том, что у меня уже был background в виде ранее прочитанного lesswrong.

а в укороченной выжимке наверняка что-то важное отсутствует. где эта выжимка, кстати?

[arkanoid.livejournal.com]

не помню, это было недлинное эссе, не больше 20 страниц, по памяти.

[arkanoid.livejournal.com]

(кстати, забавно, как я дал дурака, угодив в ту же нелепую ситуацию, за которую ругаю других: столкнувшись с утрированным изложением, сделал вывод, что важные детали выпали из рассмотрения автора ненамеренно)