![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Entry tags:
Sam Harris 2016 Ted Talk on AI
Сэм Харрис узнал о проблеме superintelligence не так давно. Судя по всему, не раньше, чем два года назад. И даже после того, как узнал, доходило довольно медленно. Вот, например, можно послушать его mumbling датированный апрелем 2015: https://youtu.be/JybXEp7k7XU
Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.
Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:
Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.
Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:
no subject
знаешь анекдот? пессимист думает, что хуже не будет, потому что уже некуда, оптимист говорит "будет, будет", а практик запасается патронами.
вот я стараюсь, как опытный практик, смотреть сугубо рационально. и по всему выходит, что никакой магии в человеческом мозге нет, мы примерно знаем, как он работает (шестиуровневая RNN) и уже умеем такие сетки учить, и вопрос только в том, как либо делать это более эффективно на существующем железе, либо ждать, когда железо подрастёт. эти две кривые (hw capabilities vs time и hw requirements vs time) сближаются каждый день, и точка пересечения, кажется, уже недалеко. кажется ближе, чем 50 лет, про которые говорит харрис.
no subject
no subject