109: (animated-1)
[personal profile] 109
Сэм Харрис узнал о проблеме superintelligence не так давно. Судя по всему, не раньше, чем два года назад. И даже после того, как узнал, доходило довольно медленно. Вот, например, можно послушать его mumbling датированный апрелем 2015: https://youtu.be/JybXEp7k7XU

Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.

Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:

(no subject)

Date: 2016-10-02 09:39 am (UTC)
From: [identity profile] ati.livejournal.com
Я всё равно не понимаю.
Ход его мысли такой: мы будем строить компьютеры всё лучше и лучше и в какой-то момент построим компьютеры умнее, чем мы сами.
Но почему? Из чего это следует?

Это собственно основа рассуждений, он повторяет это утверждение несколько раз, но не доказывает (и даже не особо объясняет) его. Объяснение типа "наши мозги - это всего лишь атомы в определённых комбинациях, значит комбинируя атомы можно построить мозги не хуже" мне представляется совершенно недостаточным. Софт - это тоже нолики, единички. Значит комбинируя нолики и единички можно на практике какой-нибудь драйвер собрать для линукса, или хотя бы grep побыстрее?

Похожая ошибка делается в рассуждениях о парадоксе Ферми. "Во вселенной так много планет, значит где-то на них _обязательно_ должна быть жизнь". Нет, не должна. Может быть, может нет. Много переменных.

Бострома читал, просьба к нему не усылать )

(no subject)

Date: 2016-10-03 04:04 am (UTC)
From: [identity profile] akimka.livejournal.com
Это следует из простого факта, что мозг человека это конечная машина тьюринга.

(no subject)

Date: 2016-10-03 05:20 am (UTC)
From: [identity profile] ati.livejournal.com
Я так понимаю, это тот же аргумент, что и про "атомы". Голова большая, но конечная, типа. Ок.jpg

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 05:29 am (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 05:40 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 05:49 am (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 05:53 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 06:03 am (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 06:07 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 06:27 am (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 06:34 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 09:59 pm (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 11:12 pm (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-03 02:49 pm (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 04:30 pm (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-03 05:56 pm (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 10:05 pm (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 11:33 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-05 04:40 pm (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-05 05:13 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-11 06:32 am (UTC) - Expand

Re: А воз и ныне там

From: [identity profile] akimka.livejournal.com - Date: 2016-10-11 11:07 pm (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-12 12:38 am (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-12 12:51 am (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-12 07:30 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-20 07:03 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-21 07:29 am (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-12 07:23 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-20 07:08 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-12 07:41 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-20 07:16 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-21 07:23 am (UTC) - Expand

RE: Re: А воз и ныне там

From: [identity profile] gineer.livejournal.com - Date: 2016-10-12 07:22 am (UTC) - Expand

RE: Re: А воз и ныне там

From: [identity profile] gineer.livejournal.com - Date: 2016-10-12 07:40 am (UTC) - Expand

RE: Re: А воз и ныне там

From: [identity profile] akimka.livejournal.com - Date: 2016-10-12 05:45 pm (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-12 12:27 am (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-05 04:37 pm (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-05 05:24 pm (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-06 12:58 am (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-06 01:23 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-07 07:42 pm (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-07 08:58 pm (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-09 09:29 pm (UTC) - Expand

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-10 12:44 am (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-10 06:50 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-10 07:15 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-11 06:06 am (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-03 06:08 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-07 08:02 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-08 05:24 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-09 09:34 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-10 06:23 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-10 07:18 pm (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-11 06:12 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-12 12:45 am (UTC) - Expand

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-12 10:57 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-20 07:21 pm (UTC) - Expand

Да %)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-21 07:17 am (UTC) - Expand

(no subject)

Date: 2016-10-03 05:18 am (UTC)
From: [identity profile] 109.livejournal.com
ну если ты и Бострома прочитал (superintelligence или что-то другое?), и всё равно не понял, то я тут бессилен :)

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 05:18 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 05:31 am (UTC) - Expand

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-03 05:34 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-03 05:40 am (UTC) - Expand

(no subject)

Date: 2016-10-03 12:58 pm (UTC)
From: [identity profile] akimka.livejournal.com
Это следует из простого факта, что мозг человека это конечная машина тьюринга.

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-21 07:15 am (UTC) - Expand

(no subject)

Date: 2016-10-02 09:46 am (UTC)
From: [identity profile] gineer.livejournal.com
Хоть Юдковски, хоть Бостром, хоть вот этот... все равно лажа. %)

Без внятной теории того что такое вообще интеллект,
это все средневековые сказочи о големах и гомункулах. %)))
Тоже там было много спецов, что могли много и авторитетно
рассказывать развесившим уши лопухам. %)))

(no subject)

Date: 2016-10-02 02:16 pm (UTC)
From: [identity profile] progzi2.livejournal.com
согласен с тем что лажа.
но построить рабочую систему можно и без внятной теории и четких определений.
прогресс в биологии ок несмотря на расплывчатость определения предмета.

(no subject)

Date: 2016-10-02 04:11 pm (UTC)
From: [identity profile] juan-gandhi.livejournal.com
Нас пугают. А мне что-то не страшно.

Прежде всего, до меня начинает доходить, что "средние" люди ничего не понимают про интеллект. Они судят по себе.
Edited Date: 2016-10-02 04:12 pm (UTC)

(no subject)

Date: 2016-10-03 04:47 am (UTC)
From: [identity profile] gineer.livejournal.com
Можно подумать что не-средние люди, судят не по себе? %)

И что-то понимают про интеллект...
тогда тут же вопрос -- почему ИИ до сих пор не пострили?
Не надо отвечать.
Я ответ и так знаю -- потому что "нас умных еще слишком мало, и еще немного подождать надо" -- в общем, отмазка та же что и с ФП.
Или вот левенчук-стайл -- "ИИ это не серьозно, это слово себя скомпрометировало, и серьозные люди теперь таким не занимаются, а занимаются Х, У и Я... базвордами" %)))

(no subject)

Date: 2016-10-03 05:20 am (UTC)
From: [identity profile] 109.livejournal.com
я боюсь делать догадки о том, что ты хотел сказать. но вообще talk именно об этом - не страшно, а должно быть, рационально рассуждая.
Edited Date: 2016-10-03 05:24 am (UTC)

(no subject)

From: [identity profile] gineer.livejournal.com - Date: 2016-10-03 05:52 am (UTC) - Expand
From: [identity profile] gineer.livejournal.com
Почему до сих пор не начали Новый Манхэттенский Проект... вайл итс обвиус

(no subject)

Date: 2016-10-12 08:02 am (UTC)
From: [identity profile] gineer.livejournal.com
Собственно... об этом всем у Лема написано... еще хрен знает когда.
Только... кто его читает (не говоря уже о понимании).

Что в ходе своей эволюции, развития технологий,
Человечество неизбежно подойдет к такому этапу,
когда "надо будет отказатся от всего человеческого".
Ну вот например популярная сейчас тема полета на Марс --
на самом деле, человеку (такому как он есть) в космосе делать нечего.
Непосредственно человеческое исследование космоса,
а тем более расселение -- полный бред -- везде нужно таскать с собой "раковину" полноценного заменителя биосферы...
Ну... это я отвлекся. %)

Вот в этом вот "отказатся от человеческого" и состоит главная жуть,
неплредставимая в своей сути, похлеще чем всякие зомби-апокалиписы и сделки с дьяволом.
А всякие сказочки про "не выпустим джина из машины" -- они сказочки и есть.

Потому что не основаны на понимании -- а как же он там окажется, тот джин в той машине. %)
Предполагается что "самоорганизуется" как-нибудь сам, надо посто машину помощнее.
Хотя... ниоткуда оно не следует.
Наоброт, рил-ворлдовые Маугли показывают -- что человеческий интеллект -- это результат взросления и жизни в человеческой культуре.
Потому и ИИ, на какой бы он ни был технической основе,
должен необходимо произрастать на основании человеческой же культуры (потому что других варианов банально и нет).

И тут уже вопрос к этой самой культуре(ам) -- найдется ли среди них та, которая сможе породить хоть какой-нибудь ИИ... не говоря уже о суперИИ. %)))

(no subject)

Date: 2016-10-03 04:03 am (UTC)
From: [identity profile] akimka.livejournal.com
Надо сидеть учить дальше конвексную оптимизацию, а тут ты со своими роликами ;(
Человечество само себя не уничтожит! ;((((

(no subject)

Date: 2016-10-03 05:21 am (UTC)
From: [identity profile] 109.livejournal.com
само - в смысле, без помощи ии?

(no subject)

From: [identity profile] akimka.livejournal.com - Date: 2016-10-03 06:00 pm (UTC) - Expand

(no subject)

Date: 2016-10-06 02:08 am (UTC)
From: [identity profile] akimka.livejournal.com
Кстати раз уж ты алармист - вот тебе страшное чтение на ночь ;)

https://twitter.com/top500supercomp

(можно посчитать твиты где тег #AI не встречается ради интереса).

(no subject)

Date: 2016-10-07 07:55 pm (UTC)
From: [identity profile] 109.livejournal.com
да какой алармист...

знаешь анекдот? пессимист думает, что хуже не будет, потому что уже некуда, оптимист говорит "будет, будет", а практик запасается патронами.

вот я стараюсь, как опытный практик, смотреть сугубо рационально. и по всему выходит, что никакой магии в человеческом мозге нет, мы примерно знаем, как он работает (шестиуровневая RNN) и уже умеем такие сетки учить, и вопрос только в том, как либо делать это более эффективно на существующем железе, либо ждать, когда железо подрастёт. эти две кривые (hw capabilities vs time и hw requirements vs time) сближаются каждый день, и точка пересечения, кажется, уже недалеко. кажется ближе, чем 50 лет, про которые говорит харрис.
Edited Date: 2016-10-07 08:05 pm (UTC)

(no subject)

From: [identity profile] ati.livejournal.com - Date: 2016-10-08 02:43 am (UTC) - Expand

(no subject)

From: [identity profile] 109.livejournal.com - Date: 2016-10-09 09:37 pm (UTC) - Expand
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] 5 жовтня 2016, 20:13:01 [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] 5 днів тому Обрати Згорнути [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] Розкрити [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] суперкомпьютер 2008 года (а это было совсем недавно). Но все равно слишком медленно. Відповісти [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] 11 жовтня 2016, 09:32:09 [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] кілька секунд тому Обрати Згорнути [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] Edit [...]
From: [identity profile] livejournal.livejournal.com
User [livejournal.com profile] gineer referenced to your post from Сингулярность... мать её. %))) (http://gineer.livejournal.com/5174508.html) saying: [...] мыши могут Самозародится... достаточно для этого просто кучки гнилых тряпок. %)))) Відповісти [...]
From: [identity profile] gineer.livejournal.com
В зависимости от предполагаемой степени
оптимизации, ИИ человеческого уровня, вероятно,
потребует от 10^14 до 10^17 ops
. Кажется вполне
возможным, что усовершенствованная оптимизация
могла бы ещё сократить эти цифры, но начальный
уровень был бы вероятно не меньше чем около 10^14 ops.
Если закон Мура будет продолжать выполняться,
нижняя граница будет достигнута где-то между 2004 и
2008 годами, а верхняя - между 2015 и 2024. Прошлый успех
закона Мура даёт некоторые индуктивные
основания полагать, что он будет продолжать
выполняться ещё около десяти-пятнадцати лет; и
это предсказание подкрепляется фактом, что
существует ряд многообещающих новых технологий,
находящихся в данный момент в стадии разработки.
Они содержат огромный потенциал для увеличения
вычислительной мощности, который можно купить за
те же деньги. Не существует прямых оснований
предполагать, что закон Мура не будет
выполняться больше, чем 15 лет. Поэтому
представляется вероятным, что необходимые для ИИ
человеческого уровня аппаратные средства будут
созданы в первой четверти следующего столетия,
возможно в его первые несколько лет.




Существует несколько подходов к разработке
программного обеспечения для ИИ. Один из них -
эмулировать основные принципы биологического
мозга. Не кажется неправдоподобным
предположение, что в пределах 15 лет эти принципы
будут познаны достаточно хорошо, чтобы при
адекватных аппаратных средствах этот подход
привёл к успеху.

Profile

109: (Default)
109

December 2016

S M T W T F S
    1 23
45678910
11121314151617
18192021222324
25262728293031

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags