Sam Harris 2016 Ted Talk on AI

[109]

Сэм Харрис узнал о проблеме superintelligence не так давно. Судя по всему, не раньше, чем два года назад. И даже после того, как узнал, доходило довольно медленно. Вот, например, можно послушать его mumbling датированный апрелем 2015: https://youtu.be/JybXEp7k7XU

Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.

Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:

Comments

[ati.livejournal.com]

Я всё равно не понимаю.
Ход его мысли такой: мы будем строить компьютеры всё лучше и лучше и в какой-то момент построим компьютеры умнее, чем мы сами.
Но почему? Из чего это следует?

Это собственно основа рассуждений, он повторяет это утверждение несколько раз, но не доказывает (и даже не особо объясняет) его. Объяснение типа "наши мозги - это всего лишь атомы в определённых комбинациях, значит комбинируя атомы можно построить мозги не хуже" мне представляется совершенно недостаточным. Софт - это тоже нолики, единички. Значит комбинируя нолики и единички можно на практике какой-нибудь драйвер собрать для линукса, или хотя бы grep побыстрее?

Похожая ошибка делается в рассуждениях о парадоксе Ферми. "Во вселенной так много планет, значит где-то на них _обязательно_ должна быть жизнь". Нет, не должна. Может быть, может нет. Много переменных.

Бострома читал, просьба к нему не усылать )

[akimka.livejournal.com]

Это следует из простого факта, что мозг человека это конечная машина тьюринга.

[ati.livejournal.com]

Я так понимаю, это тот же аргумент, что и про "атомы". Голова большая, но конечная, типа. Ок.jpg

[109.livejournal.com]

10:25

[ati.livejournal.com]

"Information processing" -- слишком широкий термин. Это как сказать "если разумность - свойство сложной организации материи, то организуя материю всё более сложным образом, мы обязательно получим разум". Надо не просто "сложным" образом её организовывать, а каким-то определённым, пока не открытым способом. Не просто "обрабатывать информацию", а как-то специальным образом её обрабатывать. Каким - пока не известно.

[109.livejournal.com]

ну девочка, ну ё...

вот только что же убеждал себя не делать за первоклассников домашнюю работу.

цитата at 10:25, дословно: no one seems to notice that referencing the time horizon is a total non-sequitur.

> специальным образом её обрабатывать. Каким - пока не известно

это кому не известно? ты последние 10 лет в коме был, что ли?

[ati.livejournal.com]

Ты погоди обзываться, это всегда успеешь )

Я говорю не о time horizon. А о том, что нет смысла говорить о "когда", если неизвестно "что". "Когда случится быврв?". За последние 10 лет (на самом деле больше) люди придумали структуру и научились настраивать нейронные сетки, эффективно решающие некоторые задачи. Это замечательно, но как это отвечает на вопрос "что такое разумность?".

[109.livejournal.com]

> что такое разумность?

так а что ты от меня хочешь? почему ты сюда пишешь о своей беспомощности? я обещал не делать домашних заданий первоклассникам, и я не буду.

ты вот это хочешь : http://lmgtfy.com/?q=intelligence? или статью в википедии? или определение Бострома? Юдковского? lesswrong? или посоветовать видео пересмотреть, оно там тоже есть?

[ati.livejournal.com]

Лучше места писать про беспомощность, чем в комменты к видео про AI не найти во всём интернете.

Определений много, алгоритмов нет. И понимания, откуда оно берётся в мозгах нет.
Я, в общем, понял, что и ты этого тоже не знаешь. Больше вопросов у меня пока нет, спасибо.

[109.livejournal.com]

ты не спрашивал про алгоритмы. ты спрашивал "что такое разумность?". ответов на этот вопрос ты мог найти сам, много. потом подумать, почему они отличаются. подумать, какой имеет больше смысла в интересующем тебя контексте.

вместо этого, ты по уровню когерентности стремительно приближаешься к gineer, заявляешь, что я должен был, но не рассказал тебе про какие-то алгоритмы, и finally торжественно заявляешь, что и этого я тоже не знаю.

вот как можно кичиться настолько полным невежеством? ты ведь даже вопрос осмысленно сформулировать не можешь. ну начни с совсем basics каких-нибудь, вот прочитай: https://en.wikipedia.org/wiki/Artificial_intelligence, по ссылкам походи.

как можно настолько ничего не знать, если тема интересует? и нафига пытаться рассуждать на тему, если не интересует?

[ati.livejournal.com]

Так я и писал всё время про алгоритмы,
> Не просто "обрабатывать информацию", а как-то специальным образом её обрабатывать. Каким - пока не известно.


Ты просто сразу срываешься на крик, рвёшь тельняшку на груди и шлёшь в википедию. В итоге я так и не увидел за весь наш разговор хотя бы отблеска нового понимания, того, что я не читал раньше, но ты, как давно интересующийся этой темой, знаешь.

[akimka.livejournal.com]

Алгоритмы есть, понимание есть. Нехватает дохрена процессорной мощности. Если ты мне сейчас дашь машинку, которая матрицы транспонирует и умножает в 10млн раз быстрее чем сейчас, я завтра дам тебе интеллект не хуже человеческого.

[gineer.livejournal.com]

"Разумность" подразумеваемая в текущих расуждениях об ИИ,
это разумность человека-ученого который что-то там ИИ-подобное делает.
Типа "вотя такой умный, логику и вообще математику понимаю -- значит ИИ это когда логику и математику понимает" :)

Игнорируя тот момент, что вообще-то Разум, это не свойства одного человека, а всей системы под назанием Человечество.
Ну, не рождается никто сразу врожденным тебе гением,
а учатся, и задачи решают те, которые ставит общество.

Потому, в нынешнем изводе разработок ИИ,
стараются или не ставить, или объезжать десятой дорогой на кривой козе вопросы об обучении и особенно самообучении, творчесве и т.п.
При том, что именно эти свойства мы считаем настоящими свойствами разума.
И в принципе именно их и стараемся и добится... а не какого-о там кривого лернинга нейросеток. %)

[gineer.livejournal.com]

Почему не известно? Известно -- тем же способом что и человек. ;)

[109.livejournal.com]

это fallback solution :)

нет никаких гарантий, что первое же решение, дающее intelligence, найденное эволюцией методом слепого тыка, это глобальный оптимум. null hypothesis здесь как раз в том, что нет, и осмысленный поиск найдёт более оптимальное (быстрее, умнее, self-modifying).

[gineer.livejournal.com]

Надеюсь вам так же как и мне,
очевидно что это утверждение -- зависит от того какое определения интеллекта вы используете?
А определение в свою очередь, для того чтобы быть действенным -- должно отображать реальность.
И уж тем более оно должно это делать, если как написано, вы хотите делать осмысленый поиск.
Иначе -- что же вы ищите? И как можно называть это "осмысленным".

[109.livejournal.com]

то, что я написал, инвариантно по отношению к определению intelligence, as long as человек по этому определению им обладает (а иначе надо просто использовать другое слово).

так что нет, не зависит.

[gineer.livejournal.com]

Я исхожу из очевидного утверждения "если ты что-то ищеш, то ты должен знать имя этого что-то",
что в нашем случае есть знать определение.
Иначе, это классическое "найди то, не зная что",
и значит такой поиск -- это обычный метод научного тыка, трайл энд эррор,
причем даже без эвристики,
а потому "осмысленный" в нем может прилагатся разве что к методике поиска... да и то, сомнительно.

То есть, ниакой это не поиск, нисколько он не осмысленный --
это обычное эволюционное перетряхивание... только не генов, а концепций в головах и прототипов в руках. ;)

[109.livejournal.com]

ну если ты и Бострома прочитал (superintelligence или что-то другое?), и всё равно не понял, то я тут бессилен :)

[ati.livejournal.com]

(плачет)

[109.livejournal.com]

я рад, что люди хотя бы перестали приводить дурацкий аргумент "а мы их из розетки выключим, если что".

[ati.livejournal.com]

Со всей аргументацией про "что будет после" я согласен, меня именно момент перехода интересует.

[109.livejournal.com]

какой именно аспект интересует?

[akimka.livejournal.com]

Это следует из простого факта, что мозг человека это конечная машина тьюринга.

[gineer.livejournal.com]

+1