Sam Harris 2016 Ted Talk on AI

[109]

Сэм Харрис узнал о проблеме superintelligence не так давно. Судя по всему, не раньше, чем два года назад. И даже после того, как узнал, доходило довольно медленно. Вот, например, можно послушать его mumbling датированный апрелем 2015: https://youtu.be/JybXEp7k7XU

Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.

Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:

Comments

[109.livejournal.com]

да какое "отчасти правы", акимка?

ну почитай ты Бострома, Юдковского, и lesswrong. дискурс и конценсус даже начинается (году примерно в 2007) с более глубоких и интересных мыслей, чем эта мучительно и коряво сформулированная хуета. а к 2013-2014 консистентный дискурс уже сформировался практически полностью.

тут не "отчасти правы", тут глубокое невежество, которое невозможно комментировать, it's not even wrong.

[akimka.livejournal.com]

пионер должен быть вежливым! а то мы всех собеседников потеряем ;)

уровень дискуссии пугает. и это более менее технически подкованные люди, то есть general population ваще не понимает что происходит. Меня это пугает даже с точки зрения социальных явлений - ты читал про компанию Обамы, которая была выиграна не в малой мере при помощи дата сайнс? То есть при помощи определенных моделей были успешно вычислены бэттлграунд кварталы, которые по эффекту домино могут повлиять на выборы в городе -> графстве и далее штате и туда было направлено макс. ресоурсов по выигрышу. То есть условно говоря Обама высаживается в каком-нить скрентоне не просто скрентоне а вот в конкретной районной школе, который подсказал алгоритм. И вот куда мы идем условно говоря с этим дальше? Понимание поведения людей и масс тоже растет. Речи, которые пишутся алгоритмами? Поведение кандидатов, которое выдрачивается под руководством дата сайнтистов? Условно говоря цвет галстука не на основании тупого опроса людей, который ничего не значит, а реально влияющий на выбор.

И это все УЖЕ происходит, а люди тут рассуждают не понимая того, что это влияет на их жизнь серьезнейшим обращом прямо сейчас.

[gineer.livejournal.com]

\\И это все УЖЕ происходит, а люди тут рассуждают не понимая того, что это влияет на их жизнь серьезнейшим обращом прямо сейчас.

Гы... Лем понимал это еще в каком-то 19..мохнатом году.
Я его читал. и воспринимаю его мнение по-дефлту, так что и говорить не о чем.

Вы, начинаете как-то интуитивно по-немногу его самостоятельно понимать.

И ставите МНЕ на вид что я чего-то такого очевидного... не понимаю. %))))

Что это... как не доказательство моего тезиса (здесь явно не сформированного) -- что НЕТ никакой сформулированой теории развития ИИ, не важно сколько там и каких умищ на эту тему что-то там писало... потому и взаимопонимания достичь сложно...
вплоть до отсутствия возможности согласится об определениях.

И как в таких условиях говорить о разработке чего бы это ни было...

[109.livejournal.com]

> при помощи определенных моделей были успешно вычислены бэттлграунд кварталы, которые по эффекту домино могут повлиять на выборы в городе -> графстве и далее штате и туда было направлено макс. ресоурсов по выигрышу. То есть условно говоря Обама высаживается в каком-нить скрентоне не просто скрентоне а вот в конкретной районной школе, который подсказал алгоритм.

это всё тоже интересно, но имеет мало отношения к собственно проблеме superintelligence. во всех этих примерах человек у руля, а алгоритмы специализированные.

[gineer.livejournal.com]

\\это всё тоже интересно, но имеет мало отношения к собственно проблеме superintelligence. во всех этих примерах человек у руля, а алгоритмы специализированные.

Дык... то есть, проблему вы всетаки понимаете. ;)

Чт все нынешние потуги с ИИ,
зависают ровно на том же самом месте -- "у руля" все равно стоит человек.

А самоорагизации и/или самообучения -- не видно и не слышно.

Но то... что этой проблемы почему-то никто из "умнейших мира сего" почему-то "не видит" и явно не формлирует...
(тот же Юдковский, последнее что у него читал... до ухода в религию "рациональности"... писал на попсовую тему ДружелюбногоИИ, а не про то, как этот ИИ сделать... хоть дружелюбный, хоть какой)
вас при этом не смущает? %)

То есть... вы реально верите в сказочку "когда у нас появятся ТАКИЕ мощные компьютеры... в них тут же и СуперИИ, как-то сам-собой и появится"??? %)

[gineer.livejournal.com]

Вы продолжаете писать "Юдковского, и lesswrong"... это практически "Фридриха Энгельса -- не муж и жена". ;)

[109.livejournal.com]

да не, во времена расцвета lesswrong там дофига умных людей тусовалось. Юдковский просто был больше сфокусирован на проблеме superintelligence, но продвинуть дискурс настолько вперёд - это коллективный effort.

[gineer.livejournal.com]

\\а к 2013-2014 консистентный дискурс уже сформировался практически полностью.

И где его почитать... ну так что консистентно?


А так...

""Определение термина "суперинтеллект"

Под "суперинтеллектом" мы понимаем
интеллект, превосходящий лучших представителей
человеческого разума практически в любой
области, включая научное творчество, здравый
смысл и социальные навыки. Данное определение
оставляет открытым вопрос, каким образом
суперинтеллект будет осуществлён: это может быть
цифровой компьютер, совокупность
взаимосвязанных компьютеров, культивированная
мозговая ткань, или нечто другое.""

Это вот это,
вы предлагаете принимать за конструктивное определение? %)

[109.livejournal.com]

ну, это уже прогресс, хоть и микроскопический. возможно, через некоторое время и осмысленный вопрос задать получится. а пока могу порекомендовать внимательно перечитывать то, что я уже писал в этом треде, например:

---
ты вот это хочешь : http://lmgtfy.com/?q=intelligence? или статью в википедии? или определение Бострома? Юдковского? lesswrong? или посоветовать видео пересмотреть, оно там тоже есть?
---
ты спрашивал "что такое разумность?". ответов на этот вопрос ты мог найти сам, много. потом подумать, почему они отличаются.
---

[gineer.livejournal.com]

\\ну, это уже прогресс, хоть и микроскопический. возможно, через некоторое время и осмысленный вопрос задать получится. а пока могу порекомендовать внимательно перечитывать то, что я уже писал в этом треде, например:

То есть... окей, вам самому тем ИИ не интересна... ну, настолько чтобы своим ГМ о ней думать.
Потому представление "мудрота где-то есть -- не может же быть что кто-то умный еще до этого не додумался" вас вполне устраивает?
Пусть даже никаких явных свидетельств тому нет... "музыка есть, просто её плохо слышно" (С)
Так что Ваш ответ: "Пилите Шура, пилите. Он золотые.", да? (С)

Ну окей... извините что побеспокоил... спящий разум. %)