![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Entry tags:
Sam Harris 2016 Ted Talk on AI
Сэм Харрис узнал о проблеме superintelligence не так давно. Судя по всему, не раньше, чем два года назад. И даже после того, как узнал, доходило довольно медленно. Вот, например, можно послушать его mumbling датированный апрелем 2015: https://youtu.be/JybXEp7k7XU
Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.
Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:
Однако, недавно до него дошло окончательно, и уже никогда не отпустит. Ну и как чоткий пацан, он выбросил все лирично-академические отступления Бострома, а заодно и половину аргументов, оставив только самые бронебойные, и запендюрил пятнадцатиминутный Ted Talk по теме, на которую у Бострома обычно уходит часа полтора, а у Юдковского - неделя по три часа каждый день.
Возможно, краткость не всегда сестра таланта, но в данном случае таки да. Enjoy:
no subject
Определений много, алгоритмов нет. И понимания, откуда оно берётся в мозгах нет.
Я, в общем, понял, что и ты этого тоже не знаешь. Больше вопросов у меня пока нет, спасибо.
no subject
вместо этого, ты по уровню когерентности стремительно приближаешься к gineer, заявляешь, что я должен был, но не рассказал тебе про какие-то алгоритмы, и finally торжественно заявляешь, что и этого я тоже не знаю.
вот как можно кичиться настолько полным невежеством? ты ведь даже вопрос осмысленно сформулировать не можешь. ну начни с совсем basics каких-нибудь, вот прочитай: https://en.wikipedia.org/wiki/Artificial_intelligence, по ссылкам походи.
как можно настолько ничего не знать, если тема интересует? и нафига пытаться рассуждать на тему, если не интересует?
no subject
> Не просто "обрабатывать информацию", а как-то специальным образом её обрабатывать. Каким - пока не известно.
Ты просто сразу срываешься на крик, рвёшь тельняшку на груди и шлёшь в википедию. В итоге я так и не увидел за весь наш разговор хотя бы отблеска нового понимания, того, что я не читал раньше, но ты, как давно интересующийся этой темой, знаешь.
no subject
хуже, ты даже не можешь понять, что не можешь. вот именно это я тебе пытаюсь объяснить, потому что какой смысл отвечать на бессмысленный вопрос.
а так - вон, акимыч ответил. на каком-то уровне - да, действительно, сигмоид удобен математически, поэтому много где используется. с другой стороны, numenta предпочитает функции, лучше эмулирующие биологические нейроны. помогло?
no subject
no subject
no subject
no subject
no subject
no subject
no subject
Хоть один из них "интеллект не хуже человеческого" считает?
no subject
см этот график:
https://en.wikipedia.org/wiki/History_of_supercomputing#/media/File:Supercomputers-history.svg
Add it all up and the new graphics card blows its predecessor out of the water in both gaming performance and compute tasks, leaping from 4,981 GFLOPS in the GTX 980 all the way to 8,873 GFLOPS in the GTX 1080.
Вот новая карточка nvidia будет также мощна как самый мощный суперкомьютер в мире в 2000 году. Шкала логарифмическая, нужные нам алгоритмы отлично паралелизируются. Новая карточка будет стоить ну пусть 500 долларов. Соотв уже сейчас можно будет за 50000 долларов (бюджет любителя) собрать машину, которая будет также мощна, как самый мощный суперкомпьютер 2008 года (а это было совсем недавно).
Но все равно слишком медленно.
no subject
Ну вот... представим себе что у нас уже есть более чем достаточные процессорные мощностя.
Что дальше?
Вот у нас есть полный конектом новрожденного -- загружаем его его в супер-комп, запускаем симуляцию... упс.
Получаем 100% копию человека ин витро, и необходимость те же 10-20 лет его потихоньку понемногу учить.
И в результате... ну дай бог чтобы экземплер нам попался гениальный,
или по ходу взросления вылезли какие-то интересные данные....
а так, полный провал. ;)
Ну, предположим дела у нас получше -- мы можем нарезать на микротоме и заправить в супер-комп мозги взрослого...
опять же, что в лоб, что по лбу -- ровно те же скорости обучения и функционирования,
а вместо альцгеймере бит-рот. ;)
Гм... видите, так просто не получается... не работает идея "нам бы только мощности побольше".
Ну ладно, подскажу как обойти этот момент -- надо просто запускать этого вирту-чела не подключеным к внешнему миру, а так же в симуляции мира внутри компьютера -- это нам даст практически любое необходимое нам ускорение обучения и т.п.
Правда мощностей для этого... понадобится ЕЩЕ на порядки больше... да и вопрос синхронизации информации с внешним миром -- тоже стоит очень больно -- нам ведь интересно задействовать этот интелехт в наших рил-ворлдовых задачах... а не просто дать ему в виртуальной песочнице покувыркатся (хотя, даже из этого можно извлечь каку-то информацию)...
То есть... вместо обещаного ВАУ, опять какая-то лажа.
Но и на это есть ответ.
Предположим что у нас мощности ЕЩЕ больше.
Тогда мы можем запустить симуляцию, в которой будет жить не один человек, а сотни, тысячи... э-м-м, миллионы,
и проживать свои жизни со 10х, 1000х... миллионным ускорением.
Тогда да, уже какой-то эффект просматривается.
Но. Вы сами можете оценить -- как долго нам еще пилить... до подобныхъ мощностей. ;) %))))
И это... как можно видеть "суперинтелехт" чисто условно... никаких принципиальных новшеств, как и гарантий оно не дает.
То есть...
я вам тут показал, что никакая примитивная идея "а вот будет у нас мульен суперпроцессоров, да на 100500 суперкомпьютеров... вот сразу у нас Сингулярность наступит и Суперинтеллект заколостся".
То есть...
все эти рассуждения, хоть Бостромов, хоть Юдковских -- это как выдумки средневековых натур-философов... о том что мыши могут Самозародится... достаточно для этого просто кучки гнилых тряпок. %))))
Re: А воз и ныне там
о чем ту разговор и идет - был бы рост мощностей линейным вы были бы отчасти правы.
no subject
ну почитай ты Бострома, Юдковского, и lesswrong. дискурс и конценсус даже начинается (году примерно в 2007) с более глубоких и интересных мыслей, чем эта мучительно и коряво сформулированная хуета. а к 2013-2014 консистентный дискурс уже сформировался практически полностью.
тут не "отчасти правы", тут глубокое невежество, которое невозможно комментировать, it's not even wrong.
no subject
уровень дискуссии пугает. и это более менее технически подкованные люди, то есть general population ваще не понимает что происходит. Меня это пугает даже с точки зрения социальных явлений - ты читал про компанию Обамы, которая была выиграна не в малой мере при помощи дата сайнс? То есть при помощи определенных моделей были успешно вычислены бэттлграунд кварталы, которые по эффекту домино могут повлиять на выборы в городе -> графстве и далее штате и туда было направлено макс. ресоурсов по выигрышу. То есть условно говоря Обама высаживается в каком-нить скрентоне не просто скрентоне а вот в конкретной районной школе, который подсказал алгоритм. И вот куда мы идем условно говоря с этим дальше? Понимание поведения людей и масс тоже растет. Речи, которые пишутся алгоритмами? Поведение кандидатов, которое выдрачивается под руководством дата сайнтистов? Условно говоря цвет галстука не на основании тупого опроса людей, который ничего не значит, а реально влияющий на выбор.
И это все УЖЕ происходит, а люди тут рассуждают не понимая того, что это влияет на их жизнь серьезнейшим обращом прямо сейчас.
(no subject)
(no subject)
(no subject)
(no subject)
(no subject)
(no subject)
(no subject)
(no subject)
RE: Re: А воз и ныне там
Но работает он только до предела, когда популяция занимает ВСЮ подходящую для неё область...
намек ясен, или тщательней надо? ;)
RE: Re: А воз и ныне там
процессоров удваивается каждые восемнадцать
месяцев [A]. Раньше удвоение скорости
происходило каждые два года, но около пятнадцати
лет назад ситуация изменилась. Последние данные
показывают, что период удвоения уже составляет 12
месяцев. При таком темпе вычислительная мощность
возрастёт за десять лет тысячекратно.""
из статьи 97-го года.
Ну да, где-то как-то,
если поигратся с опреелениями... о можно натянуть это "тысячекратное"... %)
Правда что делать с тем, как мы при этом подходим к технологическому пределу.
И при этом что-то где-то как-то подобное ИИ только начинаем получать (ага, моделировать 1000-элементные сетки, ну ладно 10.000... при том что ГМ их миллиарды)...
Остается да, только в "экспоненциальный рост" и верить. %)))
RE: Re: А воз и ныне там
no subject
no subject
это разумность человека-ученого который что-то там ИИ-подобное делает.
Типа "вотя такой умный, логику и вообще математику понимаю -- значит ИИ это когда логику и математику понимает" :)
Игнорируя тот момент, что вообще-то Разум, это не свойства одного человека, а всей системы под назанием Человечество.
Ну, не рождается никто сразу врожденным тебе гением,
а учатся, и задачи решают те, которые ставит общество.
Потому, в нынешнем изводе разработок ИИ,
стараются или не ставить, или объезжать десятой дорогой на кривой козе вопросы об обучении и особенно самообучении, творчесве и т.п.
При том, что именно эти свойства мы считаем настоящими свойствами разума.
И в принципе именно их и стараемся и добится... а не какого-о там кривого лернинга нейросеток. %)
no subject
Смотреть на человеческий интеллект как будто это что-то особенное это очень узкий подход. С той же стороны можно посмотреть на разницу между собакой и жабой и сделать вывод, что собака это венец природы просто потому, что разница космическая в способносях.
Проблема, в принципе, очень просто формулируется и описывается, еще Тьюринг все сказал в теории коммуникации и пр. - интеллект это способность уменьшать локальную энтропию "сильнее" чем его отстутствие. Соотв. чем больше мы можем это делать тем "сильнее" интеллект.
no subject
пытаюсь понять, как это выглядит с точки зрения тех, кто не в теме. похоже, они видят только отдельные знакомые слова, а смысл предложений ускользает. а пойти по ссылочкам и почитать, как это бы сделали мы с тобой, лень, а высказаться хочется. поэтому получаются только такие бескомпромиссные высказывания, как
- а алгоритмов-то у вас нету!
- а что такое intelligence-то вы не знаете!
- а learning-то у ваших сеток - кривой!
ну вот что тут можно ответить?
то есть, складывается такая картина: есть выделенная точка с интересными свойствами (начало сингулярности), есть вектор движения, направленный прямо в эту точку, есть люди, указывающие на точку и на вектор, типа "ну вот смотрите же, прямо туда же всё идёт", и есть остальные миллиарды, которые тупо пялятся на картину и бормочут "да ну... где мы, а где завтра" :(
no subject
"Смотрите - комьютер импровизирует так, что люди не могут отличить Баха от имитации"
http://www.nbcnews.com/tech/innovation/computer-generates-music-rival-bachs-n414066
Да ну, это же всего лишь куча скриптов на хаскеле https://github.com/donya/Kulitta которые девочка написала в свободное время, это же просто комьютеры так быстро считают
А вот сетка пишет вполне пристойный джаз:
https://github.com/jisungk/deepjazz
"да ладно, это паренек написал за день на хакафоне"
"а вот смотрите мы добились симуляции мозга мыши в полном объеме, смотрите вот она в нашем виртуальном пространстве ведет себя как живая"
"ой да ладно, ну компьютеры стали быстрее, подумаешь мышь? чего такого"
(и через месяц все закончилось)
no subject
no subject
(no subject)
(no subject)
(no subject)
(no subject)
(no subject)