AI divide

[109]

помните, десяток лет назад был популярен термин "digital divide"? суть термина в "двугорбом" распределении по отношению к цифровым технологиям - люди либо по ту сторону этого divide, либо по эту.

сейчас я наблюдаю похожую картину по поводу AI. есть люди, которые врубаются и люди, которые не врубаются, и мало кто посередине.

про первый линк я уже писал, рассмотрим теперь второй. автор - писатель-фантаст (!), цитирующий "actual AI researchers". в первой же цитате профессор компьютерных наук признаётся в том, как он понимает singularity: It assumes a smart computer will create its own goals, and have its own will, and will use its faster processing abilities and deep databases to beat humans at their own game.

Deep databases, Карл!

эксперт не прост, он явно слышал что-то и про deep learning, и про databases. ну перепуталось в голове, бывает. не говоря уже о том, что Бостром, например, специально демонстрирует, как при движении к final goal (унаследованной от seed AI) возникают instrumental goals, и как легко эти instrumental goals могут оказаться несовместимыми с существованием человечества. и о том, что как раз нет, not "their own game". игра будет совершенно другой, правила которой human level intelligence вряд ли сможет даже понять.

следующий эксперт просто заявляет, что predictions... simply not realistic. безо всякой аргументации, зачем? он же эксперт, должны верить на слово.

следующий эксперт отрицает возможность super-intelligent autonomous benevolent A.I. to “reprogram” itself and remove its built-in safeguards against getting rid of humans. это продвинутый эксперт, он что-то слышал про control problem - но, к сожалению, немного; он не знаком со сценариями, которые делают невозможное очевидным.

ну и, наконец, самостоятельное творчество автора: Would you like a self-driving car that has its own opinions? That might someday decide it doesn’t feel like driving you where you want to go? That might ask for a raise?... и ещё пяток таких же глупостей, показывающих, насколько автор не понимает саму проблему, уж не говоря об ответах.

собственно, комменты к этой статье гораздо интереснее, чем сама статья. примерно половина комментаторов, по моим оценкам, въезжают в тему, и грамотно отвечают.

а статья специалиста по глубоким базам удостоилась аж слэшдота - и опять, примерно половина комментаторов по ту сторону divide, а половина - по эту.

я к чему это? удивительно, насколько широк divide. те, кто не в теме, распознаются мгновенно, буквально по тому, как и какие термины они употребляют.

Update: Only an expert can deal with the problem (Laurie Anderson)

Comments

[plumqqz.livejournal.com]

Что-то начал я читать которого врубается, и сложилось у меня мнение, что... в общем, торопится, хотя бы - Google Translate is another classic ANI system—impressively good at one narrow task. - ну-ну. В начале 90-х автопереводчики переводили примерно так же, ну, может, чуть хуже; и это ровные технические тексты. Ну и так далее про "AGI" - товарищ, кажется, не понимает, что он забыл четвертый путь - пройти путь человека от грудничка до взрослого со всем накопленным опытом (вопрос о том, как его накапливать даже не ставится. Как-нибудь накопится).

Что касается "Would you like a self-driving car that has its own opinions?" - это либо не мнение автомобиля, а авторов софта (и тогда вопрос об AI очевидным образом не стоит), либо чистые фантазии - own opinions у человека это скорее бага чем фича; ну и в автомобиле будет тоже багом.

[109.livejournal.com]

мнэээ, тебя что именно не устраивает? что google translate назвали ANI system? если да, то почему?

про self-driving car я твой поток мысли вообще не понял. too many hidden assumptions, видимо. сформулируй свой тезис, если он там есть, в явном виде, пожалуйста?

[plumqqz.livejournal.com]

1. Ну назвали и назвали - особого прогресса не заметно; эдак и дверной доводчик можно ANI обозвать.
2. Не ставится вопрос о возникновении opinions у автомобиля - но вопрос много интереснее, так как в общем случае непонятно, откуда они берутся у человека; если же речь идет об условии, грубо говоря, "если идет дождь, то надо ехать медленно", то интеллекта в нем не больше, чем в той самой дверной пружине. Србственно, это и к автопереводу относится.

[109.livejournal.com]

both 1 and 2: ну, собственно, известно, что как только появляется commercially viable AI application, его больше не называют AI.

у тебя самого-то есть контрпримеры? или не существует вообще ничего, в чём интеллекта больше, чем в дверной пружине?

[plumqqz.livejournal.com]

Похоже на то, что действительно не существует; более того, непонятно, по крайней мере мне, каким способом оно вообще может существовать.

[109.livejournal.com]

окей, у меня нет проблем с классификацией тебя по ту сторону AI divide.

[white-bars.livejournal.com]

Системы машинного перевода, существовавшие в начале 90-х, были, в общем-то тупиковым направлением: rule-based MT могла хорошо переводить только тот конкретный текст, под который она была заточена. Закладываешь вручную правило, слово и перевод, и дальше система переводит это слово. Чтобы она переводила другое слово или то же, но в другом сочетании, нужно было всё это загнать вручную, иначе на выходе получался мусор. Первая система MT, которая впечатлила правительство США в конце 40-х, умела примерно то же самое.
То, что делает Google Translate - это статистическая система перевода, где машина самообучается. Чем больше переводов в машину вложено, тем лучше она работает для новых и незнакомых текстов. Это, собственно, и есть основное отличие: система совершенствуется, и, хотя перевод вряд ли приблизится к идеальному, его уже можно использовать в процессах. У rule-based систем ничего такого не было, разумеется.

[zaharchenko]

Т.е. фактически разница лишь в том что правила стали вводить не по одному за раз, а сразу пачкой?

[white-bars.livejournal.com]

Их, строго говоря, не вводят, а поручают компьютеру самому разобраться. Недостатком, собственно, является то, что люди в результате не могут объяснить результат (как положительный, так и отрицательный): какие там правила срабатывают, зачастую понять трудно... Я присутствовал при вполне комичных диалогах, когда японцы долго объясняли какие-то там особенности своего языка и ехидно спрашивали, как системв справится с такими сложностями. На что следовал усталый ответ специалиста по MT "понятия не имею, да и неважно это", и настойчивые японцы переходили к следующему ехидному японскому правилу :)
И в частности поэтому же попытки улучшить качество перевода Statistical Engine при помощи правил странным образом приводит к общему снижению качества (хотя, для отдельных текстов, даже очень больших, можно создать глобальные макросы, заметно улучшающие качество данного конкретного текста).
Черный ящик :)

[109.livejournal.com]

ну не такой уж и чёрный для тех, кто разбирается. все же уже читали прогремевшее: http://karpathy.github.io/2015/05/21/rnn-effectiveness

[white-bars.livejournal.com]

Ну, пошутил я, пошутил :)

[juan-gandhi.livejournal.com]

Это в смысле иерархические базы данных, наверно. Ведь уже не осталось в живых тех, кто с ними работал.

Насчет мнения - последнее время гуглмапсы сильно продвинулись. Я уже ничего не тыкаю, просто говорю navigate to hackers dojo - оно понимает, да еще и делится мнением, мол, сейчас трафика мало, можно ехать прямо по 101й. Люблю такое.

[109.livejournal.com]

ну. или, когда я пропустил поворот, скажем - формирует, сцуко, своё собственное мнение по поводу того, как ехать дальше :)

[juan-gandhi.livejournal.com]

Это у меня Клара в приусе такая, сука. Ну поехал я другой дорогой - нет, говорит, бросай все, сворачивай на проселки и возвращайся на 101-ю, а то считается побег.

[white-bars.livejournal.com]

Клип, говорю, хороший...

[kika.livejournal.com]

Я вот люблю такие тексты про AI читать, strong, weak, сингулярность и все такое. Мне только интересно - когда появится робот, который скажем сможет дом убрать? Не надо со мной разговаривать, выигрывать в шахматы (у меня я боюсь даже калькулятор может в шахматы выиграть) и все такое - пойди убери двухэтажный дом с гаражом в подвале о 1500 футах. Ок?
Что-то мне подсказывает почему-то что эта задача будет решена сильно после того как будет торжественно объявлено о достижении полной сингулярности. "Нонешнее поколение, вашу мать, будет жить при сингулярности!"

[yatur.livejournal.com]

Суть статьи, ИМХО, в том, что робот, который будет убирать дом, должен быть самообучающимся, и как только он научится сносно убирать дом, он в течении короткого времени допрет до того, что наилучший способ уборки дома - это ликвидировать жильцов. Тогда достаточно будет раз в неделю протирать полы и мебель мокрой тряпочкой.

[kika.livejournal.com]

Весь вопрос в том, какую функцию робот будет оптимизировать.

[109.livejournal.com]

не вся суть, но да :)

польза книги, среди прочего, в том, что Бостром показывает, как неизбежно instrumental goals появляются из final, и как наивные попытки контроля (а мы выдернем шнур питания) не работают.

[zaharchenko]

Ну прогресс есть, вон уже на какстартере вместо робота пылесоса собирают деньги на полотера, он хотя бы вокруг себя может прибрать, а не только под собой….

[109.livejournal.com]

AGI - это про "думать", а ты дом убирать, фи :)

а если серьёзно, то это типичная реакция. твои сиюминутные требования базируются на том, что достигнуто конкретно на сегодняшний день. как только роботы начнут убирать дом, ты захочешь, чтобы они ужин готовили, ну и так далее.

иными словами, мой ответ на этот тезис, собственно, уже дан знаменитым "when it works, it's not called AI anymore".

funny that this wisdom is attributed now to Bostrom (in 4 wiki articles that I checked), even though Bostrom himself gives proper attribution in his book.

[kika.livejournal.com]

Так в том и дело что ничего не достигнуто. Roomba не содержит никаких элементов искусственного интеллекта, ни по теперешним определениям, ни по определениям 30-ти летней давности. Я 30 лет назад строил машинки, объезжающие препятствия по приложению к журналу Юный Техник. Румба - это та же машинка, просто с компьютером и поэтому гибче управляемая чем горсть реле.

Я бы согласился с тезисом, если бы убирающий комнату робот не очень хорошо умел бы отличать мусор от ценных предметов и в инструкции было бы написано что мелкие ценные предметы лучше убрать заранее. Ок, сказал бы я, AI пока что-то не очень, но дело движется. Румба-то вообще никаких решений не принимает, кроме выбора из списка готовых рецептов движения. Причем очень ограниченного списка.

it wasn't AI when it didn't work and it's not AI now.

[109.livejournal.com]

ok, ничего не достигнуто, вы не волнуйтесь так, вот вам таблеточки.

[kika.livejournal.com]

И вот так у вас все - AI по телевизору, таблеточки по переписке

[109.livejournal.com]

ну а что я вам могу сказать - тебе и plumqqz, или как его там?

вот ты пришёл в пост, посвящённый AI, и заявляешь, что это всё происки сионизма, никакого AI на самом деле нет.

не знаю, осознаёшь ли ты это, но таким образом ты уничтожаешь для себя предмет разговора. ну то есть, а чего приходил тогда? ну сказал, что его нет, okay, thank you for your input.

[kika.livejournal.com]

Ну так я надеюсь на то что мне скажут "ну ты дятел, чувак, где тебя последние Х лет носило? Вот же и вот и вот и вот." А я такой "ну я и лоооох!", etc.

А мне все про Jeopardy, Вотсона и прочий фан.

[109.livejournal.com]

ну, это враньё. ты надеешься такой сидеть на белом коне, а мы тебе тут будем бегать приносить разные примеры AI, а ты будешь так по-Хармсовски "ну разве это AI? это хуйня какая-то, а не AI". собственно, ты уже начал.

так что давай - раз нету AI - ну и иди с миром.

[kika.livejournal.com]

Строго говоря, я этого не говорил, ты сейчас синтезируешь такого специального меня, над которым очень удобно одержать верх в дискуссии. Я сказал что люблю читать про все эти инновации и спросил когда их плодами можно будет попользоваться. Это сильно отличается от "этого не существует", но гораздо труднее для ответа, иа понимайу.

[109.livejournal.com]

не, я ничего не синтезирую, я попал в точку, как видно.

теперь же ты пытаешься сделать вид, что задал какой-то трудный вопрос, на который "трудно найти ответ", в то время как ответ очень простой и я его уже дал.

если же у тебя происходит какая-то внутренняя борьба с ватсоном, то я тут ни при чём.

ну и заодно, если ты решил прикинуться, что ты в танке, то я вынужден сказать explicitly, что к тем, кто приходит с говномётом вместо конструктивной беседы, моё терпение не безгранично.

[kika.livejournal.com]

Ну если ты не синтезируешь, то как тогда то что ты пишешь, относится к тому что я написал в начале этого треда? "Попал в точку" это хорошо. Еще можно написать "слив защитан" и что там еще положено писать, когда написать хочется, а ничего в голову не приходит.

> в то время как ответ очень простой и я его уже дал.

Ну и где этот ответ? Я спросил когда будет робот, который самостоятельно умеет убрать дом. Если твоим же методом синтезировать твой ответ, то получается что никогда?

> какая-то внутренняя борьба с ватсоном

Как раз наоборот. Ватсон - это единственное на настоящий момент осмысленное (он же уже вполне реальной работой занят) применение чего-то, что вполне напоминает AI в реальной жизни. Вполне выглядит как начало компьютерной эры (много-много больших шкафов, которые вычисляют всего-навсего баллистическую траекторию). И мой вопрос звучал как "нужно ли ждать 50 лет с момента выигрыша ватсона в джеопардию" или оно таки быстрее справится.

> вынужден сказать explicitly, что к тем, кто приходит с говномётом вместо конструктивной беседы, моё терпение не безгранично.

Мне нужно в этом месте испугаться? Чего?
Я правильно понимаю что конструктивная беседа - это восторгаться тем какой ты умный, несмотря на работу в .... и возраст, и как ловко ты умеешь читать интернет?

[pappadeux.livejournal.com]

> умба - это та же машинка, просто с компьютером и поэтому гибче управляемая чем горсть реле.

почему же?

там, кяп, случайный поиск с запоминанием и возвратом, вполне такой ИИ

[kika.livejournal.com]

Ну так и нахождение корней квадратного уравнения методом Монте-Карло можно назвать ИИ. Наверное, формально, построение карты и обход ее довольно неоптимальным алгоритмом можно и назвать ИИ, но я к тому что такой ИИ был 30 лет назад. Прогресс тут не в ИИ как таковом, а то что вычислительную мощность ЕС ЭВМ, на которой можно было построить и обойти карту, теперь можно засунуть в спичечный коробок вместе с батарейкой.

[109.livejournal.com]

в железе есть прогресс. и в алгоритмах есть прогресс. как можно, находясь хоть чуть-чуть в теме, отрицать прогресс в алгоритмах?

[kika.livejournal.com]

И там и там есть прогресс. Но почему они друг друга не находят? Я не говорю что не существует, например, http://www.roboticsproceedings.org/rss11/p07.pdf и не говорю что в корпусе от внешнего жесткого диска нельзя собрать кластер с парой-тройкой десятков вычислительных ядер. Я не понимаю почему румба тупая настолько что кажется что ей управляет та самая ЕС ЭВМ, на которой я "находил путь в лабиринте", визуализируя карту ASCII символами.

Я недавно разводил небольшую печатную плату. Последний раз я этим занимался еще когда работал в кардиоцентре, то есть примерно в 90-91 году. Никакого особенного прорыва в области автоматической трассировки я не наблюл, что потрясло меня до глубины души. Прогресс есть, безусловно, но сухой остаток оказался все равно ровно тем же что и 25 лет назад - я уничтожил почти все что сделал автомат и развел руками, пользуясь автоматом только под своим присмотром. Сложность платы в общем почти такая же что и 25 лет назад, поплотнее монтаж (естественно на многие порядки более высокая плотность внутри микросхем, но разводчику плат на это наплевать) и почти все - поверхностного монтажа, что облегчает задачу разводки.