AI divide

[109]

помните, десяток лет назад был популярен термин "digital divide"? суть термина в "двугорбом" распределении по отношению к цифровым технологиям - люди либо по ту сторону этого divide, либо по эту.

сейчас я наблюдаю похожую картину по поводу AI. есть люди, которые врубаются и люди, которые не врубаются, и мало кто посередине.

про первый линк я уже писал, рассмотрим теперь второй. автор - писатель-фантаст (!), цитирующий "actual AI researchers". в первой же цитате профессор компьютерных наук признаётся в том, как он понимает singularity: It assumes a smart computer will create its own goals, and have its own will, and will use its faster processing abilities and deep databases to beat humans at their own game.

Deep databases, Карл!

эксперт не прост, он явно слышал что-то и про deep learning, и про databases. ну перепуталось в голове, бывает. не говоря уже о том, что Бостром, например, специально демонстрирует, как при движении к final goal (унаследованной от seed AI) возникают instrumental goals, и как легко эти instrumental goals могут оказаться несовместимыми с существованием человечества. и о том, что как раз нет, not "their own game". игра будет совершенно другой, правила которой human level intelligence вряд ли сможет даже понять.

следующий эксперт просто заявляет, что predictions... simply not realistic. безо всякой аргументации, зачем? он же эксперт, должны верить на слово.

следующий эксперт отрицает возможность super-intelligent autonomous benevolent A.I. to “reprogram” itself and remove its built-in safeguards against getting rid of humans. это продвинутый эксперт, он что-то слышал про control problem - но, к сожалению, немного; он не знаком со сценариями, которые делают невозможное очевидным.

ну и, наконец, самостоятельное творчество автора: Would you like a self-driving car that has its own opinions? That might someday decide it doesn’t feel like driving you where you want to go? That might ask for a raise?... и ещё пяток таких же глупостей, показывающих, насколько автор не понимает саму проблему, уж не говоря об ответах.

собственно, комменты к этой статье гораздо интереснее, чем сама статья. примерно половина комментаторов, по моим оценкам, въезжают в тему, и грамотно отвечают.

а статья специалиста по глубоким базам удостоилась аж слэшдота - и опять, примерно половина комментаторов по ту сторону divide, а половина - по эту.

я к чему это? удивительно, насколько широк divide. те, кто не в теме, распознаются мгновенно, буквально по тому, как и какие термины они употребляют.

Update: Only an expert can deal with the problem (Laurie Anderson)

Comments

[white-bars.livejournal.com]

Их, строго говоря, не вводят, а поручают компьютеру самому разобраться. Недостатком, собственно, является то, что люди в результате не могут объяснить результат (как положительный, так и отрицательный): какие там правила срабатывают, зачастую понять трудно... Я присутствовал при вполне комичных диалогах, когда японцы долго объясняли какие-то там особенности своего языка и ехидно спрашивали, как системв справится с такими сложностями. На что следовал усталый ответ специалиста по MT "понятия не имею, да и неважно это", и настойчивые японцы переходили к следующему ехидному японскому правилу :)
И в частности поэтому же попытки улучшить качество перевода Statistical Engine при помощи правил странным образом приводит к общему снижению качества (хотя, для отдельных текстов, даже очень больших, можно создать глобальные макросы, заметно улучшающие качество данного конкретного текста).
Черный ящик :)

[109.livejournal.com]

ну не такой уж и чёрный для тех, кто разбирается. все же уже читали прогремевшее: http://karpathy.github.io/2015/05/21/rnn-effectiveness

[white-bars.livejournal.com]

Ну, пошутил я, пошутил :)