homuncul

В ожидании искусственного интеллекта

На днях прошла новость, что Элон Маск, Марк Цукерберг и Эштон Кутчер (киноактер) совместно инвестируют $ 40 млн. в искусственный интеллект. Деньги вкладываются в компанию Vicarious, которая разрабатывает софт на основе вычислительных принципов человеческого мозга. В качестве своего кредо компания заявляет: «мы создаем программу, которая думает и учится как человек».

За научную часть там отвечает Dileep George, талантливый математик, ранее работавший у Джеффа Хокинса в Numenta. Лет десять назад Хокинс звездил со своей книгой, главные идеи которой, по-видимому, используются в нынешних попытках создать ИИ по образу и подобию естественного интеллекта. Отмечу, что несмотря на ряд интересных мыслей у Хокинса, я не слышал о громких успехах Numenta за прошедший период.

В различных интервью руководители подтверждают, что их цель – интеллект человеческого типа. Возможно, это правильный ход для привлечения инвестиций, однако сомневаюсь, что такие заявления полезны в долгосрочном плане. Когда в установленные сроки достичь цели не удастся, пострадать может все направление, связанное с моделированием сильного ИИ – убеждать инвесторов станет гораздо труднее.

В настоящий момент Vicarious может похвастаться алгоритмом, умеющим проходить капчу. Авторы не раскрывают код, но подчеркивают, что программа действует подобно ЕИ.




Замечу, однако, при всем уважении, что для решения задачи распознавания символов не обязательно быть человеком. Её способны решить, например, попугаи или моржи. Помимо того, алфавит паттернов, которые нужно заучить, крайне ограничен, что имеет мало общего с условиями реального мира. Рискну предположить, что успехи будут, но сведутся к одному-двум направлениям, связанным с узкими прикладными задачами. С интеллектом общего типа придется сильно помучиться. По этому поводу два соображения.

1. Мы пока не знаем вычислительных принципов ЕИ. Возможно, информации прибавится в результате новых прорывных технологий считывания активности мозга. Ряд методов уже появляется, они позволяют сканировать ансамбли в сотни тысяч нейронов. Но это число необходимо увеличить на порядок, а желательно – на два. Тут следует рассчитывать на проект BRAIN (он был инициирован как раз вследствие безуспешных попыток выяснить основополагающие механизмы).

Пока не получается не только сформулировать т.н. принципы вычислений интеллектуального процесса у ЕИ, но и объяснить даже самые тривиальные, казалось бы, вещи. Например, зачем мозгу сон и сновидения. Это эпифеномен или необходимое условие интеллекта. Или случаи вроде такого: женщина упала с лестницы и обрела талант рисовать. Что произошло с принципами в результате простого механического воздействия? В терминах Н. Талеба это настоящее воплощение антихрупкости! – сильный стресс привел к улучшению работы системы. Обладает ли ИИ такими эффектами (должен ли обладать)? Иными словами, это попытка построить полноценный ИИ по фрагментарным сведениям о ЕИ.

2. Сам подход копировать природу может оказаться неперспективным (ограниченно перспективным). В его основе лежит убеждение, что эволюция выработала эффективные модели, которые можно воплотить в компьютере путем обратного инжиниринга мозга. Проблема может заключаться в том, что софт в данном случае неотделим от харда, и эффективность алгоритмов сильно привязана к свойствам машины, на которой они реализуются. Мозг – это желеобразная масса, которая постоянно видоизменяется; помимо когнитивной деятельности она занимается метаболизмом (в основном) и обслуживанием низкоуровневых задач. С точки зрения программиста происхождение компьютера не должно иметь значения, но природа «писала код» одновременно с созданием «машины». И принципы вырабатывались, исходя из многих критериев, где интеллект был лишь в ряду прочих. Ожидать воспроизвести такой алгоритм на принципиально другой машине и получить результат того же качества, быть может, напрасный труд. Существует и другая стратегия – использовать сильные стороны компьютера (по ср. с мозгом) и прийти к решению с другой стороны. Как, например, делает Google или IBM.

Впрочем, эти соображения давно известны, они не должны восприниматься в качестве довода против финансирования данного направления. Наоборот, оно может оказаться источником важных продвижений в понимании фундаментальных свойств интеллекта в силу того, что объединяет специалистов из CompSci и Neuroscience. Именно поэтому громкие заявления здесь, на мой взгляд, вредят. В России, к слову, этим больше всех грешит Президент Российской Ассоциации нейроинформатики В. Дунин-Барковский, регулярно выдающий смелые прогнозы. Как сейчас помню, два года назад на конгрессе «Глобальное будущее 2045» он бодро сообщил, что его лаборатория посвятит 2013 год анализу различных данных нейронаук, а в 2014 выявит принципы и механизмы работы мозга. Теперь он пишет: «Скорее всего, ждать появления искусственных разумных систем осталось недолго — не больше пяти лет, то есть до конца 2018 года». Ну ok, пять лет мы подождем.


P.S. При обратном инжиниринге обычно предполагается, что базовые принципы вычислений для всех людей общие (иначе нельзя делать глобальные выводы по малой выборке). Это разумно, но нельзя отрицать, что по уровню интеллекта люди все же различаются. Что является уникальным для каждого человека – это картина связей мозга, та самая машина, реализующая универсальные алгоритмы. В качестве примера, мозг Эйнштейна оказался особенным даже по сравнению с мозгом молодых индивидов: его мозолистое тело в целом толще. За счет этого важные участки в обоих полушариях были связаны между собой гораздо лучше среднего.



Поскольку вероятные индивидуальные особенности мозга представляют собой многомерное пространство, учесть их при обратном инжиниринге практически невозможно и не думаю, что такая задача будет ставиться. Это не критично, если цель – интеллект Полиграфа Полиграфовича Шарикова. Если задача амбициознее, тогда детали могут иметь значение.
Tags: ,
Ну и кому это нужно? Спаммерам в первую очередь!
Спамерам это не нужно. Если где-то нужно пробить капчу, проще использовать для распознавания людей.

Делается порносайт. При входе кого-то на порносайт, бот идет на нужный сайт, получает оттуда капчу и показывает ее порносайте. Посетитель порносайта ее расшифровывает, бот вводит получившееся значение на целевом сайте. Если все получилось, бот получает доступ к целевому сайту, а посетитель - к порносайту.
Да, уже не раз слышали на протяжении всей нашей истории, и про неделимый атом, и про статичную Вселенную... )
> В различных интервью руководители подтверждают, что их цель – интеллект человеческого типа. Возможно, это правильный ход для привлечения инвестиций, однако сомневаюсь, что такие заявления полезны в долгосрочном плане. Когда в установленные сроки достичь цели не удастся, пострадать может все направление, связанное с моделированием сильного ИИ – убеждать инвесторов станет гораздо труднее.

Совершенно верно. И такое уже много раз было. Остаётся только надеяться, что инвесторы тоже будут со временем умнеть...
Опять придется на капчах котиков считать
капчу уже распознают много лет как
другой вопрос что сейчас капча пошла такая, что и человек хуй распознать то может
котики в любом случае лучше

а вообще как показывает практика, самые эффективным средством от ботов являются нестандартные логические вопросы

через капчу же они прорываются сотнями и тысячами, без какого-либо искусственного ителллекта, чистый алгоритм жёсткой логики

да и всякие файнридеры и прочие распознавалки без всякого интеллекта, сделали какбы далеко не вчера
Нужен инвестор с искусственным интеллектом.
Интересует вопрос: почему талант всегда рассматривается в качестве некоего расширения возможностей, такого апгрейда.
Если посмотреть с другого конца, то хорошим примером крайней степени талантливости являются саванты. Зато все остальное страдает.
Тогда можно трактовать случай с упавшей женщиной не через "расширение" возможностей, а через компенсацию повреждений, полученных в результате травмы.
Так эта женщина и не савант. И нет сведений о том, что у нее повредилась какая-то функция.

Хороший пост, смелые прогнозы хороши, но когда есть долгая история их неосуществеления, лучше быть осторожным. То же относится и к значительному вложению денег в непроверенные технологии. Прохождение Captcha не особенно интересно с точки зрения ИИ. Думаю, что при наличии достаточных вычислительных ресурсов, задача не представляет принципиальной сложности для существующих методов. Успехи Watson'а (IBM) в игре Jeopardy впечатляют больше.

Еще замечу, что с точки зрения состояния современного ИИ, Шариков и Эйнштейн действительно не отличаются и говорить об этом преждевременно. Мы пока даже интеллект мухи смоделировать не умеем.
лажа все это. ИИ если и возможен то он потребует квантовых алгоритмов - линейной логикой даже не разложишь число на простые множители. Сам по себе квантовый процессор уже вызовет переворот во всех сферах техники, так что ребята просто неправильно расставили акценты и бапки будут вбуханы коту под хвост
Ну, вообще-то фаундер Numenta Хокинс, когда описывал свою концепцию иерархической темпоральной памяти (HTM), писал именно о том, что нужно брать суть из реверс-инжиниринга мозга, и ни в коем случае не заниматься воспроизведением по примерно тем же причинам, что и вы тут изложили. А суть эта, по его мнению, довольна проста и далее излагает её в книге "Об интеллекте"

Впрочем, концепцию эту многие критикуют и успехов у неё, и правда, не видать.
Мне вот кажется, что даже если мы разберемся про человеческий мозг в общих чертах "почему оно тикает", ни один человек не в состоянии будет уместить и осознать такой объем информации, чтобы как-то компетентно, без упрощения до потери адекватности, судить о механизме процессов мышления в мозге, кроме, может быть, наиболее общих. Глупо наверное, но почему-то так кажется. Может даже научимся выращивать "позитронные мозги". Но ни один человек не будет в состоянии сказать, почему оно работает, и работает именно так. Не то, чтоб мое мнение в данной области что-то значило, просто такое впечатление.
среди серьезных ученых МГУ, например, бытует мнение, что те кто занимается ИИ - у них проблемы с И)
Это реальные слова реальных академиков. Я поначалу думал что они утрируют, но потом сам пришел к такому же выводу. Достаточно сказать что за полвека работы исследователи ИИ так и не продвинулись к разгадке вопроса что же такое И вообще. А на самом деле, проблемы вообще нет: никто не знает что такое человеческое сознание потому что оно не отделимо от среды в которой оно существует. Проводили эксперименты и доказали что человек в невесомости и в полной темноте и тишине, сходит с ума примерно за 20 минут. Вот вам и ответ: наше сознание это фундаментальное свойство нашего мира а не просто свойство мосга к обработке информации. Поэтому задачи ИИ нельзя рассматривать отдельно от контекста окружения - нет никакого универсального ИИ - это бред! Есть только вполне конкретные задачи по распознаванию образов, например. Но это совсем другое нежели сознание человека! Кароче есть смысл только в очень конкретных вещах, например в экспоненциальной мощности квантовых алгоритмов - и такие алгоритмы вполне способны на чудеса в нашем понимании, способны заставить поверить что на другом конце провода сидит ИИ )
(Anonymous)
>Проводили эксперименты и доказали что человек в невесомости и в полной темноте и тишине сходит с ума примерно за 20 минут

извините, не поделитесь ссылкой на именно такой результат экспериментов?
Опредялять различия между Шариковым и Энштейном (который, возможно был аутистом) - это пока слишком далекая задача. Воспроизвести мозг хотя бы лягушки, или даже примитивной рыбы, это было бы уже гигантским прорывом. Дальше изменения уже больше количественные, чем качественные.
У них речи не идет про лягушку, "думает и учится как человек". Да и Дунин-Барковский не одобряет ваш комментарий.
цель – интеллект Полиграфа Полиграфовича Шарикова

- Это какая-то очень оптимистичная цель. :)