homuncul

(Не)алгоритмический интеллект?

Ниже мое интервью со специалистом в области систем искусственного интеллекта (ИИ).
Собеседник - Алекс Добров, профессор одного из американских университетов.
У некоторых, особенно приверженцев классического ИИ, отдельные фрагменты интервью могут вызвать внутренний протест. Отдаю себе в этом отчет. Протестовать прошу без эмоций, по существу.
Итак, поехали.


Что изменилось? С какими доминирующими ранее идеями о построении искусственного интеллекта специалисты на сегодня расстались? А что, напротив, осталось неизменным?

Пожалуй, основная идея, с которой пришлось расстаться, это то, что интеллект, равный человеческому или даже превышающий его, будет создан в относительно скором будущем. Радужные ожидания сменились пониманием того, что создание ИИ, равного человеческому, - задача на много порядков сложнее, чем казалось раньше. После этого финансирование общих проектов по созданию ИИ резко сократилось. В настоящее время даже сам термин стараются не особенно употреблять. Вместе с тем развиваются отдельные прикладные направления, под которые есть финансирование. Главный заказчик – военные.
В том, что касается тенденций развития ИИ, я бы выделил две основные:
1. Ранее весьма популярные символьные методы работы с информацией (на основе формальных грамматик и языков) уже не в фаворе, а "аналоговые" методы развиваются всё больше. Число разработок с использованием искусственных нейросетей растёт очень быстро. Мало того, даже в работе с символьной информацией используют "аналоговые" методы (например, Google).
2. Вместо ИИ-реализации на базе огромной машины всё большее развитие получает представление о реализации ИИ в виде группы интеллектуальных агентов, которые кооперируются в плане обмена информацией и совместных согласованных действий.
Неизменным, как для меня ни странно, у многих осталось убеждение, что можно построить ИИ путем копирования мозга животного. И это несмотря на то, что ни один подобный проект не увенчался успехом, что не удивительно, поскольку нейрофизиология еще очень далека от понимания того, как работает естественный интеллект (ЕИ). Read more...Collapse )
Развернутые комментарии к материалу
http://triz-evolution.narod.ru/Card_of_Week.pdf

По ссылке доступен материал, носящий название "Карточка Недели".
Карточка ЭТОЙ недели посвящена материалу "(НЕ)алгоритмический интеллект".
Всех неравнодушных :) прошу ознакомиться.
Ссылка безопасна, комментарии приветствуются.
Спасибо за внимание!
Единый алгоритм...
Постоянно встречаются комментарии насчет невозможности, невероятности единого, универсального алгоритма! Что смущает? Мы же не говорим - верьте и не спрашивайте. Мы предлагаем ПРОВЕРИТЬ.
ТРИЗ к AGI прямого отношения не имеет, но Универсальная Схема Эволюции - это, по сути своей, он и есть. Искомый алгоритм AGI.
Причины неалгоритмизуемости творчества
Интервью Серля действительно весьма любопытное. Для себя выделил следующую квинтэссенцию. С одной стороны, Серль утверждает, что по поведению определенной системы невозможно сказать способна ли она мыслить. С другой, утверждает, что не видит ни логических, ни философских причин, по которым нельзя построить мозг из не-биологических материалов, который будет мыслить и обладать сознанием. Возникает вопрос: по какому критерию он собирается решать мыслит ли подобный мозг или нет?

В дополнение к уже высказанной в моем интервью мысли о неалгоритмичности творчества хочу поделиться следующими соображениями. В начале 30-х годов прошлого века, когда Гильберт еще был уверен в своей программе, которую условно можно назвать автоматизацией математическиз доказательств, появились работы Гёделя и Тарского. Из очень интересной статьи Романа Муравского «Истина и доказательность» (Truth vs. Provability - philosophical and historical remarks: http://www.logika.umk.pl/llp/10/rm.pdf) следует, что Гёдель и Тарский практически одновременно и независимо пришли к идее о невозможности определить доказуемое понятие «истина» в достаточно сложном формальном языке. Только Гёдель не стал афишировать эту идею, поскольку использование понятия «истина» в математике то время было весьма непопулярным среди философов участников «Венского круга». Ему было важнее убедит народ в своих теоремах о неполноте. А Тарский в Польше не был стеснен этими соображениями и поэтому опубликовал свои исследования.

Результат о неопределимости истины в формальном языке (например http://en.wikipedia.org/wiki/Tarski%27s_undefinability_theorem) распространяется на вообще семантику: формального языка: невозможно определить семантику предложений сформулированных на таком языке средствами этого же языка. Для этого нужно использовать некоторый мета-язык, в котором, естественно, тоже своя семантика, определение которой требует мета-мета-языка и т.д. Гёдель, в сущности, показал, что аксиоматика арифметики второго уровня как формальный язык обладает степенью само-ссылочности (self-reference) достаточной для того, чтобы попытка определить доказуемое понятие истины в этом языке приводило к парадоксу лжеца (упрщенно, внутреннее противоречие выражения «я лгу»), из чего следует невозможность такого определения, т.е. для него требуется выход за пределы этого языка. Неполнота арифметики и более сложных (более «богатых») теорий по Гёделю заключается в существовании утверждений (в частности, непротиворечивость аксиоматической системы), которые невозможно доказать в рамках такой теории, т.е. требуется выйти за ее рамки и делать это в другой, более сложной аксиоматической системе.

Что касается творчества, то способность к нему требует возможности изменить действуюший алгоритм. Это невозможно средствами этого же алгоритма – по тем же причинам, по которым невозможны вышеупомянутые «трюки» в формальном языке или аксиоматической теории. Вот что писал Гёдель в 30-е годы: «Невозможно механизировать математические рассуждения, т.е. никогда нельзя будет заменить математика машиной [т.е. алгоритмом – А.Д.], даже если ограничиться теоретико-числовыми проблемами.» («It is not possible to mechanise mathematical reasoning, i.e., it will never be possible to replace the mathematician by a machine, even if you confine yourself to numer-theoretic problems.»). В моем представлении это утверждение равносильно отрицанию возможности алгоритмизации т.н. «сильного» ИИ, другими словами, такой ИИ неалгоритмичен.
Re: Причины неалгоритмизуемости творчества
У меня есть большие сомнения в том, что теоремы о неразрешимости задачи останова и о неполноте применимы к реальным системам.
Дело в том что они описывают замкнутые системы.
А большинство наблюдаемых физических систем являются незамкнутыми.

А человек - вообще существенно незамкнутая система.
Интеллект делает выводы только на основе частных случаев. Обобщение производится до предела который описывает только наблюдаемые частные случаи. А обучение интеллектуальным навыкам происходит под внешним воздействием (социализация).

Таким образом, основанное на этих теоремах утверждение о том что ИИ не может быть алгоритмическим, сначала требует доказательства применимости их к интеллекту.

При всем этом я согласен с тем, что скорее всего алгоритм ИИ не удастся создать, но не потому что это невозможно, а просто из-за его чрезмерной сложности.

Главный вопрос к вам: что вы предлагаете взамен?
Ведь если вы говорите, что надо создать математический аппарат (теорию) и только тогда можно будет прорыв, то это предполагает что у вас еще нет этой теории. Или у вас уже есть какая-то конкретика?
В частности меня интересует: если не алгоритмы или искусственные нейронные сети - то что?
А с точки зрения стохастических алгоритмов, кто-нибудь подходил к проблемам разума/жизни? ясно, что ээ тюринговская алгоритмическая база эээ несколько отличается от функционирования живого. даже простые реакции в клетках имеют вероятностный характер, и не определяются моделью машина тьюринга.
Для неалгоритмического ИИ должно быть P = NP, для алгоритмического ИИ P != NP. Книги по ссылкам подразумевают второе.

Что касается моделей неалгоритмического ИИ, то, на мой взгляд, жидкие машины и подобное - это как раз оно.
Интернет для компьютерных существ
Аналог Википедии, социальных сетей и форумов для роботов позволит машинам со всего мира обмениваться опытом и становиться умнее. По мнению авторов концепции, специализированный интернет ускорит совершенствование помощников человека.

Группа учёных и инженеров из ряда европейских университетов и компаний запустили проект RoboEarth. Главная идея: необходима специальная площадка, сохраняющая все возможные знания в робототехнической сфере. Здесь должны быть единым языком описаны всевозможные задачи, возлагаемые на роботов, и апробированные способы их решения. Тут роботы могли бы выкладывать результаты своих действий и искать подсказки при столкновении с непонятной ситуацией.

В современном мире до сих пор большинство роботов видит мир «по-своему», а создающие машины и софт для них люди очень часто заново преодолевают трудности, уже побеждённые кем-то ранее. Аналогичная ситуация складывается, когда сами роботы (конечно, не без помощи своих создателей) начинают осваивать мир, знакомиться с внешней обстановкой, предметами, действиями и поступками людей.

Во всех случаях каждый такой новичок словно начинает всё заново. Между тем доступ к единой базе знаний для роботов мог бы облегчить и ускорить любому новобранцу его первые шаги. «В базе данных будут помещены карты мест, в которых действует робот, описания объектов, с которыми они сталкиваются, и инструкции по различным действиям».

В будущем, когда, к примеру, в домах или общественных местах появятся роботы-слуги или андроиды-помощники, их подключение к «роботному интернету» позволит машинам оперативно приступать едва ли не к любому заданию, поскольку в своей сети они смогут найти все недостающие сведения.
"Объяснение того, почему самообучение в общем случае неалгоритмично, существенно опирается на теорию вычислимости и ее основу – теорию рекурсивных функций"

Т.е. нейронная сеть неалгоритмична?
Хе, как раз только что вернулся с семинара, где излогал свои мысли, в каком направлении целесеобразно двигаться, что бы в итоге получился "сильный" ИИ, способный решать задачи, о которых он изначально ничего не знает. :)


Интересно офигенно. Подписался на жжурнал, буду читать.
Не могу понять причин,

из-за которых специалист в области искустенного интеллекта должен подписываться псевдонимом в интервью по своей специальности. Мне кажется это, как минимум, непрофессионально.
Ну да, если мы будем понимать под словом алгоритм не в массовом, а в понимании уважаемого автора, то действительно все будет по другому.

Но ммм у нас есть в любом случае ограниченное число вариантов: либо выбрать какой-то из вариантов действий, руководствуясь чем-то (например ГСЧ), либо не выбирать ни один из вариантов, ожидая дальнейших условий (или руководствуясь опять ГСЧ). Других путей просто нет.

А раз "интеллект" можно выявить только в работе (ведь мы не можем сказать интеллект данный набор нейронов/микросхем или нет, пока он не будет принимать решения), то всю работу ИИ можно алгоритмизировать как: А->"выявление проблемы"->"выявление условий решения"->"выявление вариантов решения"->"выбор способа действия"->"готу А"

т.е. _сам процесс_ принятия решений, включая естественный интеллект уже алгоритмичен) [алгоритмичен?o_o алгоритмический/подвержен алгоритмизации?!?]

Ну это так, взгляд программиста:)
Кстати тут мне ответил юзер pavel_zak, дал ссыль на ТРИЗ (хе-хе, изобретали мы в институте, да)). Там правда много текста ни о чем, очевидно его диплом или доксторская или типа того, но есть некоторые интересные мысли.

Хотя лучше я свое скажу: ИИ скорее всего будет представлять из себя "нейросеть", элементы которой будут содержать различные алгоритмы. Выбор между элементами будет осуществляться на простейших принципах нейросети. Опыт - количество и качество имеющихся алгоритмов.
Такая констркукция ИИ будет повторять человеческое мышление.

И вообще - любая совершенная система должна строится на простейших элементах, объединенных по простейшим принципам. Т.е. скорее всего ИИ не будет создан, будут созданы условия для появления ИИ.
На эту тему можно посмотреть у pavel_kudinov (и если вдруг кто не видел, его эпичный доклад)
Ну, это как сказать...
Уважаемый Redelf, будьте последовательны. Дайте ссылочку для всех! И пусть коллеги сами решат, сколько там текста "о чем" и сколько "ни о чем". Читали материалы Вы, видимо, не совсем внимательно. Не о ТРИЗ там, а о концепции, носящей название "Универсальная Схема Эволюции", созданной на его основе.
И, в конечном итоге о том же, о чем Вы сказали ниже - "любая совершенная система должна строится на простейших элементах, объединенных по простейшим принципам".
Схему видели? Куда уж проще... И готов поспорить - она и будет основой ИИ, потому как мы все прекрасно понимаем (я надеюсь), что при создании какой-либо системы мы должны ориентироваться на полезную функцию, которую нужная нам система выполняет.
А УСЭ выполняет самую что ни на есть интеллектуальную функцию - показывает пути решения проблем (для любых систем - биологических, технических, социальных и т. д.). Ту самую, которую выполняет наш интеллект.
http://www.triz-evolution.narod.ru - приглашаю всех. Читайте, изучайте, критикуйте, проверяйте, высказывайте свое мнение - оно важно. И прошу прощения у уважаемого nature_wonder за такую "рекламу".
Не являясь специалистом, никак не могу понять, что означает утверждение "самообучение в общем случае неалгоритмично". Как должна ставиться задача, чтобы ее решением был такой ответ? В случае с остановом произвольной программы все ясно, задача должна ставиться примерно так: "разработать алгоритм, который для произвольной программы и любых входных данных должен дать ответ, остановится ли программа". А как ставится задача в случае с самообучением?
например
Например, о невозможности обучения определенному классу формальных языков смотрите "Gold's Theorem". Грубо говоря, теорема утверждает, что нельзя по конечному числу примеров определить язык.

Это, конечно, не совсем неалгоритмичность, а невозможность.