homuncul

(Не)алгоритмический интеллект?

Ниже мое интервью со специалистом в области систем искусственного интеллекта (ИИ).
Собеседник - Алекс Добров, профессор одного из американских университетов.
У некоторых, особенно приверженцев классического ИИ, отдельные фрагменты интервью могут вызвать внутренний протест. Отдаю себе в этом отчет. Протестовать прошу без эмоций, по существу.
Итак, поехали.


Что изменилось? С какими доминирующими ранее идеями о построении искусственного интеллекта специалисты на сегодня расстались? А что, напротив, осталось неизменным?

Пожалуй, основная идея, с которой пришлось расстаться, это то, что интеллект, равный человеческому или даже превышающий его, будет создан в относительно скором будущем. Радужные ожидания сменились пониманием того, что создание ИИ, равного человеческому, - задача на много порядков сложнее, чем казалось раньше. После этого финансирование общих проектов по созданию ИИ резко сократилось. В настоящее время даже сам термин стараются не особенно употреблять. Вместе с тем развиваются отдельные прикладные направления, под которые есть финансирование. Главный заказчик – военные.
В том, что касается тенденций развития ИИ, я бы выделил две основные:
1. Ранее весьма популярные символьные методы работы с информацией (на основе формальных грамматик и языков) уже не в фаворе, а "аналоговые" методы развиваются всё больше. Число разработок с использованием искусственных нейросетей растёт очень быстро. Мало того, даже в работе с символьной информацией используют "аналоговые" методы (например, Google).
2. Вместо ИИ-реализации на базе огромной машины всё большее развитие получает представление о реализации ИИ в виде группы интеллектуальных агентов, которые кооперируются в плане обмена информацией и совместных согласованных действий.
Неизменным, как для меня ни странно, у многих осталось убеждение, что можно построить ИИ путем копирования мозга животного. И это несмотря на то, что ни один подобный проект не увенчался успехом, что не удивительно, поскольку нейрофизиология еще очень далека от понимания того, как работает естественный интеллект (ЕИ). Read more...Collapse )
Неалгоритмичность (само)обучения
Похоже что утверждение о том, что самообучение в общем случае неалгоритмично, для многих не только не очевидно, но и непонятно. Хочу попытаться объяснить это, не залезая в дебри математической теории вычислимости.
В процессе обучения необходимо вести поиск. Во-первых, это поиск модели мира, которая наиболее адекватно описывает реальность. Во-вторых, это поиск функции принятия оптимального решения в данном состоянии мира, т.е. функции, отображающей пространство этих состояний на множество допустимых управляющих действий. Далеко не всегда множество, в котором ведется поиск, алгоритмически перечислимо. Интересный пример – множество топологических многоообразий в 4-х мерном пространстве. На алгоритмическую неперечислимость этого множества наталкивались попытки построить теорию квантовой гравитации. Неалгоритмичность перечисления множества моделей мира приводит к неалгоритмичности поиска в этом множестве, а значит и к неалгоритмичности обучения.
Необходимо еще раз подчеркнуть, что неалгоритмичность означает отсутствие универсального алгоритма, т.е. нет алгоритма способного решать любую проблему из данного класса. Поскольку человек способен модифицировать алгоритм, он не связан вышеупомянутым отсутствием.
С другой стороны, аксиома выбора утверждает, что в любом множестве можно выбрать элемент, из чего почти сразу следует, что любое множество, равное по мощности множеству натуральных чисел, можно перечислить. Аксиома выбора позволяет доказывать существование математических объектов без предъявления алгоритма построения такого объекта. Матаппарат современной теорфизики не может без нее (или ее эквивалента) обойтись, что я рассматриваю как сильный аргумент в пользу утверждения о принципиальной неалгоритмичности нашей физической реальности. Это допускает возможность существования физических систем, способных к неалгоритмическому обучению. Мне представляется очень вероятным, что человек и является подобной системой.
Re: Неалгоритмичность (само)обучения
Основное свойство окружающего мира - изменчивость. Меняется все. Изменчивость - основное свойство ВСЕХ систем, в своей совокупности и являющихся тем, что мы называем "окружающим миром". Следовательно, наиболее правильной и объективной картиной мира будет картина, описывающая динамику изменений (эволюцию) ВСЕХ систем. Многолетние исследования в области эволюции систем позволили сделать вывод о единстве законов развития для всего многообразия систем - биологических и небиологических (технических, социальных и т. д.). И, в итоге, получилась Универсальная Схема Эволюции, которая позволяет полно и непротиворечиво описать развитие любой интересующей системы и это позволяет предположить, что Универсальная Схема и есть искомая модель мира, адекватно описывающая реальность.
Насчет универсального алгоритма... Решение проблемы = переход системы "с проблемой" в систему "без проблемы"? Так именно это и описывает Универсальная Схема...
Что у человека является тем промежуточным, переходным звеном между эффективными автоматизмами и творчеством? Какой механизм позволяет модифицировать внешнюю среду? И не надо ронять компьютер на пол :)

Этот механизм - ИГРА. И если уж говорить о параллели ИИ-ЕИ, то игра как метод решения проблемы и есть что-то вроде НАИ.
(Anonymous)
Жил был дядька Колмогоров. И задумался он на тему, какая последовательность нулей и единиц сложнее 00100100100000001 или 010101010100101. Он был не инженером, а математиком и решил подойти к вопросу издалека, а именно из самой бесконечности. И породил Колмогоров теорию Алгоритмической сложности о сложности бесконечных последовательностей.
А надо сказать был у Колмогорова задорный ученик Арнольд. Арнольд тоже не работал инженером, но любил физику, которая как-то иногда всё-таки приземляет полет математической фантазии.
И сказал Арнольд - Колмогоровская сложность это конечно круто, но не совсем про нас, у нас же всё конечное и компьютеры и мозги и задачи. Взял и просветил Арнольд мир на тему сложности конечных последовательностей. Эта попытка была не удачная, а вот изначальная мысль понравилась.
Профессор одного из американских университетов нас хочет убедить:
«Далеко не всегда множество, в котором ведется поиск, алгоритмически перечислимо». Это то конечно правда, да только не про нас. Когда курица убегает от поварихи, она решает задачу с конечным числом входов и выходов своими конечными «куриными мозгами». Повариха, когда ловит курицу, конечно, решает более сложную и «творческую» задачу, более сложными мозгами.
А теперь вопрос - неужели кто-то верит, что Профессор одного из американских университетов имеет возможность обрабатывать множество (в котором он ведет поиск), которое не то чтобы бесконечно, а даже алгоритмически неперечислимо?
При всём уважении к «венцу» природы (американскому профессору) я что-то в сомнениях. Да и методологически - путь к пониманию «творческого мышления» в профессорском интеллекте проходит от червяка через курицу, шимпанзе, повариху и далее. А мы где на этом пути, кто знает?
Ньютон биологии еще не родился. Разговор с эмбриологом
Пользователь romashkovoo сослался на вашу запись в своей записи «Ньютон биологии еще не родился. Разговор с эмбриологом» в контексте: [...] (Не)алгоритмический интеллект. Разговор со специалистом в области ИИ [...]
Прошу прощения за некропостинг, но насколько мне известно фраза :
»С одной стороны, математическая физика не может обойтись без аксиомы выбора (или ее эквивалента)
Не совсем точна. Точнее было бы:
С одной стороны, математическая физика не может обойтись без аксиомы выбора (или ее эквивалента) или необходимости квантования (в т.ч. пространства)

Еще раз прошу прщения за некропостинг, но:
1. Из неалгоритмичности обучения (в оьщем случае) никак не следует невозможность создания ограничеено-обучающегося алгоритма.
2. Более того предположу, что вопрос: является ли обучение ЕИ 'истинным' или 'алгоритмическим и ограниченным' -- открытый. Автор исходит из предположения, что ЕИ истинно и неалгоритмически обучаемый.
» Неалгоритмичность перечисления множества моделей мира приводит к неалгоритмичности поиска в этом множестве, а значит и к ...
Например это не совсем верно (по модулю понятия поиск). Вы исходите из предположения, что осуществляется оптимальный поиск, хотя это не обязательное условие (думаю Вы согласитесь что это не так).
Нам не обязательно перечислять мн-во чтобы что-то на нем найти. Например если мы хотим найти 'не мининум' нам достаточно двух точек с разными значениями ф-ии.