Я хотел бы предложить вниманию комьюнити свой труд под названием "Технологическая сингулярность, теорема Пенроуза об искусственном интеллекте и квантовая природа сознания".
Это не статья, но, скорее, эссе, наполовину книжка, так как здесь рассматривается сразу довольно много тем. Эссе вышло в свет в виде отдельной брошюры в 2014 г. как приложение к журналу "Информационные технологии", а написано было в 2013 году. Однако я не вижу, чтобы оно заметно устарело, несмотря на появление с тех пор таких вещей, как deep learning и big data.
Изначально основным пафосом работы была критика концепции "технологической сингулярности" в той форме, в которой ее предлагают Рэй Курцвейл, Вернор Виндж и их последователи - в связи с прогнозами появления в "скором будущем" сильного искусственного интеллекта ("Сингулярность уже рядом" - так называется книга Рея Курцвейла). Однако спектр тем, которые пришлось затронуть в связи с этой критикой, очень широк:
1. Необоснованность идеи Курцвейла, что рост производительности вычислительных систем автоматически приведет к возникновению сильного ИИ, когда производительность "дешевых" вычислительных систем станет выше совокупной производительности мозгов всего человечества (по прогнозу Курцвейла в 2045 г.). Критика этой мысли Курцвейла ведётся по трем основным направлениям.
1.1 Первое направление - неадекватность оценок Курцвейлом производительности мозга, которые основаны на чисто нейросетевой парадигме и не учитывают субнейронные моды обработки информации.
1.2 Второе направление - недооцененный консерватизм эволюции программного обеспечения (хардверный фетишизм Курцвейла) и недооценка Курцвейлом степени современного непонимания путей решения задачи создания сильного ИИ.
1.3 Третье направление - полное непонимание сторонниками технологической сингулярности аргументов Роджера Пенроуза против возможности создания сильного ИИ на базе архитектуры конечного автомата.
В связи с этими тремя направлениями критики возникает несколько отдельных самостоятельных тем, которые подробно рассмотрены в эссе:
2. Предпринята попытка довести аргументы Роджера Пенроуза (так называемые гёделевские аргументы) до достаточно популярного и понятного уровня, так как в оригинале аргументы довольно сложны и запутаны (сам Пенроуз это признает). В явном виде и замкнутой форме сформулирована теорема Пенроуза об ИИ (которую Курцвейл ошибочно отождествляет с теоремой Гёделя-Тьюринга) и обсуждается природа и критика этой теоремы.
3. Подробно рассмотрены факты, в том числе малоизвестные, в пользу того, что субнейронные моды обработки информации должны играть существенную роль в мышлении (и должны, следовательно, учитываться в оценке быстродействия мозга).
4. Разобраны ошибки в широко известной аргументации против того, что эти субнейронные моды обработки информации могут иметь квантовую природу (типа нейрон - это слишком мокрое и тёплое место, чтоб там могли быть квантовые вычисления).
5. Разобраны распространенные ошибки в интерпретации выводов Пенроуза из его теоремы об ИИ. Собственного говоря, я ни разу не встречал в литературе правильной интерпретации выводов Пенроуза. Принято считать, что Пенроуз думает, будто мозг должен быть квантовым компьютером, и это НЕВЕРНО. Пенроуз считает, что мозгу мало быть квантовым компьютером, чтобы он реализовывал все известные формы своей активности. Работа мозга должна быть основана на еще не открытой физике.
6. Критикуется этот последний вывод Роджера Пенроуза, чему посвящена последняя треть статьи. Это наиболее технически сложная часть работы. Там тоже возникает целый ряд своих отдельных тем, например, о понятии квантовой информации и др.
Если очень грубо, то схема всего эссе такова.
Во-первых выделены две крайние точки зрения на возможность создания сильного ИИ:
- Рэй Курцвейл: Сильный ИИ будет вскоре создан уже на основе компьютеров классической архитектуры.
- Роджер Пенроуз: Сильный ИИ не может быть создан даже на основе квантовых компьютеров, но требует новой физики.
Во-вторых, приведена согласованная критика обоих этих крайних позиций.
Ссылка для скачивания: