Машинное обучение - это современная алхимия.
Т.е. полезный инженерный навык решения широкого спектра задач, но (1) не способный дать научное объяснение таким фундаментальным понятиям, как интеллект и сознание, и (2) что гораздо хуже, уводящий научные исследования этих понятий в ложном направлении.
Приятно констатировать, что это уже не только моя точка зрения, многократно изложенная в постах. Али Рахими из Google и Бен Рехт из Калифорнийского университета (оба – весьма известные спецы в области машинного обучения) приводят конкретную и вполне убедительную аргументацию в пользу вышесказанного https://goo.gl/iMc5cg
Выступление Рахими на конференции NIPS 2017 в декабре прошлого года на эту тему сорвало долгие овации зала (видео 27 мин https://goo.gl/9L1Kpr, текст https://goo.gl/gdT94C)
А сказал он следующее.
1) Бурный прогресс технологий машинного обучения, казалось бы, не оставляет шансов для сомнений в правильности избранного технологического направления. Миллиарды вкладываемых в это направление долларов заставляют верить, что «машинное обучение – это новое электричество» https://goo.gl/7VaGN4.
2) Но на самом деле, это совсем не так. Альтернативная метафора - машинное обучение стало алхимией. Ведь, на самом деле, алхимия вовсе не была лженаукой.
Алхимия работала и принесла массу пользы — алхимики изобрели металлургию, способы приготовления лекарств, методы обработки текстиля и наши современные стекольные процессы. Т.е. все то, без чего бы не произошла промышленная революция.
Но с другой стороны, алхимики также полагали, что они смогут превращать металлы в золото и что пиявки - прекрасный способ лечения болезней.
И чтобы достичь истинного понимании окружающего мира и всей вселенной, которое принесли человечеству физика и химия 1700-х годов, от большинства теорий, разработанных алхимиками, пришлось отказаться.
3) Тоже самое происходит с машинным обучением. Оно здорово работает. Оно реально полезно. И если вы создаете онлайн сервис обмена фотографиями, машинное обучение прекрасно для этого подходит.
4) Но машинное обучение никогда не позволит нам «превращать металлы в золото», поскольку также, как и алхимия, не строится на строгих, надежных, проверенных знаниях.
5) Мы зашли в этом алхимическом направлении уже слишком далеко. Сейчас перед нами:
— уже не просто «Проблема воспроизводимости ИИ» (невозможность тиражировать результаты друг друга из-за несогласованных экспериментальных и публикаторских практик) https://goo.gl/6DNYHP;
— и даже не просто «Проблема черного ящика» и интерпретируемости результатов работы алгоритмов (interpretability) https://goo.gl/PS7Z9t;
Теперь мы имеем не просто «черный ящик» машинного обучения. В «черный ящик» превратилась вся область исследований технологий ИИ.
Цель науки - генерировать знания, а не создавать все новые массовые гаджеты. Сейчас же мы имеем лишь последнее. А знаний практически не прибавляется.
Пора, если не менять направление, то, по крайней мере, срочно начать развивать и альтернативные.
Для профессионалов, желающих познакомиться с подробностями аргументации – вот подборка документов «Проклятие победителя? О скорости, прогрессе и эмпирической строгости» https://goo.gl/fHfsVF
