Об эвристиках - Искусственный интеллект - Ответ 9677409

Цель этой темы - выяснить, где в литературе можно почитать о научных достижениях по этой проблематике.

Вселенная только кажется необъятной
Математических функций на порядок больше, чем возможных сетей для их аппроксимации. Но глубокие нейронные сети каким-то образом находят правильный ответ. Генри Лин (Henry Lin) из Гарварда и Макс Тегмарк (Max Tegmark) из Массачусетского технологического института пытаются понять, почему так происходит.
Учёные пришли к выводу, что Вселенная управляется только небольшой частью всех возможных функций: законы физики можно описать функциями с простым набором свойств. Вот почему глубоким нейронным сетям не нужно аппроксимировать все возможные математические функций, а только небольшую их часть.
«По непонятным до конца причинам, наша Вселенная может быть точно описана полиномиальными гамильтонианами низкого порядка», — говорят Лин и Тегмарк. Обычно многочлены, описывающие законы физики, имеют степени от 2 до 4. Поэтому Лин и Тегмарк считают, что глубинное обучение уникальным образом подходит для построения «физических» моделей.
У законов физики есть несколько важных свойств — они обычно симметричны по отношению к вращению и перемещению. Эти свойства также упрощают работу нейронных сетей – например, аппроксимацию процесса распознавания объекта. Нейронным сетям не нужно аппроксимировать бесконечное число возможных математических функций, а только небольшое количество самых простых.
Ещё одно свойство Вселенной, которое могут использовать нейронные сети — это иерархия её структуры. Искусственные нейронные сети часто создаются по подобию биологических, поэтому идеи учёных объясняют не только успешную работу глубинного обучения машин, но способность человеческого мозга понимать Вселенную. Эволюция привела к появлению структуры мозга человека, которая идеально подходит для разбора сложной Вселенной на понятные составляющие.
Работа учёных из Гарварда и МТИ должна помочь существенно ускорить процесс развития искусственного интеллекта. Математики могут улучшать аналитическое понимание работы нейронных сетей, физики и биологи – разбираться в том, как взаимосвязаны явления природы, нейронные сети и наш мозг, что приведёт к переходу на новый уровень работы с ИИ.