Введение в МГУА

Подробнее о программе
NeuroShell 2 включает в себя очень мощную архитектуру, называемую Методом группового учета аргумента (МГУА) или полиномиальными сетями. На самом деле, сеть МГУА не похожа на обычные сети с прямой связью, и изначально эта архитектура обычно не представлялась в виде сети. Сеть МГУА содержит в связях полиномиальные выражения и использует в некотором смысле аналогичный генетическим алгоритмам механизм принятия решения о том, сколько слоев необходимо построить. Результатом
тренировки является возможность представить выход как полиномиальную функцию всех или части входов.
Замечание: В нижеследующей документации запись X^2 означает X в квадрате. X^3 означает X в кубе и т.д.
К несчастью, в литературе практически нельзя найти конкретного ответа на вопрос о том, как успешно применять МГУА. Причиной этого является тот факт, что МГУА использует множество разнообразных параметров, и "стандартного" набора этих параметров не существует. Ниже будут даны некоторые объяснения МГУА и его реализации в NeuroShell 2.
Основная идея МГУА заключается в том, что алгоритм пытается построить функцию (называемую полиномиальной моделью), которая вела бы себя таким образом, чтобы предсказанное значение выхода было как можно ближе к его действительному значению. Для многих пользователей очень удобно иметь такую модель, способную осуществлять предсказания с использованием знакомых и легких для понимания полиномиальных формул. В NeuroShell 2 МГУА сформулирован в терминах нейросетевой архитектуры,
называемой полиномиальной сетью. Тем не менее, получаемая модель представляет собой стандартную полиномиальную функцию.
Наиболее традиционный подход для решения задачи построения таких моделей заключается в использовании регрессионного анализа. Первый шаг состоит в принятии решения о типе полинома, который должен быть построен с помощью регрессии.

Например, хорошей идеей является выбор в качестве потенциальных членов полинома (т.н. опорных функций) степеней входных переменных, а также их парных и тройных произведений (ковариаций):

{X1, X2, X3, ..., X1^2, X2^2, X3^2, ..., X1X2, X1X3, ..., Xn-1Xn, X1X2X3, ...}

Следующим шагом является построение линейной комбинации всех опорных функций с переменными коэффициентами. Алгоритм определяет значения этих коэффициентов путем минимизации квадратичной суммы (по всем примерам) отклонений между действительными выходами и предсказаниями модели.
Описание линейной и нелинейной регрессии можно легко найти в любом справочнике по математике, поэтому здесь мы ограничимся лишь описанием основ метода, необходимых для понимания работы МГУА.
Главной проблемой при использовании регрессии является правильный выбор множества опорных функций. Насколько сложными они должны быть? Например, если Вы строите модель, являющуюся функцией одной переменной, какой должна быть максимальная степень полинома? Должна ли она быть равна 10, или модель должна оценивать члены такие как X^13, или можно ограничить рассмотрение членами порядка X^5 и ниже? МГУА работает лучше, чем регрессия, отвечая на эти вопросы без перебора всех возможных вариантов.


Компьютерная графика, мультимедиа и игры на Visual C# тут

Содержание раздела

---