Summary: | Своеобразным гибридом различных нейронных сетей, обучение которых основывается как на оптимизации, так и на памяти, являются машины опорных векторов (SVM), архитектура которых совпадает с RBFN и GRNN, синаптические веса определяются в результате решения задачи нелинейного программирования, а центры активационных функций устанавливаются по принципу «нейроны в точках данных». И хотя SVM-сети обладают целым рядом несомненным преимуществ, их обучение с вычислительной точки зрения представляется достаточно трудоемким, поскольку связано с решением задач нелинейного программирования высокой размерности. В связи с этим в качестве альтернативы SVM были предложены машины опорных векторов наименьших квадратов (LS-SVM), обучение которых сводится к решению систем линейных уравнений, что гораздо проще с вычислительной точки зрения и может быть реализовано в онлайн режиме. Вэйвлет-аналогом традиционной SVM является вэйвлет машина опорных векторов (WSVM), в которой многомерные ядерные функции активации заменены одномерными адаптивными вэйвлет-функциями. И хотя WSVM обладает большими возможностями по сравнению с традиционными SVM, их обучение с вычислительной точки зрения связано с реализацией достаточно сложных процедур, что, естественно, ограничивает их возможности для решения задач реального времени. В связи с этим представляется целесообразной разработка достаточно простых вэйвлет-нейро-систем, реализующих идеи обучения, основанного на минимизации эмпирического риска и ориентированных на обработку информации в online-режиме. В качестве базового элемента таких систем нами принят вэйвлет-нейрон, характеризующийся высокими аппроксимирующими свойствами, простотой, высокой скоростью обучения и возможностью выявлять скрытые зависимости в обрабатываемых данных.
|