Особливості навчання нейронних мереж

Серед всіх цікавих властивостей штучних нейронних мереж жодна не захоплює так уяви, як їх здібність до навчання. Їхнє навчання певною мірою повторює процес інтелектуального розвитку людської особистості. Але виявляючи обережність, потрібно стримувати ейфорію. Можливості навчання штучних нейронних мереж обмежені, і треба вирішити багато складних задач для визначення, на чи правильному шляху ми знаходимося. Проте вже отримані переконливі досягнення, такі як «мережа, що розмовляє» Сейновського, і створюється багато інших практичних застосувань [57].

Мережа навчається, щоб для деякої множини входів давати бажану (або, принаймні, подібну на неї) множину виходів. Кожна така вхідна (або вихідна) множина розглядається як вектор. Навчання здійснюється шляхом послідовного пред'явлення вхідних векторів з одночасним налаштуванням ваг відповідно до певної процедури. У процесі навчання ваги мережі поступово стають такими, щоб кожний вхідний вектор виробляв вихідний вектор.

Навчання з вчителем

Розрізнюють алгоритми навчання з вчителем і без вчителя. Навчання з вчителем передбачає, що для кожного вхідного вектора існує цільовий вектор, що являє собою необхідний вихід. Разом вони називаються навчальною парою. Переважно мережа навчається на деякому числі таких навчальних пар. Пред'являється вихідний вектор, обчислюється вихід мережі і порівнюється з відповідним цільовим вектором, різниця (похибка) за допомогою зворотного зв'язку подається в мережу і ваги змінюються відповідно до алгоритму, прагнучого мінімізувати похибку. Вектори навчальної множини пред'являються послідовно, обчислюються похибки і ваги налаштовуються для кожного вектора доти, поки похибка по всьому навчальному масиву не досягне прийнятно низького рівня.

Навчання без вчителя

Незважаючи на численні прикладні застосування, навчання з вчителем критикувалося за свою біологічну неправдоподібність. Важко уявити навчальний механізм в мозку, який би порівнював бажані і дійсні значення виходів, виконуючи корекцію за допомогою зворотного зв'язку. Якщо допустити подібний механізм в мозку, то звідки тоді виникають бажані виходи? Навчання без вчителя є більш правдоподібною моделлю навчання в біологічній системі. Розвинена Кохоненом і багатьма іншими, вона не потребує цільового вектора для виходів і, отже, не вимагає порівняння з встановленими ідеальними відповідями. Навчальна множина складається лише з вхідних векторів. Навчальний алгоритм налаштовує ваги мережі так, щоб виходили узгоджені вихідні вектори, тобто щоб пред'явлення досить близьких вхідних векторів давало однакові виходи. Процес навчання, отже, виділяє статистичні властивості навчальної множини і групує схожі вектори в класи. Пред'явлення на вхід вектора з даного класу дасть певний вихідний вектор, але до навчання неможливо передбачити, який вихід буде вироблятися даним класом вхідних векторів. Отже, виходи подібної мережі повинні трансформуватися в деяку зрозумілу форму, зумовлену процесом навчання. Це не є серйозною проблемою. Переважно, не складно ідентифікувати зв'язок між входом і виходом, встановлений мережею.

Читайте також:

<== попередня сторінка	\|	наступна сторінка ==>
Тема 10. Технології нейронних мереж в ГІС-системах	\|	Нейронні мережі та системи нечіткої логіки в управлінні земельними ресурсами

Не знайшли потрібну інформацію? Скористайтесь пошуком google:

Генерація сторінки за: 0.005 сек.