Критерії оцінки слід поділити на внутрішні та зовнішні. Внутрішні критерії формуються на основі інформації множини даних, які були використані для навчання, тоді як зовнішні критерії використовують нову інформацію тестової множин, елементи яких не використовувалась при навчанні. Оптимальна складність моделі мережі встановлюється за сукупністю зовнішніх та внутрішніх критеріїв.
До зовнішніх критеріїв вибору моделі можна віднести:
Критерій регулярності - зовнішній критерій, для обчислення величини якого вимагається тестова множина даних.
де D (1) - величина критерію; і - номер відгуку; Fі - значення відгуків, що продукуються мережею; Fі* - точні значення відгуків.
Фізичний сенс застосування критерію регулярності полягає у виборі моделі, яка буде максимально точною на елементах тестової множини, які не входили до складу навчальної множини.
Критерій мінімального зміщення вимагає максимального співпадіння значень вихідної величини для двох моделей, де в якості навчальних елементів були використані дані різних підмножин навчальної множини.
Критерій мінімального зміщення дозволяє обирати модель, яка "слабо реагує" на зміну навчальної множини і дозволяє вирішити задачу відновлення закону, що діє для зашумлених тестових даних.
Критерій зміщенності показників в часі- допомагає оцінити рівень взаємозв'язку змінних. Окремі показники можуть мати різну післядію, тому розділене прогнозування кожного з них може забезпечити кращий результат. Відповідно, при наявності тісного взаємозв'язку між показниками, прогнозування їх сукупності покращує результати прогнозу кожного з них. Можливе також включення нового параметра, який може бути або додатковою ознакою або лінійною комбінацією вже включених ознак. Застосування цього критерію допомагає в оптимальному підборі таких ознак явища, які можуть забезпечити вищу точність прогнозування.
Критерій фізичної достовірності- вимагає виключення моделей, які під час проведення експерименту, можуть продукувати нереальні результати (великі викиди для множини, що прогнозується).