Досвід показує, що при дослідженні неквадратичних функцій метод Н’ютона не відрізняється високою надійністю.
Дiйсно, якщо точка находиться на значній відстані від точки , крок за методом Н’ютона часто виявдяється досить великим, що може привести до відсутності збіжності. Метод можна досить легко модифікувати для того, щоб забезпечити зменшення цільової функції від ітерації до ітерації та здійснити пошук уздовж прямої як в методі Коши. Послідовність ітерацій будується згідно формулі:
. (4.14)
Вибір здійснюється таким чином, щоб . Це гарантує виконання нерівності . Такий метод носить назву модифікований метод Н’ютона. У випадках, коли розрахунок точних значень перших та других похідних не зв’язаний з суттєвими труднощами, він є надійним та ефективним.
Однак, при використанні модифікованого методу Н’ютона виникає необхідність будування та рішення лінійного рівняння, що містить елементи матриці Гессе.