Зобразимо заданий трикутник на малюнку. Позначимо його вершини О(0,0), А(5,0), В(0,5).
Знайдемо частинні похідні першого порядку
.
Прирівняемо їх до нуля
Дістанемо стаціонарну точку М(1,3), що лежить у заданому трикутнику.
Дослідимо функцію на безумовний екстремум всередині області. Знайдемо похідні другого порядку:
.
Дослідимо на знаковизначеність квадратичну форму з матрицею
.
Квадратична форма є напів додатно визначеною, бо , . Отже, не можна зробити висновок про існування екстремуму у точці .
Дослідимо функцію на умовний екстремум на кожні границі області. Розглянемо сторону ОА нашого трикутника. Враховуючи, що для точок цієї сторони виконується умова , знайдемо . Обчислимо похідну та, прирівнюючи її до нуля, знайдемо стаціонарну точку . Точка N(4,0) лежить на стороні ОА заданого трикутника.
Розглянемо сторону ОВ нашого трикутника. Враховуючи, що для точок цієї сторони виконується умова , знайдемо . Обчислимо похідну . Оскільки похідна не дорівнює нулю, функція не має стаціонарних точок.
Розглянемо сторону АВ нашого трикутника, в усіх точках якої . Знайдемо
.
Обчислимо похідну та, прирівнюючи її до нуля, зайдемо стаціонарну точку . Точка P(2,3) лежить на стороні АВ заданого трикутника.
Знайдемо значення функції у точках М(1,3), N(4,0), P(2,3), О(0,0), А(5,0), В(0,5):
, , , , , .
Функція досягає свого найбільшого та найменшого значень в одній з цих точок.
Найбільшого значення функція досягає у точці О(0,0), найменшого значення функція досягає у точці N(4,0).