Нехай x : W ® R— випадкова величина, що спостерігається у випадковому експерименті. Передбачається, що ймовірний простір заданий (і не буде нас цікавити). Будемо вважати, що провівши п раз цей експеримент в однакових умовах, ми одержали числа Х1, X2,..., Хп— значення цієї випадкової величини в першому, другому, і т.д. експериментах. Нехай випадкова величина ξ має деякий розподіл F , що нам частково або зовсім невідомо.
Розглянемо докладніше вектор X = (Х1,..., Хп), названий вибіркою (випадковою вибіркою). У конкретній серії експериментів вибірка — це набір чисел. Але вартує цю серію експериментів повторити ще раз, і замість цього набору ми одержимо новий набір чисел. Замість числа Х1з'явиться інше число — одне зі значень випадкової величини x . Тобто Х1(і X2, і Хз, і т.д.) — не якесь конкретне, раз і назавжди задане число, а змінна величина, що може приймати ті ж значення, що і випадкова величина x, і так само часто (з тими ж ймовірностями). Тобто Х1— випадкова величина, однаково розподілена з x, а число, що ми спостерігаємо в даному першому експерименті — одне з можливих значень випадкової величини Х1 .
Отже, вибірка X = (Х1 ,..., Хп) обсягу п це:
1) в конкретній серії експериментів — набір з п чисел, що є значеннями («реалізаціями») випадкової величини x у п незалежних експериментах;
2) у математичній моделі — набір з п незалежних і однаково розподілених випадокових величин («копій x »), що мають, як і x , розподіл F.
Що значить «по вибірці зробити висновок про розподіл»? Розподіл характеризується функцією розподілу, чи щільністю таблицею, набором числових характеристик — Еx , Dx , Exk і т.д. По вибірці потрібно вміти будувати наближення для всіх цих характеристик.