Перейти к основному содержимому

Зачем измерять алгоритмы

Одна и та же программа работает быстро на новом компьютере и медленно на старом. Поэтому секунды — плохой способ сравнивать два алгоритма: число зависит от машины, а не только от кода.

Вместо этого мы считаем шаги: сколько простых операций выполняет алгоритм. Шаг — это одно небольшое действие, например чтение значения, сравнение двух чисел или их сложение.

Нотация Big O описывает, как растёт число шагов при росте входных данных. Она не говорит «это занимает 3 секунды». Она говорит «если вход удваивается, работа удваивается» — это O(n) — или «если вход удваивается, работа остаётся той же» — это O(1).

Big O смотрит на худший случай: на наибольшее число шагов, которое алгоритму может понадобиться для входа размера n.


Подсчёт шагов

Цикл, который обходит каждый элемент массива, делает один проход на элемент. Для 5 элементов это 5 шагов, для 10 элементов — 10 шагов. Число шагов совпадает с count($nums).

Точное число нас не интересует. Нас интересует форма роста: вдвое больше входных данных — вдвое больше шагов. Такую форму называют линейной и записывают как O(n).

Считаем шаги цикла

Функция добавляет внутрь цикла счётчик $steps++. Массив из 5 элементов требует 5 шагов, массив из 10 элементов — 10 шагов: число шагов следует за размером входных данных.

Prompt
Напиши функцию на PHP, которая суммирует массив целых чисел и считает, сколько шагов цикла для этого нужно, используя счётчик шагов. Вызови её один раз с массивом из 5 чисел и один раз с массивом из 10 чисел и выведи оба количества шагов.
Вывод: PHP-скрипт
Count the steps of a loop

Удвоение входа удваивает работу

Программа выполняет один и тот же считающий цикл для n = 100, 200 и 400. Каждый раз, когда n удваивается, число шагов тоже удваивается. Это отличительный признак O(n).

Prompt
Напиши скрипт на PHP, который для n = 100, 200 и 400 выполняет цикл n раз, считая шаги, и выводит по одной строке на каждое n с самим n и количеством шагов, чтобы было видно: удвоение n удваивает количество шагов.
Вывод: PHP-скрипт
Doubling the input doubles the work

Классы роста

Большинство алгоритмов попадает в несколько распространённых классов роста, от самого быстрого к самому медленному:

O(1) константный — работа не растёт вовсе.
O(log n) логарифмический — удвоение входа добавляет всего один шаг.
O(n) линейный — работа растёт вместе с входными данными.
O(n log n) — хороший алгоритм сортировки.
O(n²) квадратичный — цикл внутри цикла.
O(2ⁿ) экспоненциальный — работа удваивается с каждым дополнительным элементом.

На малых входных данных разница ничтожна. На больших она решает, ответит программа сразу или не завершится никогда.

Сравниваем классы роста

Таблица показывает число шагов для растущего n. При n = 16 величина log n равна всего 4, тогда как 2ⁿ — уже 65536. Чем больше n, тем сильнее классы расходятся.

Prompt
Напиши скрипт на PHP, который выводит таблицу со сравнением классов роста. Для n = 1, 2, 4, 8, 16 выведи по одной строке со значениями: n, log n, n, n log n, n в квадрате и 2 в степени n. Используй логарифм по основанию 2 и выровняй столбцы с помощью printf.
Вывод: PHP-скрипт
Compare the growth classes

Что Big O игнорирует

Big O сохраняет только форму роста и отбрасывает подробности. O(2n), O(n + 5) и O(n) — это один и тот же класс: линейный.

Почему? Потому что на больших входных данных постоянный множитель перестаёт иметь значение. Алгоритм, который делает 2 прохода по миллиону элементов, всё равно находится в совершенно другом мире, чем тот, который сравнивает каждый элемент с каждым.

Точные правила упрощения — отбросить константы, отбросить меньшие слагаемые — рассматриваются на отдельной странице далее в этой группе.

Два цикла — это всё равно O(n)

Программа делает два отдельных прохода по массиву: один для суммы, другой для наибольшего значения. Это 2n шагов — 16 для 8 элементов. Big O отбрасывает константу 2, поэтому это по-прежнему O(n).

Prompt
Напиши скрипт на PHP, который делает два отдельных прохода по одному и тому же массиву из 8 целых чисел — один цикл считает сумму, другой находит наибольшее значение — и при этом считает каждый шаг цикла в одном общем счётчике. Выведи сумму, наибольшее значение, количество элементов и общее число шагов.
Вывод: PHP-скрипт
Two loops are still O(n)