Правила Пайка
Нельзя заранее знать, где программа будет терять время: сначала измерь. Изощрённые алгоритмы медленны, когда данных мало, и правильную структуру определяют скорее данные, чем код.
Правил пять, и звучат они как заповеди монаха-терминальщика: измеряй, не угадывай; не используй сложные алгоритмы, если n маленькое, а n обычно маленькое; простота побеждает элегантность; данные командуют.
Смысл в том, что интуиция программиста насчёт производительности надёжна, как гороскоп. Думаешь, что знаешь, где тормозит, два дня оптимизируешь не то, а настоящей проблемой был цикл, который тысячу раз читал один и тот же файл.
Я реализовал самобалансирующееся самооптимизирующееся дерево для телефонного справочника офиса. В нём семь номеров. Старая бумажка на холодильнике находит их быстрее. К тому же у бумажки элегантное магнитное крепление.