BIG vs small

Чисто из логических соображений: если взять много маленьких запросов и один большой, но равноценный им (например, с UNION), первые должны выполнятся немного дольше, так как на установку соединения/посылку данных серверу БД/на начальную обработку данных сервером будет уходить время при каждом запросе.
В то же время большой запрос пройдёт эту процедуру только один раз.

Хотя тут надо видеть границу, за которой начинается путаный код. Допустим, если есть 3 маленьких запроса, но они в разных частях проги, то я бы не стал их объединять в один, если кода станет запутаннее - разница в скорости будет минимальна и не будет стоить усилий на подержание такого кода.

Все это понятия относительные. Если бд спроектирована правильно, есть все индексы, статистика и т.д. - то джойны, даже большие ничего вам не замедлят, а м.б. даже наоборот.
Но вот что вы понимаете под "маленькими" запросами - вообще непонятно...
Если, например, у нас имеется "гипотетическая" ситуация, когда, нужно вытащить клиентов и сумму их заказов. И для решения задачи вы разобьете это на два "маленьких" запроса, один по клиентам, другой в цикле берет сумму заказа для каждого клиента - это будет намного медленне, чем сделать нормальный джоин с агрегатом.

В любом случае - слишком расплывчатый вопрос, чтобы дать на него однозначный ответ. Самый лучший способ - вооружаетесь средством профилирования вашей СУБД и исследуете все это на практике!

Как уже было отмечено, накладные расходы в случае одного запроса меньше, чем для множества мелких. Плюс работа оптимизатора. Когда запрос общий, оптимизатор имеет больше информации и может выбрать более оптимальный план выполнения, чем в случае нескольких запросов