Библиотека изначально планировалась в качестве как книгохранилища, так и в качестве общедоступного «источника народного просвещения». Уже через два дня начались подготовительные работы перед строительством: объявлены торги, приобретены строительные материалы, наняты работные люди, отпущены средства из казны для оплаты расходов. В июне того же года началась сама стройка. В июле 1796 года Екатерина II утвердила архитектурный проект Егора Тимофеевича Соколова.