Библиотека была основана в 1909 году вместе с Саратовским университетом. Первоначально она находилась по адресу: Никольская, 1, в одноэтажном с мезонином доме купца Замоткина, ныне утраченном. В августе 1910 года она переехала в дом Епархиального ведомства по адресу: Большая Сергиевская, 157 (ныне ул. Чернышевского), который в советские годы был до неузнаваемости перестроен, а в 1914 году — в 3-й корпус университета. Проект университетского городка, разработанный Карлом Мюфке, предполагал строительство отдельного здания для библиотеки, однако из-за начавшейся Первой мировой войны оно не было осуществлено.