Миколаївська обласна універсальна наукова бібліотека (ОУНБ) завжди займала особливе місце у культурному, духовному розвитку міста. Крім того, до її заснування й подальшого розвитку були причетні кращі представники регіону. На підтвердження цих слів досить згадати умови, що передували наприкінці XIX ст. виникненню бібліотеки, що первісно одержала назву – Миколаївська громадська бібліотека. У цьому сенсі великий внесок зробила громадськість міста, завдяки якій відбулося відкриття, а у подальшому – потужний розвиток першої значної інформаційної установи краю.
Відкриття публічної бібліотеки у Миколаєві стало знаменною подією для городян. Адже до цього у місті було лише кілька бібліотек: морського відомства, навчальних закладів і приватних власників. Користування цими бібліотеками було обмежено. Щоб стати, наприклад, передплатником (читачем) Севастопольської морської бібліотеки, необхідно було внести заставу - 15 крб. і річну платню – 7 крб.
У 1863 р. у своєму звіті Херсонський цивільний губернатор писав: «У містах і містечках, підвідомчих губернському управлінню, ні публічних, ні приватних бібліотек немає… потреби в них у губернії немає». І тільки в 1881 р. у м. Миколаєві з'явилася перша громадська бібліотека. В обласному архіві збереглася доповідна записка Миколаївського міського голови М. П. Де-Ла-Валетта на адресу військового губернатора м. Миколаєва, адмірала М. П. Манганарі від 12 червня 1881 р., в якій говориться: «Через численні скарги на незручність умов, якими обставлено у нашому місті користування книгами для читання, декілька місцевих громадян прийшли разом зі мною до думки про заснування у Миколаєві громадської бібліотеки, на зразок бібліотек цього роду, що існують у Херсоні, Єлисаветграді й багатьох інших містах...». Разом із цим міський голова попросив дозволити опублікувати окремою брошурою звернення групи городян «Пора й нам мати публічну бібліотеку».
Серпень 1881 р. ознаменувався першими організаційними зборами членів бібліотеки, що відбулися у залі міських зборів. Пізніше була обрана Дирекція бібліотеки. Першим головою Дирекції був М. П. Де-Ла-Валетт. За його клопотанням адмірал М. П. Манганарі 15 вересня 1881 р. представив міністрові внутрішніх справ Статут Миколаївської громадської бібліотеки для затвердження. Статут було затверджено 29 жовтня (11 листопада – за новим стилем) 1881р. Миколаївський обласний архів зберіг документ, в якому начальник Головного управління у справах друку при Міністерстві внутрішніх справ, князь П. П. В'яземський офіційно повідомив владу міста про затвердження Статуту. Дата затвердження Статуту вважається днем заснування Миколаївської громадської бібліотеки.
Своїх перших читачів бібліотека прийняла 28 січня 1882 р. о 12-й год. в орендованому приміщенні по вул. Спаській, ріг вул. Молдаванської (нині вул. Декабристів). Газета «Николаевский вестник» повідомляла: «На відкриття читальні запрошується губернатор міста». Іншим запрошеним висувалася така вимога: «...військовим бути у мундирах, а цивільним — у чорних сюртуках».
Бібліотека являла собою одну кімнату у приватному будинку, що у будь-який момент могла бути відібрана. Існувала бібліотека за рахунок плати читачів-передплатників та коштів, що збиралися за публічні читання й інші заходи. Першим бібліотекарем читальні була М. К. Арсеньєва.
У 1882 р. бібліотека переїхала на вул. Нікольську, 47, а бібліотекарем стала М. Стоян. Незважаючи на те, що книги вже дозволялося брати додому, інтерес до бібліотеки не був високим. Книжковий фонд збільшувався повільно. В 1891 р. у бібліотеці налічувалося 3 825 примірників (3 600 назв) книг. Хоча бібліотека й називалася «публічною», відвідувати її могли не всі: за Статутом книги не видавали особам, які вчаться, солдатам і тим, хто перебував під наглядом поліції. Це обмежувало коло читачів і змушувало підвищувати ціни за користування бібліотекою. За користування абонементом і читальним залом стягувалася платня - 30 коп. на місяць із правом одержання додому однієї книги та 50 коп. - із правом одержання двох книг. Також вносилася застава на випадок втрати книги - 1 або 2 крб. відповідно. Згодом сума застави зросла: річний читацький квиток, що надавав право відвідувати читальний зал і одержувати на абонементі дві книги без застави, коштував 5 крб.
Фінансові надходження до бібліотеки формувалися із членських внесків, а також із субсидій і добровільних пожертвувань. Бібліотека одержувала щорічну допомогу у сумі 1 тис. крб. від міського громадського управління. Нові надходження до бібліотеки поповнювалися за рахунок зборів від публічних лекцій, концертів, вистав.
У 1894 р. для бібліотеки було побудовано спеціальне приміщення по вул. Різдвяній, 6 (нині вул. Лягіна), ріг вул. Спаської. Значну частину коштів на будівництво бібліотеки (9 тис. крб.) пожертвував відставний підполковник О. В. Нужнов. Ще 3 тис. крб. він надав у вигляді позики; цей борг із відсотками бібліотека виплачувала спадкоємцям Нужнова до жовтня 1917 р. О. В. Нужнов був обраний почесним членом Дирекції бібліотеки, його портрет був виставлений у читальному залі. Решту необхідних для будівництва коштів бібліотека одержала у вигляді позик з інших джерел.
Загальна вартість будинку бібліотеки оцінювалася у 19 050 крб. 20 коп. Будівництвом керували, не одержуючи ніякої платні, міський архітектор Є. А. Штукенберг, начальник торговельного порту, інженер Л. К. Стус і секретар-скарбник Миколаївського відділення Імператорського Російського технічного товариства Л. П. Бєлявін. Відкриття бібліотеки у новому будинку відбулося 27 грудня 1894 р. о 13-й год., у цьому приміщенні вона розміщалася до 1964 р. Зараз там знаходиться Палац урочистих подій.
Бібліотека постійно поповнювала свої фонди. За 5 років (1898-1903) кількість книг збільшилася у два рази - з 7 327 томів (5 974 назв) до 15 104 томів (10 375 назв). На 1 січня 1916 р. книжковий фонд нараховував 30 370 томів (19 724 назви), періодичних видань на той час у бібліотеці було 18 379 томів (514 назв). Протягом багатьох років (1892–1925) бібліотекарем громадської бібліотеки була колишня сільська вчителька О. Л. Пухальська.
Разом з фондом збільшувалася й кількість відвідувань читачами бібліотеки: в 1886 р. вона складала 24 845 од., у 1888 р. - 35 367, 1889 р. - 39 279, 1912 р. - 86 628, 1913 р. - 87 773, 1917 р. - 156 406.
Самих читачів можна охарактеризувати таким чином: у 1905 р. читачів було 2978 чол. (1536 чоловіків і 1442 жінки). За національною ознакою вони розподілялися так: 1 015 росіян і українців, 1 779 євреїв, 55 поляків, 49 німців, 35 караїмів, 22 француза, 12 греків, 6 вірмен, 2 латиша, а також сербів, угорців і молдаван по 1 людині. За родом занять: 781 учень, 73 студента, 218 осіб вільних професій, 142 купця, 119 ремісників, 99 прикажчиків, 65 чиновників, 59 військових, 26 робітників, 10 артистів, 5 духовних осіб та ін. Зі збережених до сьогоднішнього дня звітів Миколаївської громадської бібліотеки з 1893 по 1917 рр. можна довідатися про читацькі інтереси зазначених груп відвідувачів, про те, які книги користувалися найбільшим попитом.
1 серпня 1900 р. з ініціативи «Комітету піклування про народну тверезість» і за підтримки Дирекції бібліотеки на перехрещенні вул. Різдвяної (Лягіна) та 1-ї Піщаної (Защука), будинок 28, відкрилося відділення Миколаївської громадської бібліотеки. Бібліотекарем стала О. І. Пушкарська.
У 1910 р. відділення бібліотеки переміщається у пристосоване приміщення у будинку Ведренка на перехрещенні вулиць Одеської і 5-ї Слобідської, де відкрилася читальня для дітей. На 1 січня 1912 р. у філії було 4 834 томи (3 708 назв), на 1 січня 1916 р. — 6 147 томів (4 632 назви). В 1916 р. вийшов каталог книг відділення у кількості 200 примірників.
Формування фондів Миколаївської громадської бібліотеки здійснювалося на основі замовлень за видавничими каталогами і каталогами книгарень Москви, Петербурга, Одеси. Приблизно одна третина книг і журналів, що поступали, була пожертвуванням різних організацій і установ — урядових, наукових, громадських. Надходили також видання від університетів та інших навчальних закладів. Міська управа, Біржовий комітет, товариства Взаємного страхування, Порятунку на водах, Допомоги бідним євреям, Миколаївське відділення Імператорського Російського технічного товариства, портова митниця передавали річні звіти й інші видання до фондів бібліотеки.
Передавали бібліотеці книги й самі видавці. На прохання видавця К. Т. Солдатенкова Московська міська Дума подарувала бібліотеці 73 книги, видавниця О. П. Горська передала 7 томів. Дарували книги й автори: Ц. П. Балталов, В. Беренштам, Ф. Блюменталь, М. П. Василевський, М. Лахтін, Н. А. Морозов, В. В. Рюмін, П. Стоян, М. І. Фадєєв та ін.
Бібліотека була вдячна й приватним дарувальникам, що поповнювали її фонди. Прізвища цих людей щорічно друкувалися у звітах бібліотеки. З них видно, що лікар О. Понятовський заповів Миколаївській громадській бібліотеці колекцію книг у 1 730 томів: твори російських класиків, художні видання, наукову та історичну літературу. У бібліотеці зберігся окремий каталог книг, подарованих О. Понятовським. Інженер-хімік Г. Е. Вейнберг, член Дирекції бібліотеки, пожертвував 664 томи, Є. О. Баласогло - 109 томів, міський голова В. Ф. Соболєв - 184 томи, О. С. Пескер передала бібліотеці 130 юридичних посібників, О. А. Вімут - 88 книг з медицини, Н. В. Горбатова - 70 томів з механіки і будівельної справи російською, французькою, англійською та німецькою мовами. Серед дарувальників була й О. І. Аркас, дружина відомого українського історика і композитора.
З 1 серпня 1908 р. у бібліотеці почав працювати нотний абонемент, основу якого становили 800 примірників нот, а на 1 січня 1913 р. їх було вже 1 244 примірники. Користування нотами на абонементі коштувало 30 коп. на місяць за одну назву, 50 коп. - за дві та 70 коп. - за три.
Збільшення фонду бібліотеки згодом призвело до виникнення проблеми розміщення книг. Питання про необхідність розширення приміщень за рахунок прибудов неодноразово розглядалося на засіданнях Дирекції.
У 1912 р. Г. І. Кранцфельд пожертвував для будівництва бібліотеки ділянку і три хлібних магазини (сховища) на Поповій Балці вартістю 25 тис. крб. Однак Дирекція бібліотеки визначила, що перебудова магазинів з добудуванням лекційного залу на 500 осіб буде коштувати майже 45 тис. крб. У 1913 р. Г. І. Кранцфельд замінив свій дарунок на грошову суму у розмірі 25 тис. крб. Було прийняте рішення про зведення нового будинку для бібліотеки та передачі старого приміщення міському музею.
Цим планам перешкодила Перша світова війна. Оскільки будівництво нового будинку стало неможливим, Дирекція повернулася до рішення прибудови до старого будинку бібліотеки.
Наприкінці XIX - початку XX ст. активними членами Ради бібліотеки були М. Ге, М. Аркас, В. Рюмін, М. Рубакін; у бібліотеки було 3 488 передплатників, а її книжковий фонд становив 50 тис. книг.
1917 р. став переломним в історії України, відбулися кардинальні зміни у суспільстві. Бібліотека продовжувала працювати, збільшувалося число читачів, зростав попит на книги, газети, журнали. У зв'язку із цим Правління намагалося розв'язати питання про розширення площі читальні. Бібліотека виявилася у складній фінансовій ситуації, що не могло не відбитися на матеріальному стані її працівників. Якщо у 1918 р. Правління тричі на рік підвищувало платню працівникам на 50%, то у 1919 р. було прийняте рішення про скорочення штату.
Виникали труднощі й з комплектуванням фондів бібліотеки. Правління було вимушено вжити додаткових заходів щодо збереження фондів. Збільшилася застава на літературу, що видавалася додому. У 1920 р. застава на 1 книгу збільшилася з 50 до 200 крб. для жителів міста і з 250 до 500 крб. для приїжджих. Складалися списки рідкісних і цінних видань, заборонених до видачі додому. Запис до бібліотеки здійснювався тільки при наявності посвідчення особи.
На 1 січня 1919 р. бібліотека нараховувала 3 745 передплатників, з них - 520 дітей. Усього було видано 166 305 примірників книг і 21 935 періодичних видань. Кількість читачів постійно збільшувалася і на 1 січня 1921 р. становила 6 153 чол., у тому числі 1 796 дітей.
У 1920 р. Правління закрило дитячий абонемент через незадовільний стан фонду: понад 80% книг потребувало реставрації, 600 примірників затримувалося читачами, 71 книга була загублена. Після закриття абонемента діти почали активно відвідувати читальню (до 150 дітей на день), щомісяця їм видавалося приблизно 4 000 примірників літератури.
У грудні 1920 р. Миколаївська громадська бібліотека була націоналізована і змінила свою назву на Миколаївську центральну бібліотеку. Керувати бібліотекою став завідувач, а не Правління. На 1 січня 1922 р. у штаті бібліотеки було 17 працівників, а у грудні того ж року їх залишилося тільки 5.
З 1924 р. бібліотека стала працювати з одним вихідним у понеділок. Місячна відвідуваність становила 2 300. Відкрилися пересувні пункти на заводі «Склопром» і біржі праці. Була створена бібліотечна рада й гурток самоосвіти.
З 1925 р. почав свою роботу гурток підтримки бібліотеки, членами якого стали 100 читачів. Завданнями гуртка були: пошук додаткових асигнувань для бібліотеки (платні вистави, вечори, лекції), участь у рекламі бібліотеки на сторінках місцевої преси, виконання технічної роботи. З ініціативи гуртка підтримки бібліотеки у квітні 1925 р. було відкрите нове приміщення читальні, а також створене консультаційно-довідкове бюро, де працювали 30 авторитетних фахівців різних галузей знань, допомагаючи усім, хто бажав, відбирати літературу.
Серед методів популяризації літератури у 20-ті рр. ХХ ст. у бібліотеці найпоширенішими були заняття читацьких гуртків різної тематики, рекомендаційні плакати та списки літератури політичного характеру, лекції. Бібліотека брала обов'язкову участь у всіх політичних кампаніях, що проходили у місті. У 1924 р. вона взяла участь у заходах, присвячених 60-річчю створення І-го Інтернаціоналу, 10-річчю початку імперіалістичної війни.
У 20-ті рр. йшов процес формування функцій бібліотеки відповідно до основних завдань того часу. Співробітники бібліотеки змогли зберегти її фонди та читачів. Позитивним моментом у роботі бібліотеки було створення читацьких об'єднань і збереження існуючих традицій щодо залучення громадськості до управління бібліотекою.
У 1938 р. Миколаївська центральна бібліотека одержала статус обласної. З цього часу вона є інформаційно-методичним і координаційним центром з питань бібліотекознавства й книгознавства для бібліотек усіх систем та відомств Миколаївської області.
У важкі окупаційні роки бібліотека працювала й обслуговувала читачів. Матеріали Миколаївського обласного архіву підтверджують цей факт. Згідно зі звітом бібліотеки за 1944 р., з 1 серпня 1941 р. по 3 березня 1944 р. її працівники обслужили 6 391 читача, видавши 65 158 примірників літератури. Умови існування бібліотеки були важкими. На вимогу окупантів з фондів була вилучена єврейська література. Під час окупації постраждала будівля і фонди бібліотеки. За офіційними даними сума збитку, нанесеного бібліотеці, склала 529 895 крб., у тому числі постраждало книжкове майно – на 514 325 крб., інвентар – 7 170 крб., будівля – 8 100 крб. і т. д. До 1941 р. фонд бібліотеки нараховував 156 тис. книг, а за час окупації Миколаєва бібліотека втратила згідно з різними даними від 21 до 27 тис. томів.
Втрати могли бути набагато більшими, якби не самовідданість працівників бібліотеки. Вони ховали у підвалі і маскували у стелажах книги та періодичні видання. Бібліотечні працівники Л. Бабкова, О. Прокоф'єва, 3. Юрченко були нагороджені медалями «За доблесну працю у Великій Вітчизняній війні 1941-1945 рр.».
У газеті «Бугская заря» за вересень 1945 р. повідомлялося, що в обласній бібліотеці налічується 168 тис. томів технічної, наукової та художньої літератури. Читальний зал обслуговував щодня 250-300 чол., абонементом користувалися 8 100 осіб на рік. Бібліотека обслуговувала по місту і районах області 40 точок.
З 1964 р. і по сьогоднішній день обласна бібліотека обслуговує своїх читачів у приміщенні по вул. Московській, 9, що приблизно у 10 разів більше, ніж попереднє.
З 19 травня 1968 р., згідно з постановою Ради Міністрів УРСР, Миколаївська обласна бібліотека носить ім'я Олексія Гмирьова.
На початку 70-х XX ст. у бібліотеці відкрилися нові відділи: патентно-технічної літератури, мистецтв, обслуговування працівників сільського господарства, літератури іноземними мовами, бібліографічний, міжбібліотечного абонемента.
У 1973 р. за зразкову роботу по підготовці до 50-річчя створення СРСР і проведені заходи у рамках Міжнародного року книги бібліотека була представлена на Виставці досягнень народного господарства СРСР у Москві.
У 1981 р. за багаторічну плідну роботу та з нагоди 100-річчя Миколаївської обласної універсальної наукової бібліотеки колектив був нагороджений Грамотою Президії Верховної Ради УРСР. Кращим бібліотекарям були вручені значки «За відмінну роботу».