В 1952 году исполком Тюменского городского Совета решил: «Обязать председателя Сталинского райисполкома тов. Гончарова и начальника отделения железной дороги тов. Борцова в 3-дневный срок предоставить помещение для открытия библиотеки в железнодорожном поселке им. Андреева». Библиотека № 2 получила помещение в здании по улице Привокзальной.
В 1957 году библиотека переехала в небольшое помещение в поселке Андреевский, по адресу: ул. Кривоноса, 2. Условия в новом здании были лучше, но из-за ограниченной площади работал только абонемент.
Вскоре библиотеку ждал новый переезд. В 1962 году для филиала выделили помещение по улице Мира, 31, где она и находится до сегодняшних дней. В 1967 году библиотеке присвоили имя писателя Н. А. Островского.
После городской централизации библиотек в 1976 году библиотека вошла в состав Централизованной городской библиотечной системы под официальным названием «Библиотека-филиал № 2».
В 1970-х годах библиотека тесно сотрудничала с кинотеатром «Октябрь». Перед началом сеансов библиотекари выступали с лекциями и обзорами литературы, активно работали с близлежащими школами.
Большие преобразования произошли в библиотеке в конце 1980-х годов. Здание отремонтировали и заменили мебель.
На базе филиала в 1994 году начал работу клуб «Тюменочка», заседания которого проходят по сей день.
В 2003 году филиал № 2 городской библиотечной системы и филиал № 2 детской библиотечной системы объединились под общим названием «Библиотека-филиал № 2 Централизованной городской библиотечной системы».
26 мая 2009 года библиотеке-филиалу № 2 присвоили имя поэта А. А. Гришина.
В марте 2012 года в библиотеке открылась музейная экспозиция «Меня на крыльях птица в мир принесла…», в честь Александра Гришина, по которой проводится экскурсия.
В октябре этого же года состоялась презентация документального фильма «Он слышал, как растет трава» о жизни и творчестве Александра Анатольевича Гришина.
21 ноября 2012 года библиотека-филиал № 2 имени А. А. Гришина отметила 60-летний юбилей.
Адрес: Тюмень, ул. Мира, 31.