Родился 1 сентября (20 августа) 1871 года в многодетной семье коллежского асессора. Детские годы прошли в Тобольске и Тюмени, поскольку отец был сослан в Сибирь за причастность к польскому освободительному движению.
С 1881 года Андрей Лабинский пел в церковном хоре Софийского собора Тобольска. Переехав в Тюмень, стал солистом хора Знаменской церкви. Окончил в Тюмени Александровское реальное училище. Играл на многих музыкальных инструментах, участвовал в любительских концертах. Пению обучался в 1895-1899 годы в Петербургской консерватории (класс С. Габеля и В. Самуся; сценическому мастерству у О. Палечека).
Андрей Лабинский обладал ровным, гибким голосом приятного (завораживающего) мягкого тембра и широкого диапазона (брал верхнее фа), кроме того имел яркую сценическую внешность. В его исполнении лирическая интонация сочеталась с драматической силой и эмоциональностью. Уделял большое внимание слову, добивался соответствия музыки и сценарного воплощения
В годы обучения в консерватории пел в московском Синодальном хоре, с 1896 года – в хоре петербуржского Мариинского театра. С 1901 года много гастролировал по городам России, а также зарубежным странам – Франции, Германии, Италии, Японии. С 1912 по 1919 год – солист московского Большого театра, на сцене которого спел 28 партий. В 1920-1922 и 1923-1924 годы преподавал в Московской консерватории и в Институте музыкальной драмы. С 1941 года – педагог-вокалист в Большом театре.
Оперный репертуар Андрея Марковича Лабинского насчитывал 34 партии. Среди них: Ленский, Герман, Альмавива, Фауст, Хозе, Рауль, Баян, Лыков, Садко, Радамес, Лоэнгрин и др. Записал на пластинки около 300 произведений.
Лабинский трагически погиб во время первой бомбардировки Москвы в августе 1941 года.