Отец - Алексей Зиновьевич Зиновьев (1801—1884), из мещан, известный педагог, переводчик, автортрудов по истории словесности, античной истории, статский советник
Получил первоначальное домашнее образование
В 1848 поступил в Лазаревский институт восточных языков в Москве (в то время частное учебное заведение). Впоследствии институту были присвоены права гимназии, и в 1851 Зиновьев, в возрасте 11 лет, окончил полный гимназический курс с награждением серебряной медалью, а в 1853 — курс специальных классов Лазаревского института с правом на чин 12-го класса.
Прослушав в течение нескольких месяцев курс старшего инженерного класса Константиновского межевого института в Москве, Зиновьев в июне 1856 в чине губернского секретаря поступил на службу в первый корпус, выдержал выпускной экзамен, произведен в подпоручики корпуса межевых инженеров с оставлением для занятий в обсерватории Константиновского межевого института и его офицерском классе.
В 1858 командирован в состав Алтайской научной экспедиции, где пробыл около года, а затем в начале 1860 на 2,5 года командирован за границу для ознакомления с устройством межевой части, а также для усовершенствования в науках. Возвратившись из командировки в конце 1862, Зиновьев занимался разработкой материалов для преобразования межевой части в России, а в начале 1864 причислен к МВД и перешел на службу в Северо-Западный край. Назначенный председателем поверочной комиссии, действовавшей в Сокольском и Белостокском уездах, Зиновьев, по окончании составления выкупных актов в этих уездах, летом 1866 назначен членом Гродненского губернского по крестьянским делам присутствия, а в 1869 членом комиссии по крестьянским делам при Виленском генерал-губернаторе. В этой должности, а затем в должности старшего чиновника по крестьянским делам при Виленском генерал-губернаторе, Зиновьев неоднократно проводил ревизии крестьянских учреждений Виленской, Ковенской и Гродненской губ. Одновременно состоял правителем дел Северо-Западного отдела Императорского Русского географического общества и руководил проведенной в апреле 1875 однодневной переписью г.Вильно.
В 1876, в чине статского советника, назначен управляющим госуд. имуществами Виленской губ.
С апреля 1880 действительный статский советник.
В 1882—1884 Сувалкский гуернатор
1884—1887 - Петроковский губернатор
05.02.1887—23.12.1893 - Тульский губернатор. В этой должности вводил в действие в губернии Положение о земских участковых начальниках от 12 июля 1889; немало трудился по обеспечению губернии продовольствием при постигшей ее двух последовательных неурожаях 1891 и 1892. За время управления Зиновьевым губернией в Туле открыты детский приют, приют для малолетних преступников и училище для слепых, а в г. Епифани открыта община сестер милосердия Красного Креста. Один из помещиков Тульской губ. (гр. Л.Н.Толстой) характеризовал Зиновьева как карьериста.
В августе 1889 произведен в тайные советники.
1901—1902 Могилёвский губернатор
1901—02 директор Хозяйственного департамента МВД.
В 1902—04 товарищ министра внутренних дел (при министре В.К.Плеве). На этом посту а 1903 и 1904 провел подробную ревизию самоуправления Санкт-Петербурга, земских учреждений Московской, Курской, Виленской губ., имевшую целью устранение "третьего элемента" от активного участия в земской деятельности и борьбу с земским либерализмом.
В декабре 1903 назначен сенатором.
С сентября 1904 член Государственного совета; заседал в Департаменте гражданских и духовных дел, а с 1906, после преобразования Государственного совета, — в 1-м Департаменте Государственного совета, входил в бюро группы центра.
В июне 1906, в день 50-летия службы, произведен в действительные тайные советники.
Умер 28 марта 1917 г.
Жена - Зиновьева Мария Ивановна. Дочери: Надежда (1870—1942) и Мария.
Действительный тайный советник (1906)
Государственные награды:
орден Св. Станислава 1-й степ. (1883)
орден Св. Анны 1-й степ. (1886)
орден Св. Владимира 2-й степ. (1895), орден Белого Орла (1900)
орден Св. Александра Невского (1910, бриллиантовые знаки к ордену— 1914)
знак отличия беспорочной службы за 50 лет (1908)
медали
Сочинения (неполный перечень):
"Вильна, по переписи 18 апреля 1875 г."
"Краткие сведения по истории межевания в России"
"Очерк Приамурского края и его значения для России".