Родился в деревне Филиппово, ныне Бутурлинского муниципального округа Нижегородской области, в крестьянской семье. После окончания в 1911 году церковно-приходской школы начал трудовую деятельность в Санкт-Петербурге в акционерном обществе «Сименс и Гальске» учеником фабрики «Отто Кирхнер». С 1913 года работал на электромеханическом заводе «Гейслер», затем – служащим в управлении бывшими частными банками. В мае 1916 года был призван в армию рядовым 180-го запасного пехотного полка в Петрограде. Участник Февральской революции 1917 года. В Красной Армии служил с февраля 1918 года. В том же году окончил 2-е Петроградские артиллерийские командные курсы. В Гражданскую войну – командир артиллерийской батареи, участвовал в боях на Северном и Западном фронтах. После окончания войны командовал артиллерийским дивизионом, затем полком, был начальником артиллерии дивизии и корпуса. Окончил Военную артиллерийскую школу (1925 г.), Артиллерийские курсы усовершенствования командного состава РККА (1929 г.), Военную академию им. М.В. Фрунзе (1934 г.) и курсы усовершенствования высшего начальствующего состава РККА (1939 г.). В Великую Отечественную войну генерал-майор артиллерии Казаков вступил начальником артиллерии механизированного корпуса, в июле 1941 года был назначен начальником артиллерии 16-й армии Западного фронта. С июля 1942 года – начальник артиллерии Брянского, а с октября – Донского фронтов. С февраля 1943 года – командующий артиллерией Центрального, затем 1-го Белорусского фронтов. Участвовал в планировании и ведении оборонительных и наступательных операций на Курской дуге и в битве за Днепр, умело руководил боевыми действиями артиллерии в Белорусской (операция «Багратион»), Висло-Одерской и Берлинской стратегических операциях. Для борьбы с немецкими танками предложил идею комбинированных противотанковых опорных пунктов – двойной огневой вал, в которых взаимно дополняли друг друга огонь противотанковой и тяжёлой артиллерии, а также ружейно-пулемётный огонь против вражеской пехоты. Впоследствии создание таких опорных пунктов стало обязательным требованием в организации обороны во всей действующей армии. Звание Героя Советского Союза присвоено 6 апреля 1945 года. С июля 1945 года – командующий артиллерией Группы советских оккупационных войск в Германии. В 1950 – 1958 годах – первый заместитель командующего, командующий артиллерией Советской Армии. В 1958 – 1965 годах – начальник Войск противовоздушной обороны Сухопутных войск, будучи первым начальником этого нового рода войск, провёл их становление на высоком уровне. С 1965 года – военный инспектор-советник Группы генеральных инспекторов Министерства обороны СССР. Маршал артиллерии (11.03.1955). Депутат Верховного Совета СССР 2-го созыва (1946-1950 гг.). Жил в Москве, похоронен на Новодевичьем кладбище. Автор ряда книг: «Артиллеристы Советской Армии» (1956), «Роль артиллерии в защите социалистической Родины» (1959), «На переломе» (1962), «Артиллерия, огонь!» (1968). Награды: ордена Ленина (08.10.1942, 21.02.1945, 06.04.1945, 30.07.1958), Красного Знамени (12.04.1942, 27.08.1943, 03.11.1944, 24.06.1948, 22.02.1968), Суворова 1-й (29.07.1944, 18.11.1944, 29.05.1945) и 2-й (02.10.1943) степени, Кутузова 1-й степени (08.02.1943), Красной Звезды (16.08.1936), медали. Память: его имя носят улица и сквер в Московском районе Нижнего Новгорода, которая берёт свое начало на пересечении с Московским Шоссе и заканчивается на пересечении с улицей Гордеевская. Имя Казакова носит улица в посёлке городского типа Бутурлино Нижегородской области, а в селе Филиппово установлен бюст.