Давид Маркович Баринов родился 25 июня 1905 года в деревне Старые Батеки (ныне — Смоленского района Смоленской области) в семье крестьянина. Еврей.
В 1920-е годы работал в качестве рабочего.
В 1927 году Баринов был призван в РККА и в 1928 году окончил Тверскую кавалерийскую школу. После окончания школы командовал взводом, эскадроном, руководил полковой школой и штабом полка.
В ВКП(б) вступил в 1931 году.
С 1936 года Давид Баринов жил в Москве, где учился в Военной академии имени М. В. Фрунзе, которую окончил в 1940 году.Баринов в качестве помощника начальника разведотдела 3-го кавалерийского корпуса в 1939 году принимал участие в походе советских войск в Западную БелоруссиюВ ходе советско-финской войны в январе 1940 года майор Баринов вместе со своими разведчиками добыл важную информацию.