Мигель Грау родился в городе Пайта в семье Дона Хуана Мануэля Грау и Беррио, колумбийского офицера, прибывшего в страну во время войны за независимость Перу вместе с войсками Симона Боливара, который позже остался в стране, купил дом в Пайте и работал на таможне.
В юности Мигель Грау поступил в Навигационную Школу в Пайте, а первое своё плавание совершил в 9 лет на торговом судне «Tescua» следовавшего в Колумбию, но шхуна затонула, и он вернулся в Пайту. За следующие 10 лет, набираясь опыта, молодой Мигель Грау совершил множество плаваний на торговых судах в Океанию, Азию и Европу.
В 1853 году Грау оставил торговый флот и поступил на службу в военно-морской флот Перу в ранге кандидата в офицеры. Его карьера была быстрой и блестящей, в 1863 году он получил звание лейтенанта, а двумя годами спустя старшего лейтенанта.
В 1864 году Мигель Грау был отправлен в Европу для наблюдения за строительством судов для перуанского флота, одним из таких судов был знаменитый монитор «Уаскар» .После его возвращения в Перу он служил в объединённой флотилии Перу и Чили в войне против Испании, пытавшейся вернуть свои бывшие колонии.
В 1865 году Грау получил звание капитана.Вскоре он ненадолго покинул службу на флоте, поскольку был избран в Конгресс Перу от его родного города Пайта.
В 1868 году после возвращения на флот он был вновь повышен в звании и назначен командовать «Уаскаром» .
В 1876 году вновь избрался в Конгресс Перу от Пайты.