Родился в Эрзуруме в семье османского офицера.
В 1915 году, в возрасте 20 лет поступил на службу в армию Османской империи. Получил военное образование в стамбульской военной школе Кулели по специальности артиллерист.Участник галлиполийской кампании турецкой армии под руководством Ататюрка, затем воевал в Палестине и Сирии, попал в плен к британцам, в котором пробыл три года. После Первой мировой войны примкнул к Ататюрку и участвовал в греко-турецкой войне. Командовал полком, бригадой, был начальником военной школы, командиром корпуса, затем служил в Генеральном штабе армии. За успехи в войне против Греции был награждён медалью Независимости.
В 1929 году окончил Военную академию.
В 1946 году получил звание бригадного генерала, в 1957 году — генерала армии.
В августе 1958 года генерал Гюрсель был назначен командующим сухопутными силами Турции. Гюрсель не участвовал в политической жизни страны и не принадлежал ни к одной из политических партий, но в начале мая 1960 года подал в отставку со своего поста ввиду несогласия с приказами премьер-министра Аднана Мендереса, использовавшего армию для подавления антиправительственных студенческих демонстраций в Анкаре. Отставка не была принята, однако Гюрсель был отправлен в отпуск.