Вайнхебер вырос в детском доме.
До того, как стать писателем, он был рабочим, в период с 1911 по 1918 работал на почте.
В 1919 году начал писать для газеты The Musket.
В 1918 перешёл из католицизма в протестантство.
В 1920 году вышел первый сборник лирических стихов поэта «Der einsame Mensch» (The Solitary Man). Вайнхебер находился под влиянием творчества Райнера Марии Рильке, Антона Вильдганса и Карла Крауса. Дружил с коллегами по литературному цеху Мирко Елюшичем и Робертом Хольбаумом.
С 1931 по 1933 год и с 1944 года Вайнхебер являлся членом Нацистской партии.
С момента публикации сборника стихов «Adel und Untergang» Вайнхебер становится одним из ведущих поэтов своего времени. Восхищение критиков вызвал сборник «Wien wortlich» , который частично был написан на Венском диалекте. А сорок од, вошедших в Цикл «Zwischen Gottern und Damonen» 1938 года, считаются его поэтическим шедевром.
В последние годы войны Вайнхебер пристрастился к алкоголю.
В момент контрнаступления советских войск он впал в депрессию и покончил с собой, оставив однозначную предсмертную записку.