Родился в 1939 году в Иерусалимском районе Бейт ха-Керем (англ. Beit Hakerem) в семье Моше-Давида и Сары Гаон. Его отец родился в Боснии (Австро-Венгерская империя) в 1889 году и после иммиграции в Палестину работал учителем иврита. Позже он был послан в Измир для преподавания иврита в еврейской общине. Там он познакомился со своей будущей женой Сарой Хаким.
В дальнейшем пара перебралась в Палестину.
В 1957 году Гаон начинает службу в армии и зачисляется в ансамбль Нахаль (ивр.), созданный в 1951 году из членов молодёжных движений и групп («гаръиним» ивр. ) Нахаль.
Это было началом его актёрской и певческой карьеры.
На фестивале израильской песни В 1969 году две песни в исполнении Йорама Гаона заняли призовые места: первое место — Баллада о санитаре (стихи Дана Альмагораruen, музыка Эфи Нецераruhe), второе место — «Дуб» (ивр. , стихи Йорама Тахарлева, музыка Мони Амарилиоruhe).
В качестве актёра участвовал во многих израильских фильмах.
В фильме 1989 года «Из Толедо в Иерусалим» (ивр. ) исполняет на ладино еврейские религиозные песни и романсы, а также рассказывает об изгнании евреев из Испании.