Ахо родился в городе Тимминс провинции Онтарио в Канаде в 1941 году.
Он получил степень бакалавра по прикладной физике в университете Торонто, а степень доктора философии по электротехнике и информатике — в Принстонском университете.
В 1967—1991 годах Ахо занимался научно-исследовательской работой в Bell Labs, а в 1991—1995 годах — в Bellcore.