Родился 8 марта 1876 года в Константинополе, в квартале Саматия. Отец был сапожником.
В неполные 7 лет поступил в училище Арамян, где и выявились его языковые способности: мальчик одновременно изучал армянский, французский и турецкий языки и за два года прошёл весь школьный курс. После этого, в 9 лет Грачья Ачарян поступил в училище Саакян и за четыре года с блеском окончил его. Уился также в училище Кедронакан. Высшее образование получил в Парижском и Страсбургском университетах, где он изучал языки и стал известен исследованиями в арменоведении.
В Сорбоне его учителем был Антуан Мейе.
В 1897 году был избран членом Парижского лингвистического общества.После завершения многолетного образования Грачья Ачарян работал учителем в Эчмиадзине, затем в Шуши, где встретил свою будущую супругу Арусяк. Вместе с 600 армянами, спасшимися во время Шемахинской резни, супруги перебрались в Тебриз.
В 1923 году он получил приглашение от властей Советской Армении преподавать в Ереванском государственном университете, где и проработал последующие 30 лет. После смерти в 1925 году первой жены Арусяк, Ачарян женился на одной из своих студенток Софик.29 сентября 1937 года он был арестован по обвинению в том, что он является английским резидентом и состоит в якобы действовавшей в университете контрреволюционной группе профессоров. Близкие Ачаряна спасли некоторые его рукописи, которые сложили в железный ящик и зарыли в саду района Нор Бутания. Суд приговорил Ачаряна к шести годам лишения свободы, но 19 декабря 1939 года он был освобожден за отсутствием состава преступления. Его восстановили в должности и правах.
Он вернулся на работу в университет.