Бердичевский родился в Меджибоже в хасидской семье раввина Мойше-Арона, ученика и последователя рабби Рафаэля из Бершади, известного как «Рефул дер эмесер» (идиш: Рефул-правдивый). Рано увлёкся идеями движения Гаскала.
В 1890 году переехал в Германию, учился в Бреслау два года в еврейской семинарии и университете.
С 1892 года проживает в Берлине, где занимается наукой о еврействе (Иудаика), a также Ницше и Гегелем. Выступает со критическими статьями о идеологии Ахад-ха-Ама, Гаскалы и сионизма.Продолжал обучение в Берне., затем снова провёл четыре года в Берлине (1896—1900), где опубликовал множество статей на иврите с призывами к переоценке ценностей и расширению горизонтов ивритской литературы.
В 1900 году женился на Рахили Ромберг, она много помогала литературной работе мужа.
В 1903 году у них родился сын Иммануэль.После пребывания в Варшаве, Бердичевский вновь оказался в Бреслау, где написал свои самые известные произведения (1901-1911 годы). Затем — снова Берлин. Во время Первой мировой войны и после дела пошли хуже — ограничения в перемещении для граждан России, пошатнувшееся здоровье. Тяжёлым ударом для Бердичевского было известие о гибели отца во время погрома.Умер в 1921 году и похоронен на Еврейском кладбище в Вайсензее в Берлине.