Родился в Минске в семье этнических немцев. Его братьями были математик Оскар Андерсон (1887—1960) и фольклорист Вальтер Андерсон (1885—1962). Провёл юношеские годы в Казани, где его отец, Николай Андерсон[en] (1845—1905), был профессором и занимался финно-угорскими языками в Казанском университете. Там же Андерсон и учился, выпустившись в 1909 году с факультета математики и наук.
С 1910 по 1918 годы работает учителем физики в Самаре, с 1918 по 1920 — в Минске.
В 1920 году вместе с братом Вальтером переезжает в эстонский город Тарту.
В Тартуском университете в 1923 году получает степень магистра астрономии, а в 1927 году становится доктором наук, его диссертация посвящена физике солнечной короны. Проходит процедуру хабилитации в 1934 году.
В 1936 году получает должность профессора-ассистента в Тартусском университете. Как и большинство балтийских немцев, в конце 1939 году он переселяется в Германию, где некоторое время спустя, в санатории Мезериц-Обравальде (нем. Meseritz-Obrawalde), и умирает.Наиболее известна научная работа Андерсона, посвящённая верхнему пределу массы для белых карликов, опубликованная в 1929 году в Тарту. Сейчас эта величина носит название предел Чандрасекара.
В честь Андерсона называется уравнение состояний Стоунера-Андерсона, которое родилось из переписки Андерсона с Эдмундом Стоунером.