Арильд Андерсен родился 27 октября 1945 года в Лиллестрёме.
С 1961 года по 1964 играл на гитаре в местной команде The Riverside Swing Group. Затем перешёл на контрабас и переехал в Осло.
В первое время выступал на концертах и фестивалях в составе трио Роя Хелвина.1967—1973В 1967 году стал участником квартета Яна Гарбарека, куда также вошли Тери Рипдал и Йон Кристенсен.
В составе коллектива получил большую известность. Выступал вместе с Карин Крог, Кетилем Бьёрнстадом и Джорджем Расселлом. Часто играл вместе с американскими джазовыми артистами, во время их концертов в Норвегии. Его контрабас звучал на выступлениях Фила Вудса, Декстера Гордона, Чика Кориа, Шейлы Джордан, Сонни Роллинза и других.1974—1991В 1973—1974 годах Андерсен путешествовал по США, где работал вместе со Стивом Куном, Полом Блеем и Стэном Гетцем. Возвратившись домой, он собрал первую собственную команду музыкантов, просуществовавшую до 1979 года. Кроме того, шесть лет был музыкантом джазовой вокалистки Радки Тонефф (англ.)русск..
В 1980 годах основал группу The Arild Andersen Quintet, позже переименованную в Masqualero, где играли Нильс Петтер Молвер, Йон Кристенсен, Йон Бальк и Тор Брюнберг. Последний альбом коллектив записал в 1991 году.1992—2015Трио Арильда Андерсена на фестивале в ТурцииПервую половину 1990-х годов музыкант практически полностью посвятил своему коллективу. Много экспериментировал в области соединения джаза и этнической музыки. По состоянию на 2014 год в качестве лидера коллектива, состав которого неоднократно менялся, он записал почти двадцать альбомов.
В январе 2009 года, по версии французской Академии джаза, Андерсен был признан музыкантом Европы 2008 года. А в 2010-м на джаз фестивале в Осло ему вручили ещё одну престижную награду — Ella Award.
В 2010 году впервые посетил с концертом Японию. А за год до этого — Россию; выступал в Москве со своим трио в рамках Moscow Jazz Open.