Карл фон Аппен родился в Дюссельдорфе в семье художников.
С 1918 года изучал сценографию при Городском театре во Франкфурте-на-Майне; в 1920—1924 годах там же учился в Школе прикладного искусства.
В 1921—1926 годах в качестве художника-декоратора работал в Городском театре и во Франкфуртской опере,В 1926 году Аппен поселился в Берлине, где до 1929 года жил в качестве свободного художника; в дальнейшем как живописец и график, а также художник-декоратора работал в Дрездене, Дортмунде, Вюрцбурге, одновременно продолжая учёбу.
В 1932 году Аппен вступил в КПГ и после прихода нацистов к власти в 1933 году потерял работу. Участвовал в подпольной борьбе КПГ, в 1941 году был арестован, осуждён и помещён в лагерь в Нидерродене.
В 1945 году Аппен был освобождён из лагеря и с октября того года работал в Дрездене; в 1947 году основал при городской Высшей школе изобразительных искусств отделение сценографии, которое возглавлял на протяжении ряда лет.
В 1953 году началось сотрудничество Аппена с основанным Бертольтом Брехтом театром «Берлинер ансамбль» ; в 1954 году он переселился в Берлин и стал главным художником театра. Этот пост Аппен занимал до 1981 года, одновременно оформляя спектакли и в других театрах ГДР, а также в мюнхенском «Каммершпиле» и Национальном театре Лондона.Карл фон Аппен был женат на актрисе Мане Беренс. Похоронен в Дрездене.