Йоханнес Дидерик Ван дер Ваальс родился 23 ноября 1837 г. в семье Якобуса Ван дер Ваальса, плотника, и Элизабет Ван дер Ваальс (в девичестве Ван-ден-Бург).После окончания школы Ван дер Ваальс работал учителем младшей школы в своём родном городе Лейден. Без получения допуска к учёбе в университете (Abitur, вольнослушатель), он посещал тем не менее с 1862 по 1865 гг. лекции и семинары в Лейденском университете. Таким образом ему удалось расширить свой сертификат учителя на области физики и математики в средней школе.
С 1864 г. он занял должность учителя в Девентере.
С 1866 г. работал в школе в Гааге, где впоследствии стал директором. После изменения законов у него появилась возможность продолжить обучение в университете.Удостоен Лейденским университетом учёной степени доктора философии в 1873 г. за диссертацию, признаваемую ныне классической: «Over de continuiteit van den gas- en vloeistoftoestand» (немецкий перевод появился в Лейпциге в 1881 г.). Джеймс Клерк Максвелл, сказал о работе Ван дер Ваальса: «Она сразу поставила его имя в один ряд с самыми выдающимися именами в науке» .
С открытием Амстердамского университета (1877) занимает в нём профессуру физики, и работает там с 1877 по 1908 г.