Nacque nel nord del Jutland, e frequentò l'Università di Copenaghen, ottendendo una laurea in inglese, francese, e latino. In seguito studiò linguistica anche ad Oxford.

Jespersen fu professore d'inglese all'Università di Copenaghen dal 1893 al 1925. Fu il fondatore, insieme a Paul Passy, dell'International Phonetic Association. Era un vocal supporter ed un attivo sviluppatore di lingue artificiali internazionali sul modello dell'esperanto e per questo motivo fu coinvolto nella delegazione che creò la lingua artificiale Ido, e più tardi il Novial, considerato un suo miglioramento.