Karierę literacką rozpoczął jako naturalista, dziełami takimi jak Marthe czy Histoire d'une fille (1876). Jego najsłynniejsza powieść, À rebours (Na wspak), 1884, w której występował pojedynczy bohater, diuk des Esseintes, wyłamała się z konwencji naturalizmu i stała się przykładem literatury dekadenckiej. Na wspak zyskała złą sławę podczas procesów Oscara Wilde'a w 1895, kiedy to oskarżyciel odwołał się do książki i określił ją jako "sodomiczną". W 1891 wydanie Là-Bas wzbudziło zainteresowanie, gdyż książka opisywała zjawisko satanizmu we Francji lat 80. XIX wieku. Jego późniejsze dzieła, En Route (1895) i La Cathédrale (1898) były inspirowane katolicyzmem. Huysmans był również znany jako krytyk sztuki, co znalazło wyraz w dziełach L'Art moderne (1883) i Certains (1889). Przychylnie odnosił się do impresjonizmu, zwłaszcza spod znaku Moneta. Był członkiem założycielem Akademii Goncourtów.