À rebours offre à Huysmans une place à part dans le paysage littéraire. En 1884, ce fut une déflagration. Barbey réutilisa la formule par laquelle il avait salué Les Fleurs du Mal : après un tel livre, l'auteur n'a plus qu'à choisir «entre la bouche d'un pistolet et les pieds de la croix». Mais cette formule ne rend pas compte de l'extraordinaire nouveauté du roman. Avec le personnage de Des Esseintes, Huysmans saisit l'essence de la fin-de-siècle : l'heure est à la névrose. S'il est bien le roman d'une génération, salué par Mallarmé, et inspirateur notamment du Portrait de Dorian Gray, À rebours opère une percée vers le XX^e siècle.
Cet arbre ne devrait pourtant pas cacher la forêt romanesque de Huysmans. Roman naturaliste, Marthe, histoire d'une fille (1876) – qui fut interdit en France – lui permet de se lier avec Zola, à qui est dédié Les Sœurs Vatard en 1879. Sac au dos (1877 et 1880) est une courte et burlesque épopée de la guerre de 1870. En ménage (1881) décrit l'itinéraire d'André Jayant, romancier raté, célibataire en proie à des «crises juponnières» : l'un des meilleurs romans de Huysmans, selon le héros de Soumission de Michel Houellebecq, qui s'y connaît. Puis vient le Folantin d'À vau-l'eau (1882). Il est Huysmans, l'homme moderne, M. Tout-Iemonde, personne. Il a renoncé à tout, sauf à se nourrir ; c'est l'«Ulysse des gargotes», disait Maupassant. À vau-l'eau est un très grand petit livre. Mais Huysmans suffoque dans le «cul de sac» naturaliste. À rebours marque le tournant que l'on sait. En rade (1887), c'est le rêve avant Freud, ou le passage du naturalisme au surnaturel. Là-bas (1891) est le roman du satanisme, et En route (1895) le livre de la conversion et une autobiographie spirituelle.