«Paradoxe que cette poésie à la fois inactuelle et chargée de modernité. Homme du Boulevard, d'une société qui épuise ses derniers feux, Toulet ne fréquente pas Montmartre, ni Montparnasse. Il passe sans les comprendre à côté des mutations qui agitent le XX^e siècle naissant. Il est resté étranger au cubisme comme aux manifestations de l'avant-garde littéraire. À une époque où on proclame que poésie est création et où le poème éclate en calligrammes ou en mots en liberté, il s'enferme dans la prosodie la plus précise et ne veut voir dans l'art des vers qu'un aimable divertissement.
Il n'est cependant pas hors de son temps et son œuvre est l'expression d'une forme de la modernité des années 10 et 20. Non par le décor, car s'il met en poésie les taxautos ou le bar de l'Élysée-Palace, il n'abuse pas de ce pittoresque facile. Mais la défiance à l'égard des entraînements de la sensibilité et de la passion, le refus des facilités du verbe et de l'éloquence, le masque de l'humour et de l'enjouement "aigre-doux", la volonté de n'être pas dupe et de ne pas céder à la démesure, tout cela répond à un état d'esprit et à une attente. Valéry aussi se méfie des transports, qui transportent mal. Et c'est en Toulet que les jeunes fantaisistes de 1911, Derème, Carco, Pellerin, Vérane, trouvent leur guide et leur modèle : Les Contrerimes, si elles avaient paru en 1913 ou 1914 dans la "Collection des Cinq" (entendez : les cinq fantaisistes, parmi lesquels Jean-Marc Bernard avait pris la place de Vérane) , auraient sans doute eu un écho considérable ; mais la défection de l'éditeur en décida autrement, et Toulet mourra sans avoir vu paraître le livre auquel sans doute il tenait le plus.»
Michel Décaudin.