Der Spross einer 1870 nach Paris übersiedelten elsässischen Protestantenfamilie arbeitete, unterbrochen vom Wehrdienst, ab 1897 im Maler- und Spiegelgeschäft seiner Eltern mit und entwarf Tapeten und gestaltete erste Möbelentwürfe, das er 1907 nach dem Tod des Vaters übernahm. Im selben Jahr begann Ruhlmann mit dem Möbeldesign. 1913 begann Ruhlmanns große Karriere auch Innengestaltungen anbot und auf dem Herbstsalon einen Sekretär ausstellte.

1919 tat er sich mit dem Maler Pierre Laurent zusammen und die neue Firma „Ruhlmann & Laurent“ erarbeitete sich einen internationalen Ruf für hochwertige Handwerksarbeit und innovatives Design.^[1] Da er selbst kein Schreiner war, wurden seine Möbel von ausgelagerten (zwischen 1913 und 1923 von „Haentges Frères & Fenot“) oder eigenen Werkstätten (ab 1927 betrieb er eine in sechs Stockwerke eingeteilte eigene Werkstatt), jedoch immer exakt nach seinen Plänen hergestellt.

Wohnzimmerensemble für den Bildhauer Joseph Bernard, 1920.

Er verwendete edle Hölzer wie Macassar-Ebenholz, Ambrosia-Ahorn, Amerikanische Wurzelnuss und Veilchenholz und versah es mit Intarsien aus Elfenbein, Schildpatt und Chagrin.^[1] Die meisten seiner Arbeiten entstanden als Auftragswerke. Sein Stil zeigt seine Liebe zum Neoklassizismus des 18. Jahrhunderts, gegen Ende seiner Karriere experimentierte er aber auch mit moderneren Gestaltungen wie Möbeln aus Glas und verchromtem Stahl. Die Schwere vieler seiner Stücke wurde durch die Verwendung von Beinen ausgeglichen, die auf halber Höhe eines Schranks, Tisches oder einer Kommode angebracht waren, anstatt von unten zu stützen.^[1]

Ruhlmanns Designer auf einer Betriebsfeier, ca. 1931.

1925 wurde ihm auf der Pariser Art déco-Ausstellung ein ganzer Pavillon gewidmet, das von seinem Freund Pierre Patout entworfene „Haus des Kunstsammlers“. Es enthielt einen Tisch und ein Bücherregal aus massivem Makassar-Ebenholz mit Metallrahmen und einen großen, mit Elefantenleder bezogenen Lehnstuhl.^[1] 1927 gestaltete Ruhlmann den Festsaal und den Verhandlungssaal der Pariser Handelskammer und den Teesalon des Passagierschiffes Île-de-France. Ruhlmann dekorierte auch den Élysée-Palast und erhielt weitere prestigeträchtige Aufträge. Ein solcher Auftrag war zum Beispiel der 1929 durch den deutschen Innenarchitekten Eckart Muthesius für Schreibmöbel im Palast Manik Bagh des indischen Maharadscha von Indore in dessen Hauptstadt Indore.^[2] Es enthielt modulare Möbel aus Makassar-Ebenholz, die zu Regalen, Vitrinen, Kommoden oder Raumteilern zusammengebaut werden konnten.^[1]

Nach seinem Tod wurde nach Ruhlmanns Wunsch die Firma aufgelöst.