Karl von Rouvroy naît en 1770, à Großenhain, en Saxe. Son père est le Feldzeugmeister Johann Theodor von Rouvroy, Sans douter impressionné par l'exemple de son père, il entre, après avoir terminé ses études, dans l'artillerie impériale. Il participe, aux cotés de son père, à la guerre contre les Turcs. A Berbir, en 1789, il place une batterie de si belle façon qu'il obtient un résultat qui lui vaut d'être nommé Oberstlieutenant. Il ne se comporte pas avec moins de compétences durant la guerre des Pays-Bas, durant laquelle l'état-major tire ses meilleurs résultats de l'utilisation de l'artillerie.  C'est en particulier le cas à Neerwinden, le 18 mars 1793, durant laquelle Rouvroy, qui commande alors l'artillerie, réussit non seulement à faire taire les pièces françaises, mais également, par un placement judicieux de ses canons, à stopper l'avance des Français. Il se fait ensuite remarquer aux sièges de Valenciennes (25 mai - 27 juillet 1793), Le Quesnoy (19 juillet - 13 septembre 1793), dont il est chargé d'apporter à la cour de Vienne l'annonce de la chute. Il est alors promu Oberst au 3e régiment d'artillerie. Il est également décoré de la Croix de Chevalier de l'Ordre de Marie-Thérèse.

Rouvroy continue de se distinguer, à Barlaimont, par exemple, où il a une cheval tué sous lui et est blessé. Puis au siège de Mannheim, en 1795. de Nouveau, le 22 novembre 1796, lors de l'attaque de Kehl par les Français, il est de nouveau blessé, enfin à Hüningen (27 novembre 1796 - 1er février 1797), où il est à la tête de l'artillerie lors du siège de la tête de pont. C'est après cette dernière action qu'il est nommé General-Major.

En octobre 1800, Rouvroy est promu Feldmarschall-Lieutenant et, en septembre 1804, il devient propriétaire ("Inhaber") du 3e régiment d'artillerie.

Durant les campagnes de 1805 et 1809, Rouvray est directeur de l'artillerie de l'armée d'Allemagne. A Aspern (21-22 mai 1809), il s'oppose au passage des français sur la rive gauche du Danube. A Wagram (5-6 juillet 1809), il commande l'artillerie, jusqu'à ce qu'il soit blessé et remplacé par Smola. La belle conduite de l'artillerie durant cette bataille sera reconnue par l'archiduc Charles dans sa Relation : "L'artillerie, sous le commandement du Feldmarschall-Lieutenant Rouvroy et le colonel Smola, est restée fidèle à sa réputation".

Karl von Smola décède le 15 novembre 1816, à l'âge de 66 ans.