Né le 20 novembre 1772, Karl Karlovich Sivers reçoit une excellente éducation militaire, et obtient ses diplômes dans le corps des Ingénieurs de l'Artillerie. Il entre dans le régiment des Bombardiers en 1789, à l'âge de 17 ans. L'année suivante, il est transféré au 2e corps des Cadets, puis dans le 2e régiment d'artillerie Bombardier, avec lequel il prend part à la campagne de Pologne, en 1792. Il accompagne le général Anchef Krechetnikov, est promu lieutenant d'artillerie, et sert dans la mission diplomatique russe.

En 1795, il entre au régiment de cuirassiers Rostov, avec le grade de premier major. En 1798, il est promu lieutenant colonel, et est décoré de l'Ordre de Sainte Anne (3e Classe). L'année suivante, il est colonel. Pour des raisons inconnues, il est démis de ses fonctions au printemps de la même année. Il retrouve l'armée en décembre 1800, dans le régiment des cuirassiers Voinov. Le 28 mai 1803, il est fait major général, et commandant le régiment de dragons Novorossiiski, poste qu'il conservera jusqu'au 13 octobre 1814.

Sivers participe à la campagne de 1805, comme lieutenant colonel dans le corps d'armée Essen. En 1806 il est envoyé sur le théâtre d'opérations du Danube. Il participe à la prise de Khotin. En 1807, Sivers retrouve le front européen, combattant contre les Français  à Troschin, Stanislavov, Drengev, et sur l'Omulev, le Ruzhan et la Narew. En janvier 1808, il est décoré de l'ordre de Sainte Anne (1e Classe). L'année suivante, il participe à la campagne contre l'Autriche, commandant l'avant-garde à Pney, sur la Son, et se distinguant lui-même en prenant possession de Cracovie, en juin.

Le 16 février 1810, Sivers devient commandant de la brigade de la 4e division de cavalerie, tout en restant à la tête du régiment de dragons Novorossiiski. Il prend le commandement de la 4e division de division en 1812, attachée à la 2e Armée de l'Ouest de Bagration. En juillet,, il construit les ponts à Nikolaev pour la 2e Armée et couvre son mouvement sur Bobruisk. Il se distingue durant les marches forcées sur Moghilev, ses troupes faisant 80 miles en 36 heures. Il participe à la bataille de Moghilev, puis il suit Bagration à Smolensk, où il se bat le 16 août. Il prend le commandement de la 27e division d'infanterie et défend âprement ses positions. Le 17 août, il combat sous les ordres de Dokhturov, et rejoint la 2e armée durant sa retraite sur Dorogobouzh, où il commande le corps d'observation. Il prend alors le commandement de l'arrière garde de la 2e armée, combattant tout en retraitant, à Gzhatsk, Popovka, et Kolokoletsk. 

Il participe à la bataille de la Moskova, le 7 septembre, menant des contre attaques désespérées avec deux régiments de cuirassiers et un de dragons. Après la défaite, il est à Mozhaisk, Tatarin, et Chirikov. Le 1er novembre 1812, il est décoré de l'Ordre de Saint Georges (3e Classe). Le 15 décembre, il est nommé commandant de la cavalerie du corps d'armée de Wittgenstein.  Le 30 décembre, il passe le Niémen et occupe Königsberg. Le 8 février 1813, il s'empare de la forteresse de Pillau, occupée par une garnison française de 2.000 hommes. Le 20 février, il est nommé commandant de Königsberg, puis, le 14 avril, gouverneur militaire  de la Prusse orientale et de Königsberg. 

Le 1er novembre 1813, il est promu lieutenant général et le 13 septembre  1814 il est transféré de l'artillerie à la cavalerie. Il occupe son poste de gouverneur militaire encore deux années, étant décoré, pour ses services, de l'Ordre de l'Aigle Rouge (1e Classe)

En 1829, Sivers est nommé membre du tribunal militaire, où il servira jusqu'en 1830. En 1833, il est nommé au Sénat, puis, en 1837, il est nommé conseiller secret d'État (poste civil). Il est décoré en 1840 de l'Ordre de l'Aigle Blanc. Il occupe différentes fonctions au Sénat. Il prend sa retraite en 1853, passant le reste de sa vie dans son domaine.

Karl Karlovich Sivers décède le 30 mars 1856, à l'âge de 84 ans. Il avait épousé Helene Ivanovna Dunina, dont il avait eu trois fils (Emmanuel, Jacob, Alexander) et deux filles (Minodor and Sophia)