Narodil se 12. dubna 1843 v Žatci, kde také absolvoval obecnou školu i gymnázium. K dalšímu studiu se odebral do Prahy a studia filosofie i teologie absolvoval pod patronací strahovských premonstrátů. V roce 1768 dosáhl doktorátu filosofie a o dva roky později byl vysvěcen na kněze. V letech 1771 až 1773 byl správcem strahovské knihovny a numismatického kabinetu, pak působil jako učitel filosofie i teologie. V roce 1780 byl jmenován správcem univerzitní knihovny v Praze.

V pražském Klementinu byla tehdy jediná veřejná knihovna v Čechách a Karel Raphael Ungar ji proměnil v nejvýznamnější kulturní zařízení v zemi. Zavedl evidenci knih, která je v podstatě dodnes v platnosti. Zejména v době, kdy císař Josef II. rušil kláštery, se ukázalo, že je mužem na svém místě. Zachránil množství knih, které by jinak byly zničeny, a fond knihovny rozmnožil trojnásobně.

Velmi významná byla zvláště jeho snaha soustředit zde veškeré české knihy, a to i ty, které v té době „ideologicky“ nevyhovovaly. Zajistil si tím respekt předních českých vlastenců, s nimiž úzce spolupracoval. Osvědčil se i jako vysokoškolský pedagog a ve dvou obdobích zastával významné akademické funkce. V letech 1786-1788 byl děkanem filosofické fakulty, ve školním roce 1789-1790 dokonce rektorem pražské univerzity. Býval aktivním členem České společnosti nauk. Souhlas s josefinskými reformami manifestoval tím, že v roce 1788 vystoupil z řádu a považoval se pak za „nejsvobodnějšího osvícence“ v Čechách.