Naukę gry na skrzypcach rozpoczął w wieku pięciu lat pod kierunkiem ojca. W 1799 wraz z rodziną przeniósł się do Lwowa. Tu grał jako koncertmistrz w prowadzonej przez ojca orkiestrze pałacowej hr. Adama Starzeńskiego. Dodatkowo zainteresował się wiolonczelą i równie szybko jak na skrzypcach zdobył umiejętność gry na tym instrumencie. W 1809 objął stanowisko koncertmistrza, a w 1811 został kapelmistrzem orkiestry teatru operowego. W 1814 wyjechał do Wiednia, gdzie spotkał się z Ludwikiem Spohrem, niemieckim skrzypkiem i kompozytorem. Za jego namową Lipiński zdecydował się na karierę skrzypka-wirtuoza, zrezygnował z dotychczasowej pracy w lwowskim teatrze i poświęcił się wyłącznie doskonaleniu techniki skrzypcowej oraz przygotowaniu repertuaru.
W 1817 Karol Lipiński wystąpił we Lwowie, a następnie wybrał się w podróż artystyczną przez Węgry i Chorwację do Włoch - koncertował w Wenecji, Mediolanie, Padwie, Weronie i Piacenzy. W Piacenzy w kwietniu 1818 dwukrotnie wystąpił wspólnie z Niccolo Paganinim. Podczas kilkuletniego tournée artystycznego koncertował we Lwowie, Kijowie, Krzemieńcu, Kamieńcu Podolskiego, Wilnie, Krakowie, Wrocławiu, Poznaniu, Lipsku, Berlinie, Moskwie i Petersburgu, wszędzie zdobywając wielki aplauz. Na przełomie 1827-28 wystąpił z koncertami w Warszawie, po których otrzymał nominację na pierwszego skrzypka Dworu Królestwa Polskiego, a w 1831 Dworu Carskiego. W Warszawie ponownie koncertował w maju 1829 podczas uroczystości koronacji cara Mikołaja I - wówczas to znów zagrał z Paganinim.
W 1830 Lipiński na trzy lata zawiesił działalność koncertową i poświęcił się dalszemu doskonaleniu gry. W następnych latach wznowił tournée artystyczne po całej Europie, grał w Lipsku, Frankfurcie nad Menem, Paryżu (gdzie w urządzeniu koncertu pomógł mu Fryderyk Chopin), Londynie, Manchesterze, Wrocławiu. Po występach w Wiedniu, jako dowód uznania dla mistrzowskiej gry, otrzymał tytuł honorowego obywatela tego miasta.
W 1839 osiadł na stałe w Dreźnie, gdzie przez dwadzieścia lat pełnił funkcję koncertmistrza orkiestry króla saskiego Fryderyka Augusta. Uczestniczył także w wielu koncertach symfonicznych i kameralnych (m.in. grał z Ferencem Lisztem), podróżował do Lwowa, Kijowa i Warszawy oraz zajmował się pracą pedagogiczną (w 1845 opiekował się 14-letnim Józsefem Joachimem, zaś w 1848 13-letnim Henrykiem Wieniawskim).
Od 1846 z powodu choroby reumatycznej zaczął ograniczać stopniowo działalność koncertową. W 1854, za wybitne zasługi dla dworu królewskiego, został odznaczony Rycerskim Orderem księcia Alberta. Po przejściu na emeryturę w 1861 przeniósł się do swojego majątku Urłów koło Lwowa. Tu zorganizował szkołę muzyczną dla uzdolnionych dzieci chłopskich.