W czasie pobytu w Pradze i Dreźnie miał też okazję zapoznać się z muzyką symfoniczną i operą. Po osiedleniu w Warszawie kontynuował naukę gry na skrzypcach, równocześnie studiując harmonię. Obok nauki gry i kompozycji studiował na Uniwersytecie Warszawskim nauki przyrodnicze, a następnie filozofię w Berlinie. Już w czasie studiów rozpoczął komponowanie. Zajmował się także publicystyką muzyczną. Po powrocie do Warszawy w 1901 ukończył studia. Dorobek Karłowicza, w którym poczesne miejsce zajmuje poemat symfoniczny, zapewnił mu miano „najwybitniejszego symfonika polskiego”. Tatry poznawał Karłowicz od 1889 r., lecz systematyczną działalność górską rozpoczął od 1902 r. W roku 1907 r. osiadł na stałe w Zakopanem. Działał w Towarzystwie Tatrzańskim. Był znakomitym taternikiem. Wszedł na wiele szczytów. Był również jednym z pionierów narciarstwa, które uprawiał od 1907 r. i działaczem Zakopiańskiego Oddziału Narciarzy (ZON). Dokonał m.in. pierwszego przejścia na nartach z Hali Gąsienicowej przez Liliowe, Zawory i Koprową Przełęcz do Szczyrbskiego Jeziora. Pasjonował się fotografiką, jego fotografie tatrzańskie o wysokim poziomie artystycznym zostały zebrane w pięknie wydanym albumie pt. „Karłowicz w Tatrach”. 8 lutego 1909 zginął w Tatrach przysypany lawiną na wschodnich zboczach Małego Kościelca, w trakcie wycieczki narciarsko-fotograficznej. W miejscu tym stoi obecnie kamień – pomnik zwany Kamieniem Karłowicza z napisem: „Non omnis moriar” (nie wszystek umrę. Został pochowany na Cmentarzu Powązkowskim w Warszawie.
