Julian Sitkovetsky naquit à Kiev dans une famille de musiciens. Il commença le violon à quatre ans, tout d'abord avec son père, puis avec le professeur David Bertie à l’École Centrale de Musique de Kiev. A l'âge de huit ans, il fut choisi pour jouer devant Jacques Thibaud, qui réalisait alors une tournée en URSS. L'année suivante, il joua le Concerto de Mendelssohn avec l'Orchestre Symphonique de Kiev et, en avril 1938 - lors du 25ème anniversaire de l'école - il fut choisi pour jouer le concerto de Tchaïkovski à Moscou.
Peu après la même année, il fut admis à l’École Centrale de Musique de Moscou, dans la classe de professeur Abram Yampolsky - qui comptait parmi ses élèves Leonid Kogan, Igor Besrodny et Rostislav Dubinsky. Pendant la Deuxième Guerre Mondiale, l’École fut déplacée dans la ville de Penza, où Julian Sitkovetsky décrocha son diplôme en 1943. A la fin de la guerre, en 1945, il revint à Moscou en même temps que le Conservatoire.
En décembre 1945, le Concours des Jeunes Musiciens d'URSS eut lieu à Moscou, et marqua le lancement des carrières de Julian Sitkovetsky, Mstislav Rostropovich et Sviatoslav Richter en URSS - tous les trois vainqueurs du Concours dans leurs catégories. Deux ans plus tard, Sitkovetsky arriva premier ex-aequo avec Leonid Kogan et Igor Besrodny au Festival de Prague des Jeunes Musiciens des Républiques Démocratiques Communistes. En 1950, il épousa Bella Davidovich, pianiste et gagnante du Concours de Piano Chopin en 1949, à Varsovie. Quatre ans plus tard, naquit leur fils unique, Dmitry.
Entre 1951 et 1955, Julian Sitkovetsky donna des concerts à Berlin, Varsovie, Budapest, Prague, Bucarest, Sofia, et dans les 16 Républiques Soviétiques. Il fonda le Quatuor à cordes Tchaïkovski, avec Anton Sharoev (deuxième violon), Rudolf Barshai (alto) et Yakov Slobodkin (violoncelle). Il donna de nombreux récitals avec Bella Davidovich, et créa un grand nombre de pièces écrites par des compositeurs soviétiques, tels que Rakov, Leman et Milman.
En 1952, Julian Sitkovetsky devint lauréat (11ème prix) du Concours Wieniawski à Poznan, et il remporta le deuxième prix au Concours Reine Elisabeth en 1955. Peu après, il fit ses débuts à Amsterdam, où il interpréta le Concerto de Tchaïkovski accompagné de l'Orchestre du Concertgebouw et dirigé par Eduard van Beinum. Il collabora aussi avec les chefs d'orchestre Kurt Sanderling, Kirill Kondrashin, Nathan Rachlinof et Nikolai Anosov.
Avant que le public de l'ouest ait pu entendre Julian Sitkovetsky, le violoniste fut frappé par un cancer du poumon en 1956. Sa performance du récent Concerto No. 1 pour violon de Shostakovich fut son dernier concert à Moscou. Malgré les nombreux efforts de ses amis et collègues - comme Yehudi Menuhin, Isaac Stern, David Oistrach, Mistislav Rostropovich, Gennadi Rozhdestvensky, et la Reine Elisabeth de Belgique - pour l'aider à couvrir ses frais médicaux, Julian Sitkovetsky mourut à Moscou en 1958. Il laissa un nombre considérable d'enregistrements réalisés entre 1948 et 1956. Parmi les plus importants, se trouvent les concertos de Sibelius, le No. 2 de Paganini, Glazounov et Tchaïkovski (live en finale du Concours Reine Elisabeth en 1955).