Юрий Янкелевич начал обучение игре на скрипке в Омске в возрасте 9 лет, выступал с сольными концертами. В 1923 году поступил в Ленинградскую консерваторию, продолжил обучение в Московской консерватории и аспирантуре, которую окончил в 1932 году. Преподавал игру на скрипке в Центральной музыкальной школе, Музыкальном училище при Московской консерватории и в консерватории. Юрием Исаевичем Янкелевичем было воспитано более 200 скрипачей, среди них – ведущие артисты современности – В. Третьяков, В. Спиваков, Т. Гринденко, И. Бочкова, Г. Жислин, П. Коган, Л. Маркиз, Д. Шварцберг, А. Брусиловский и другие.

В музыкально-исполнительском искусстве и педагогике Юрий Янкелевич оставил яркий след.

Сегодня имя Юрия Исаевича Янкелевича носит детская музыкальная школа № 1.