Zanim w połowie lat 90. rozpoczął karierę dyrygencką, odnosił sukcesy jako skrzypek solista, występując z czołowymi orkiestrami i dyrygentami z całego świata.

Zarejestrował wówczas szereg znakomitych nagrań, m.in. Koncert skrzypcowy Beethovena z André Prévinem i Royal Philharmonic Orchestra oraz Koncert skrzypcowy Sibeliusa z Finnish Radio Symphony Orchestra pod batutą Jukki- -Pekki Sarastego; oba albumy wydało BMG Classics. Joseph Swensen ze szczególnym zainteresowaniem zgłębia i rozwija sztukę dyrygowania od instrumentu – wraz z Orchestre de chambre de Paris stworzył w 2011 r. Paris Play-Direct Academy, w ramach której muzycy mogą doskonalić się w tej dziedzinie. Artysta prowadzi od instrumentu nie tylko repertuar z epoki klasycyzmu, lecz także dzieła takich kompozytorów, jak Brahms, Barber czy Prokofiew.

Joseph Swensen to wszechstronny muzyk, kompozytor i autor transkrypcji na orkiestrę. Pięć pieśni bez słów op. 35 Prokofiewa (1920) w jego opracowaniu ukazało się nakładem wydawnictwa Boosey & Hawkes, a Sinfonia in B, będąca transkrypcją rzadko wykonywanej wersji Tria op. 8 Brahmsa (1854), została wydana na płycie przez wytwórnię Singum. Artysta opracował również I Kwartet smyczkowy Nielsena (1888) jako Four Movements for Orchestra, jak też – na orkiestrę smyczkową– Kwartet smyczkowy op. 131 Beethovena i Kwartet smyczkowy Debussy’ego. Do jego najwybitniejszych kompozycji zaliczana jest trylogia Sinfonietta #1 (Requiem for Shizue) na shakuhachi solo i orkiestrę, Sinfonietta #2 (Langeland Reveries) na smyczki i syntezator oraz Sinfonietta #3 (Mahler in Manhattan) na skrzypce solo, waltornię solo, 17 instrumentów smyczkowych solo i kotły.

Jako cieszący się uznaniem pedagog, prowadzi zajęcia z zakresu dyrygentury, gry na skrzypcach oraz muzyki kameralnej w Royal Conservatoire of Scotland w Glasgow. Ponadto wraz z Victorią Swensen przez cały rok organizuje warsztaty i rezydencje poświęcone muzyce kameralnej, dyrygenturze i wykonawstwu instrumentalnemu w swoim 250-letnim wiejskim domu w stanie Vermont.

Joseph Swensen jest Amerykaninem o norweskich i japońskich korzeniach. Urodził się Hoboken w stanie New Jersey, dorastał w dzielnicy Harlem w Nowym Jorku.