Orkiestra została założona w Wiedniu w sezonie 1986/1987 z inicjatywy C. Abbada i dziś jest uważana za czołową światową orkiestrę młodzieżową. W 2007 r. otrzymała nagrodę European Cultural Foundation. Poza wspieraniem młodych muzyków i ich działalności C. Abbado chciał zachęcić austriackich artystów do współpracy z kolegami z ówczesnych socjalistycznych republik Czechosłowacji i Węgier. W konsekwencji Gustav Mahler Jugendorchester stała się pierwszą międzynarodową orkiestrą młodzieżową, która przeprowadziła otwarte przesłuchania w krajach bloku wschodniego. W 1992 r. zespół otworzył się na muzyków w wieku do 26 lat z całej Europy. Obecnie działa pod patronatem Rady Europy.
Podczas przesłuchań, które odbywają się co roku w ponad 25 miastach europejskich, międzynarodowe jury wybiera członków zespołu spośród średnio 2000 kandydatów. Przed trasami koncertowymi orkiestra pracuje nad programem w jednym z miast rezydencyjnych: Wiedniu, Bolzano, Pordenone lub Lizbonie. Wybitni muzycy z orkiestr najwyższej klasy, takich jak Wiener Philharmoniker i Berliner Philharmoniker, nadzorują próby w poszczególnych sekcjach, a asystent dyrygenta przygotowuje orkiestrę do momentu, w którym dyrygent gościnny trasy może przejąć pracę nad ostatecznymi detalami interpretacji. Podczas tych prób młodzi muzycy zdobywają cenne doświadczenie orkiestrowe i otrzymują inspirację do przyszłej kariery. Repertuar koncertowy Gustav Mahler Jugendorchester obejmuje muzykę klasyczną i współczesną, z naciskiem na wielkie dzieła symfoniczne z okresu romantyzmu i późnego romantyzmu. Wysoki poziom artystyczny i międzynarodowy sukces skłoniły wielu czołowych dyrygentów i solistów do współpracy z zespołem. Należą do nich m.in. D. Afkham, H. Blomstedt, P. Boulez, sir C. Davis, Ch. Eschenbach, P. Eötvös, I. Fischer, D. Gatti, B. Haitink, D. Harding, P. Järvi, M. Jansons, Ph. Jordan, V. Jurowski, I. Metzmacher, K. Nagano, V. Neumann, J. Nott, S. Ozawa, sir A. Pappano, F. Welser-Möst, P.-L. Aimard, M. Argerich, Y. Bashmet, L. Batiashvili, R. i G. Capuçon, Ch. Gerhaher, M. Goerne, S. Graham, Th. Hampson, L. Kavakos, E. Kissin, Ch. Ludwig, R. Lupu, Yo-Yo Ma, A.-S. Mutter, A.S. von Otter, T. Stefanovich, M. Vengerov i F.P. Zimmermann.
Orkiestra jest stałym gościem prestiżowych sal koncertowych (m.in. Concertgebouw w Amsterdamie, Suntory Hall w Tokio, Mozarteum Argentino w Buenos Aires, Semperoper Dresden) i festiwali (Salzburger Festspiele, Edinburgh International Festival, BBC Proms, Lucerne Festival). Wielu byłych członków zespołu jest obecnie członkami czołowych europejskich orkiestr. W 2012 r. ogłoszono partnerstwo Gustav Mahler Jugendorchester ze słynną Sächsische Staatskapelle Dresden, w ramach którego odbywają się koncerty i projekty z udziałem członków obu zespołów. Z okazji 25-lecia istnienia Gustav Mahler Jugendorchester została mianowana Ambasadorem UNICEF w Austrii. Partnerami zespołu są Erste Bank i Vienna Insurance Group.