Antes de formar su propia banda, Glenn Miller participó en varias, destacando entre ellas la del baterista Ben Pollack, en la ciudad de los Angeles, donde conoció a otro de los destacados músicos de las grandes bandas: Benny Goodman. Más tarde, Miller llegó a Nueva York para trabajar como trombonista y arreglista en la orquesta de los hermanos Dorsey (Tommy y Jimmy), hacia 1928, y creó una orquesta para el director inglés Ray Noble (ya que lo sindicatos no permitían la entrada de músicos extranjeros), donde compuso algunas piezas que se estrenaron con dicha orquesta. Fue por esos años que se casó con quien fuera su novia en la universidad, Helen Burger. Es en el año de 1938 cuando surge la Glenn Miller Orchestra, con la cual el músico firmó un contrato con el Casino de Glen Island, en Nueva York, que le otorgó popularidad y más tarde le permitió lograr el éxito y el reconocimiento en el mundo de la música popular de los Estados Unidos. Durante los siguientes cuatro años la orquesta de Miller adquirió gran relevancia, gracias a sus presentaciones en salones de baile y a transmisiones radiofónicas que lo llevaron a ocupar los primeros puestos en las listas de popularidad en discos. Algunos de sus más importantes éxitos fueron: De buen humor (15 semanas como número uno), Collar de perlas, Jarrito pardo, Serenata a la luz de la luna, Chattanooga Choo Choo (primer disco de oro por ventas), Patrulla Americana y Pennnsylvania 6-5000, entre otras (en total fueron 17 Top 10 hits).