Marka Graye objevila kapela Oak Ridge Boys a přesvědčili ho, aby se přestěhoval do Nashvillu. Začínal jako člen skupiny Exile a rovněž bodoval s písněmi, které nahrála Alabama ("The Closer You Get" a "Take Me Down") nebo Janie Fricke ("It Ain't Easy Being Easy"). Začátkem 80. let se vydal na sóloval dráhu a slavil úspěchy s Top 10 hity jako "Left Side of the Bed", "If All the Magic Is Gone", "Diamonds in the Dust" a duet s Tammy Wynette "Sometimes When We Touch".  V roce 1986 se z hitparád vytratil a dále o něm už slyšet nebylo. Mark Gray zemřel 2. prosince ve věku 64 let.