Fue el miembro original con más años de servicio de la banda de rock sureño, en la que tocaba la guitarra principal y rítmica. Tenía 71 años.
En 1965, Ronnie Van Zant reunió a los 5 Nobles, que incluían a los guitarristas Gary Rossington y Allen Collins, el baterista Bob Burns y el bajista Larry Junstrom. Tras dejarse crecer el pelo, un maestro de gimnasia de la escuela secundaria llamado Leonard Skinner les colocó un suspensos a todos los miembros del clan. Resolvieron el problema mudándose a una cabaña en Green Cove Springs, al sur de Jacksonville. Allí escribieron canciones, aprendieron a tocar juntos y cambiaron su nombre en 1969 de The One Percent a Lynyrd Skynyrd, una referencia intencionadamente mal escrita a su antiguo enemigo.
El instrumento elegido por Rossington fue una Gibson Les Paul de 1959. El músico tocaba la guitarra principal en Tuesday’s Gone y la slide en Free Bird. Junto con Collins, Rossington también proporcionó el trabajo de guitarra para Simple Man. Fue uno de los 20 pasajeros que sobrevivieron al accidente aéreo del 20 de octubre de 1977 cerca de McComb, Mississippi, que se cobró la vida de los miembros de Lynyrd Skynyrd, Ronnie Van Zant, Steve Gaines, Cassie Gaines y otros tres. A pesar de romperse ambos brazos, piernas, muñecas y tobillos, así como la pelvis, Rossington se recuperó de sus heridas y volvió al escenario, si bien luchó contra una grave adicción a las drogas durante los siguientes años. The Rossington-Collins Band produjo un álbum titulado Anytime, Anyplace, Anywhere, que alcanzó el número trece en las listas en 1980. Pero la banda se separó en un par de años.
Los miembros sobrevivientes de la banda hicieron un «juramento de sangre» de no capitalizar la muerte de Van Zant y los demás por el uso continuo del nombre Lynyrd Skynyrd. Después de un año de duelo, los miembros restantes de la banda, a excepción del baterista Artimus Pyle, formaron una nueva entidad llamada The Rossington-Collins Band, tomando a una vocalista, Dale Krantz, de la banda .38 Special, un conjunto liderado por Donnie Van Zant.
Lynyrd Skynyrd se reformó en 1987 para una gira de reunión con el hermano de Ronnie, Johnny Van Zant, como vocalista principal. La viuda de Ronnie Van Zant demandó a los nuevos miembros de la banda por violar el juramento de sangre que prohibía el uso del nombre Lynyrd Skynyrd. En la resolución del caso, la nueva banda agregó a su nombre la frase distintiva «Tribute Tour». El Lynyrd Skynyrd Tribute Tour salió a la carretera en 1987. Continuaron de gira y grabando con Rossington, Johnny Van Zant y Rickey Medlocke, quien primero escribió y grabó con la banda de 1971 a 1972 antes de su regreso en 1996. En enero de 2018, Lynyrd Skynyrd anunció su gira de despedida. A pesar de los problemas de salud de Rossington, el grupo continuó su inicial gira de despedida en 2021.
