Con el legendario guitarrista Roy Buchanan entre sus compañeros de banda, Osborn cambió de guitarra a bajo eléctrico. En 1960, con Allen «Puddler» Harris y James Burton se unió a la banda de respaldo de la estrella del pop Ricky Nelson.Travelin’ Man, un nº1 de Nelson fue una canción escrita – y rechazada- para Sam Cooke que Osborn escuchó y recomendó a Nelson.
Cuando la banda de Nelson se disolvió en 1964, Osborn se dedicó al trabajo de estudio en Los Ángeles a tiempo completo. Durante los siguientes diez años, fue considerado el bajista favorito entre los músicos de estudio de Los Ángeles -conocido como The Wrecking Crew– y trabajó con productores conocidos como Lou Adler y Bones Howe, hasta tal punto que influyó a músicos contemporáneos como James Jamerson en Motown, Duck Dunn en Stax y John Entwistle con The Who.
Osborn así estuvo también involucrado en las listas de éxitos de artistas como Barry McGuire (Eve of Destruction), the Mamas & The Papas (Monday, Monday),Simon & Garfunkel (Bridge over Troubled Water), Glen Campbell (Gentle On My Mind), the Association (Windy), the Fifth Dimension (Aquarius/Let the Sunshine In), Richard Harris (MacArthur Park), Seals & Crofts (Summer Breeze), America (Tin Man), the Grass Roots (Temptation Eyes) u Olivia Newton John (Don’t Stop Believn), entre otros muchos. Osborn también es conocido por su descubrimiento y aliento del popular dúo The Carpenters, en cuyos álbumes tocó el bajo a lo largo de su carrera.