Orosz zsidó bevándorlók fiai, Robert és Richard Sherman 1951-ben kezdtek el együtt dalokat írni apjuk, a Tin Pan Alley dalszerzője, Al Sherman felkérésére. A testvérek az évtized hátralévő részében együtt és különböző dalszerző partnerekkel írtak.
1958-ban Robert megalapította a Music World Corporation zenei kiadóvállalatot. Később kapcsolatban állt a Disney BMI-hez kapcsolódó kiadói részlegével, a Wonderland Music Company-val. Ugyanebben az évben a Sherman Brothers első top tízes slágerét a "Tall Paul" című dallal érte el, amelyet az egérke Judy Harriet énekelt a Surf Records kiadó gondozásában. A dalt szintén az egérkék Annette Funicello énekelte. A dal sikere felkeltette Walt Disney figyelmét. Ezután felvette a Sherman testvéreket a Walt Disney Stúdió munkatársainak dalszerzői közé. Az első dal, amit Walt Disney személyes megbízásából írtak, a "Strummin' Song" volt 1961-ben. Ezt használták fel az Annette Funicello által forgatott The Horsemasters című tévéfilmben.
A Disney-nél a Sherman testvérek több filmzenét írtak, mint bármely más dalszerző a filmek történetében. Az 1964-es New York-i világkiállításra írták a talán legismertebb dalukat, az "it's a small world (after all)"-t is. Azóta egyesek azt állítják, hogy ez lett a Föld legtöbbet fordított és legtöbbet játszott dala, bár ez nagyrészt annak köszönhető, hogy a Disney vidámpark "it's a small world" című, azonos nevű attrakcióiban is ezt játsszák.
1965-ben a Sherman testvérek két Oscar-díjat nyertek a Mary Poppins című filmért, amelyben a "Feed The Birds", a "Supercalifragilisticexpialidocious" és az Oscar-díjas "Chim Chim Cher-ee" című dalok is szerepelnek. A Mary Poppins első bemutatása óta Shermanék kilenc Oscar-jelölést, két Grammy-díjat, négy Grammy-jelölést és 23 arany- és platina minősítésű albumot szereztek.
Robert és Richard Sherman közvetlenül Walt Disney-nek dolgozott, és a Disney 1966-ban bekövetkezett haláláig elkészítették A legboldogabb milliomos és Az egyetlen, valódi, eredeti családi zenekar című élőszereplős musicalfilmek zenéjét. A cégtől való távozásuk óta a testvérek szabadúszóként dolgoztak dalszerzőként filmek, televíziós műsorok, vidámparki kiállítások és színpadi musicalek zenéin.
Az első nem Disney-féle megbízásuk Albert R. Broccoli filmes produkciója, a Chitty Chitty Bang Bang Bang volt a United Artists számára 1968-ban. Ez a film hozta meg a testvéreknek a harmadik Oscar-jelölést a legjobb eredeti dal kategóriában, a különösen emlékezetes címadó dalért.
1970-ben Shermanék visszatértek a Disneyhez egy rövid időre, ahol befejezték az Arisztociták és a Bedknobs and Broomsticks című filmek munkálatait. Ez utóbbi film hozta meg a testvéreknek a negyedik és ötödik Oscar-jelölést. 1972-ben jelent meg a Snoopy Come Home, amelyért a testvérek Grammy-jelölést kaptak.
1973-ban a Sherman testvérek történelmet írtak azzal is, hogy a Tom Sawyer című filmjükkel, amelynek forgatókönyvét is ők írták, a Moszkvai Filmfesztiválon egyedüli amerikaiakként elnyerték az első díjat.
1976-ban a "The Slipper and the Rose" című darabot választották az év királyi parancsnoki előadásának. Az előadáson Erzsébet királynő, az anyakirálynő is részt vett. A klasszikus Hamupipőke-történet modern musicalváltozata, a "Papucs" szintén a Sherman testvérek dalaiból, zenéjéből és forgatókönyvéből készült. A filmért további két Oscar-jelölést kaptak a testvérek. Ugyanebben az évben a Sherman testvérek csillagot kaptak a hollywoodi "Walk of Fame" sétányon, közvetlenül a Grauman's Chinese Theaterrel szemben.
A Sherman testvérek számos más Disney és nem Disney filmet is jegyeztek, amelyek a kasszasikerlisták élére kerültek: A dzsungel könyve (1967), Az arisztokáták (1970), A szülőcsapda (1961), A szülőcsapda (1998), Charlotte hálója (1973), Huckleberry Finn (1974), Micimackó sok kalandja (1977), Snoopy, gyere haza (1972), Bedknobs and Broomsticks (1971), Kis Némó: Kalandok Slumberlandben (1989).
A mozifilmeken kívül a Tony-díjra jelölt slágerük, az Over Here! (1974) volt az év legnagyobb bevételt hozó eredeti Broadway-musicalje. A Sherman Brothers számos slágerlistás dalt is írt, köztük a "You're Sixteen"-t, amely kétszer is a Billboard Hot 100 top 10-es listáján szerepelt: először Johnny Burnette-tel 1960-ban, majd több mint tizenhárom évvel később Ringo Starr-ral az első helyen. További top tízes slágerek közé tartozik a "Pineapple Princess", a "Let's Get Together" és még sok más.
2000-ben a Sherman Brothers írta a The Tigger Movie című Disney-film zenéjét. Ez a film volt a testvérek első nagyjátékfilmje a Disney cég számára több mint 28 év után.
2003-ban a Sherman testvérek négy musicalje is bekerült minden idők 10 legkedveltebb gyermekfilmje közé a BBC által közölt brit országos szavazáson. Leginkább az 1968-as Chitty Chitty Chitty Bang Bang vezette a listát az első helyen.
A későbbi években, amikor Robert Londonba költözött, a testvérek számos új dalt írtak a Chitty Chitty Bang Bang és a Mary Poppins színpadi musicalek számára, amelyeket a Disney és Cameron Mackintosh készített.
A filmiparhoz való hozzájárulásukért a Sherman testvéreknek csillaguk van a Hollywood Walk of Fame-en (Hollywood Blvd. 6918. szám). 2005. június 9-én beiktatták őket a Songwriters Hall of Fame-be. 2006. november 16-án mutatták be a Mary Poppins című filmet a Broadwayn, a New Amsterdam Theatre-ben.
2008. november 17-én a Sherman testvérek megkapták a National Medal of Arts kitüntetést, amely az Egyesült Államok kormánya által művészeknek adható legmagasabb kitüntetés. A díjat George W. Bush amerikai elnök adta át a Fehér Ház keleti termében tartott ünnepségen.
2009. május 22-én mutatták be a mozikban a The Boys: The Sherman Brothers' Story című filmet, amely a párosról szól. A filmet fiaik, Gregory V. Sherman és Jeff Sherman rendezték és készítették. A Walt Disney Pictures hozta ki.
2009 októberében a Disney kiadott egy 59 számot tartalmazó, két CD-t tartalmazó kompendiumot a stúdiónak negyvenkét évet felölelő munkájukról. A CD címe "The Sherman Brothers Songbook".
2010. március 11-én a Sherman testvéreknek a kaliforniai Anaheimben, a Mainstreet Disneylandben egy Window on Mainstreet ablakot adtak át a Disney vidámparkokhoz való hozzájárulásuk elismeréseként. 2010. május 17-én a Sherman Brothers a The Theatre Museum 2010-es díjátadó gáláján New Yorkban megkapta a "Career Achievement Award" díjat.
