Newcastle United
Carroll ifjúsági pályafutását a Newcastle Unitedben kezdte. A tartalékcsapatban szerzett néhány gólt. Az első csapatban 2006. november 2-án debütált. Ekkor 17 éves és 300 napos volt. Ez a Palermo elleni 1-0-s UEFA-kupa-győzelem alkalmával történt. Nolberto Solano helyére lépett be későn. Ezzel ő lett a valaha volt legfiatalabb játékos, aki a Newcastle-t Európában képviselte.
2007. január 17-én debütált az FA-kupában. Itt is csereként lépett pályára az utolsó tíz percben. A Birmingham City ezen a mérkőzésen 5-1-re verte a Newcastle-t. 2007. február 25-én Carroll bemutatkozott a Premier League-ben a Newcastle-ben. A Wigan Athletic elleni 1-0-s vereség alkalmával a 87. percben csereként lépett pályára. Ezen a mérkőzésen egy kapura lövése volt. A Wigan kapusának, John Filan-nak a jó mentése megakadályozta, hogy megszerezze első Newcastle-gólját.
2007-ben ő kapta a "Wor Jackie Milburn Trophy" díjat. Ezt minden évben az északkelet-angliai labdarúgás feltörekvő csillagának ítélik oda.
2007. július 29-én Carroll megszerezte első gólját a Juventus ellen 2-0-ra megnyert mérkőzésen. Ez egy barátságos mérkőzés volt. A gólt bal lábbal szerezte. A mérkőzés után az olasz kapus, Gianluigi Buffon dicsérte Carrollt. Buffon szerint Carrollnak nagy jövője van.
2007. augusztus 14-én Carroll hat hónapos kölcsönszerződést kezdett a Preston North Enddel. Ugyanezen a napon debütált a Morecambe elleni Ligakupa-mérkőzésen. Carrollt szeptember 18-án a Prestonban a Scunthorpe United elleni mérkőzésen kiállították. November 6-án a Leicester City ellen megszerezte első bajnoki gólját és első angol bajnoki gólját.
Carroll október 20-án lépett először pályára a Newcastle színeiben a 2008-09-es szezonban. Shola Ameobi helyére állt be a Manchester City elleni hazai mérkőzésen. Carroll 2009. január 10-én a West Ham United elleni hazai mérkőzésen a kezdőcsapatban szerepelt. Ezen a mérkőzésen szerezte első hazai gólját. Ez egy fejes volt. A mérkőzés 2-2-es döntetlennel ért véget. 2009. március 12-én új, három és fél éves szerződést írt alá. Newcastle-i szerződése most 2012-ben járt le.
A Newcastle abban a szezonban kiesett. Az első csapat csatárai, Michael Owen, Mark Viduka és Obafemi Martins távoztak a klubtól. Carroll Shola Ameobi mellé csatlakozott a Newcastle támadósorába az új szezon kezdetén. Első bajnoki gólját a Championshipben 2009. szeptember 16-án szerezte a Blackpool ellen egy fejessel. 2010-re Carroll szinte minden mérkőzésen pályára lépett. Új csatártársa volt, Peter Løvenkrands. Ez a két játékos szerezte a klub góljainak több mint felét 2010-ben. Carroll a Newcastle góllövőlistájának élén fejezte be a szezont. Minden versenyen 19 gólt szerzett. Ebből 17-et a bajnokságban, 2-t a kupameccseken.
Carroll a 2010-11-es szezonra a 9-es rajtszámot kapta. Ez a szám fontos a Newcastle United szurkolói számára. Olyan nagyszerű csatárok, mint Jackie Milburn, Malcolm Macdonald és Alan Shearer viselték ezt a rajtszámot a Newcastle színeiben. Carroll 2010. augusztus 22-én, az Aston Villa ellen 6-0-ra megnyert Premier League-mérkőzésen szerezte pályafutása első kalapácsütését. Carroll a Manchester City ellen Kevin Nolan helyett állt be csereként. Ezen a mérkőzésen volt először csapatkapitány. 2010 októberében Carroll új, ötéves szerződést írt alá. A szerződése 2015-ig szólt. Carroll szerezte a Newcastle harmadik gólját a Liverpool elleni 3-1-es győzelem alkalmával a St. James' Parkban 2010. december 11-én. Ez egy 25 méterről leadott lövés volt. A lövés egy alacsonyan leadott labda volt.
Liverpool
2011. január 31-én a Liverpool 30 millió fontot ajánlott Carrollért. Ezt elutasították. A Newcastle ezután 35 millió fontos ajánlatot fogadott el. Carroll átment az orvosi vizsgálaton, és hamarosan aláírta a szerződést. Az átigazolás nem sokkal a 23.00 órai határidő előtt befejeződött. Carroll azt mondta, hogy kénytelen volt elhagyni a Newcastle-t. A klub azonban azt mondta, hogy ő kérte az átigazolást, miután elutasították a Liverpool 30 millió fontos ajánlatát. A Liverpool megerősítette, hogy Carroll a 9-es számú mezt fogja viselni. Ezt korábban Fernando Torres viselte, aki aznap este 50 millió fontért távozott az Anfieldről a Chelsea-hez. Az átigazolással Carroll a nyolcadik legdrágább labdarúgó lett akkoriban. Ő volt minden idők legdrágább brit labdarúgója. Torres után ő lett a második legdrágább brit klubban játszó labdarúgó is. Carroll a Newcastle Unitednél sérülést szenvedett. Ezért a Liverpool bejelentette, hogy Carrollnak még várnia kell egy ideig a debütálására.
Végül 2011. március 6-án, a Manchester United ellen 3-1-re megnyert mérkőzésen csereként debütált a Liverpoolban. Március 10-én szerepelt első európai mérkőzésén a Liverpool színeiben. A Liverpool 1-0-ra kikapott a Braga ellen az Európa Ligában. Carroll a félidő után csereként állt be. Az egy héttel későbbi visszavágón először lépett pályára a Liverpoolban. A mérkőzés 0-0-ra végződött. A Liverpool kiesett a versenyből, mivel összesítésben 1-0-ra kikapott. Március 20-án a Sunderland ellen kezdett először a Premier League-ben a Liverpoolban. Nem szerzett gólt. A Liverpool 2-0-ra megnyerte a mérkőzést. Április 11-én Carroll megszerezte első góljait a Liverpoolban. Ez a Manchester City elleni 3-0-s győzelem alkalmával történt az Anfielden. Első gólja távoli lövésből született. A második gólja egy fejes volt. Ebben a szezonban még többször is játszott. De több gólt már nem szerzett.
2011. augusztus 24-én szerezte első gólját az új szezonban. A gólt 20 méterre a kaputól lőtte. A mérkőzés az Exeter City ellen volt. A Ligakupa második fordulójában 3-0-ra alakította az eredményt. 2011. október 1-jén szerezte első gólját a 2011-12-es Premier League-ben az Everton elleni 2-0-s győzelem alkalmával a Goodison Parkban. A harmadik gólját a szezonban a West Brom elleni 2-0-s idegenbeli győzelem alkalmával szerezte. Első gólját 2012-ben az Oldham Athletic elleni 5-1-es FA-kupa-győzelem harmadik fordulójában szerezte. Január 28-án a Manchester United elleni FA-kupa negyedik fordulójában a 88. percben asszisztált Dirk Kuyt góljához a Manchester United ellen. Ennek eredményeként a Liverpool megnyerte a mérkőzést. Január 31-én a Wolves elleni 3-0-s idegenbeli győzelem alkalmával megszerezte ötödik gólját a szezonban. Ez volt a klubhoz való csatlakozásának első évfordulóján. A Liverpool 6-1-re nyert a Brighton & Hove Albion ellen az FA-kupa ötödik fordulójában. Carroll egy gólt lőtt és egy gólt asszisztált Luis Suáreznek Február 26-án megnyerte első trófeáját a Liverpoollal, amikor megnyerték a Ligakupát. A döntőben a Cardiffot győzték le. Április 10-én a Blackburn ellen a hosszabbításban fejesgólt szerzett, a Liverpool megnyerte a mérkőzést. Ezzel véget vetett a Liverpool négy meccsből álló győzelem nélküli sorozatának. Négy nappal később újabb késői gólt fejelt, amivel a Liverpool megnyerte a mérkőzést. Ezúttal az Everton elleni 2-1-es győzelem alkalmával, a Wembleyben rendezett FA-kupa elődöntőben. Az ő góljának köszönhetően a Liverpool bejutott a döntőbe. Ez volt az 50. mérkőzése a Liverpoolban. Carroll a meccsgyőztes gólját "a valaha volt legjobb érzésnek" nevezte. Csapattársa, Jamie Carragher szerint a gól "önmagában 35 millió fontot ért". Azt is mondta, hogy Carrollra "örökké emlékezni fognak". Carroll a döntőben is betalált, amelyet a Liverpool 2-1-re elveszített a Chelsea ellen.
West Ham United
Kölcsön varázslat
2012. augusztus 30-án Carroll aláírt a West Hamhez. Egy szezonra szóló kölcsönbe szerződött. A Liverpool egy záradékot akart az üzletben, amely szerint a West Ham 17 millió fontot fizetett volna azért, hogy végleg a klubhoz kerüljön. Ezt azonban el kellett távolítaniuk, mivel a West Ham nem egyezett bele. A West Ham végül 2 millió font kölcsönadási díjat fizetett. Emellett elkezdték kifizetni Carroll teljes heti 80 ezer fontos liverpooli bérét.
Carroll szeptember 1-jén debütált. Két gólt szerzett (asszisztált) a Fulham elleni 3-0-s hazai győzelem alkalmával. Első gólját 2012. november 25-én szerezte. Ez a Tottenham Hotspur elleni 3-1-es idegenbeli vereség alkalmával történt. Carroll novemberben megsérült. Visszatért 2013. február 2-án aSwansea City ellen. Ezen a mérkőzésen ő szerezte az egyetlen gólt. Carroll 24 fellépésen hét góllal fejezte be a kölcsönszerződést.
Állandó áthelyezés
2013. május 21-én a West Ham és a Liverpool megállapodott egy 15 millió font körüli összegről, hogy a kölcsönadás végleges legyen Carroll beleegyezett a váltásba, és 2013. június 19-én hatéves szerződést írt alá a West Hamhez. A díj klubrekordot jelentett.
2013–14
Carroll a 2013-14-es szezont sérülten kezdte. Az előző szezon utolsó mérkőzésén szedett fel egy sarokproblémát. A szezonban először 2014. január 12-én lépett pályára. A Cardiff City ellen 2-0-ra megnyert mérkőzés 72. percében csereként lépett pályára. A West Ham második góljához Mark Noble-nak asszisztált.
2014. február 1-jén Carrollt a West Ham 2-0-ra megnyert walesi klub elleni mérkőzésén a Swansea City védőjével, Chico Floresszel szembeni erőszakoskodása miatt kiállították. Március 15-én megszerezte első Premier League-gólját a szezonban a Stoke City elleni 3-1-es vereség alkalmával. Március 31-én a Sky Sports a Sunderland ellen a Stadium of Lightban elért 2-1-es győzelem alkalmával mutatott játékáért a mérkőzés emberének választotta. A West Ham egyik gólját ő szerezte, a másikhoz pedig asszisztált.
Carroll a 2013-14-es Premier League-szezont 18 fellépéséből mindössze két góllal zárta.
2014–15
Az új-zélandi előszezoni túra során Carroll bokaszalag-sérülést szenvedett. Ez azt jelentette, hogy a West Ham első tizenegy Premier League-mérkőzésén nem játszhatott. Carroll 2014. november 8-án tért vissza a csapatba. Az Aston Villa elleni 0-0-s döntetlen alkalmával Mark Noble helyére állt be csereként.
Carrollt beválasztották a Kalapácsosok következő mérkőzésének kezdőjébe. Végigjátszotta a kilencven percet. A West Ham 1-2-re kikapott az Evertontól. 2014. december 7-én megszerezte első két gólját a szezonban. Ez a Swansea City elleni mérkőzésen történt. A mérkőzést a Hammers 3-1-re nyerte meg hazai pályán. Ezek voltak az első góljai, amelyeket 2013 márciusa óta otthon szerzett. December 20-án Carroll megszerezte pályafutása 50. bajnoki gólját. A West Ham 2-0-ra verte a Leicester Cityt.