Newcastle United
Carroll aloitti nuoruusuransa Newcastle Unitedissa. Hän teki muutamia maaleja reservijoukkueessa. Hän debytoi ykkösjoukkueessa 2. marraskuuta 2006. Hän oli tuolloin 17 vuotta ja 300 päivää vanha. Tämä tapahtui 1-0 UEFA-cupin voitossa Palermoa vastaan. Hän tuli myöhään Nolberto Solanon tilalle. Näin hänestä tuli kaikkien aikojen nuorin pelaaja, joka on edustanut Newcastlea Euroopassa.
Hän debytoi FA Cupissa 17. tammikuuta 2007. Tässäkin ottelussa hän esiintyi vaihtopelaajana viimeiset kymmenen minuuttia. Birmingham City voitti tuossa ottelussa Newcastlen 5-1. Helmikuun 25. päivänä 2007 Carroll debytoi Newcastlessa Valioliigassa. Hän tuli vaihtoon 87. minuutilla 1-0-tappiossa Wigan Athleticia vastaan. Hänellä oli tässä ottelussa yksi laukaus maalia kohti. Wiganin maalivahdin John Filanin hyvä torjunta esti häntä tekemästä ensimmäistä Newcastle-maaliaan.
Vuonna 2007 hän sai "Wor Jackie Milburn Trophy" -palkinnon. Tämä palkinto myönnetään joka vuosi Koillis-Englannin jalkapallon nousevalle tähdelle.
29. heinäkuuta 2007 Carroll teki ensimmäisen A-maalinsa 2-0-voitossa Juventusta vastaan. Kyseessä oli ystävyysottelu. Hän teki maalin vasemmalla jalalla. Ottelun jälkeen italialainen maalivahti Gianluigi Buffon kehui Carrollia. Buffon sanoi, että Carrollilla on suuri tulevaisuus.
14. elokuuta 2007 Carroll aloitti kuuden kuukauden lainan Preston North Endissä. Hän teki debyyttinsä liigacupissa Morecambea vastaan samana päivänä. Carroll joutui ulos pelatessaan Prestonin joukkueessa Scunthorpe Unitedia vastaan 18. syyskuuta. Hän teki ensimmäisen Championship-maalinsa ja ensimmäisen Englannin liigamaalinsa Leicester Cityä vastaan 6. marraskuuta.
Carroll esiintyi ensimmäistä kertaa Newcastlessa kaudella 2008-09 20. lokakuuta. Hän tuli Shola Ameobin tilalle Manchester Cityn kotiottelussa. Carroll oli aloituksessa West Ham Unitedia vastaan kotonaan 10. tammikuuta 2009. Hän teki tässä ottelussa ensimmäisen maalinsa kotonaan. Se oli pääpallo. Ottelu päättyi 2-2-tasapeliin. Hän allekirjoitti uuden kolmen ja puolen vuoden sopimuksen 12. maaliskuuta 2009. Hänen sopimuksensa Newcastlessa päättyi nyt vuonna 2012.
Newcastle putosi sillä kaudella. Ykköshyökkääjät Michael Owen, Mark Viduka ja Obafemi Martins jättivät seuran. Carroll liittyi Shola Ameobin rinnalle Newcastlen hyökkäykseen uuden kauden alussa. Hänen ensimmäinen liigamaalinsa Championshipissä syntyi 16. syyskuuta 2009 Blackpoolia vastaan pääpallolla. Vuoteen 2010 mennessä Carroll pelasi lähes jokaisessa ottelussa. Hänellä oli uusi hyökkääjäkumppani, Peter Løvenkrands. Nämä kaksi pelaajaa tekivät yli puolet seuran maaleista vuonna 2010. Carroll päätti kauden Newcastlen parhaana maalintekijänä. Hän teki 19 maalia kaikissa kilpailuissa. 17 oli liigassa, 2 cup-peleissä.
Carroll sai kaudella 2010-11 joukkueen numeron 9. Tämä numero on tärkeä Newcastle Unitedin kannattajille. Suuret hyökkääjät, kuten Jackie Milburn, Malcolm Macdonald ja Alan Shearer, ovat käyttäneet tätä joukkueenumeroa Newcastlessa. Carroll teki uransa ensimmäisen hattutempun Aston Villaa vastaan 6-0-voitossa Valioliigassa 22. elokuuta 2010. Carroll tuli Kevin Nolanin tilalle Manchester Cityä vastaan. Hän toimi tässä ottelussa ensimmäistä kertaa joukkueen kapteenina. Lokakuussa 2010 Carroll allekirjoitti uuden viisivuotisen sopimuksen. Hänen sopimuksensa kesti vuoteen 2015 asti. Carroll teki Newcastlen kolmannen maalin 3-1-voitossa Liverpoolia vastaan St James' Parkilla 11. joulukuuta 2010. Se oli laukaus 25 metristä. Laukaus oli matala veto.
Liverpool
Tammikuun 31. päivänä 2011 Liverpool tarjosi Carrollista 30 miljoonaa puntaa. Tarjous hylättiin. Newcastle hyväksyi sen jälkeen 35 miljoonan punnan tarjouksen. Carroll läpäisi lääkärintarkastuksen ja allekirjoitti sopimuksen pian. Siirto saatiin päätökseen hieman ennen kello 23.00 päättyvää määräaikaa. Carroll sanoi, että hänen oli pakko lähteä Newcastlesta. Mutta seura sanoi, että hän oli pyytänyt siirtoa sen jälkeen, kun he olivat hylänneet Liverpoolin 30 miljoonan punnan tarjouksen. Liverpool vahvisti, että Carroll käyttää numerolla 9 pelipaitaa. Sitä on aiemmin käyttänyt Fernando Torres, joka lähti samana iltana Anfieldiltä Chelseaan 50 miljoonalla punnalla. Siirto teki Carrollista tuolloin kaikkiaan kahdeksanneksi kalleimman jalkapalloilijan. Hän oli kaikkien aikojen kallein brittiläinen jalkapalloilija. Hänestä tuli myös Torresin jälkeen toiseksi kallein brittiseurassa pelaava jalkapalloilija. Carroll oli kärsinyt loukkaantumisesta Newcastle Unitedissa ollessaan. Siksi Liverpool ilmoitti, että Carroll joutuisi odottamaan jonkin aikaa ennen debyyttiään.
Lopulta hän debytoi Liverpoolissa vaihtopelaajana 3-1-voitossa Manchester Unitedia vastaan 6. maaliskuuta 2011. Maaliskuun 10. päivänä hän esiintyi ensimmäisessä Eurooppa-ottelussaan Liverpoolissa. Liverpool hävisi ottelun 1-0 Bragalle Eurooppa-liigassa. Carroll tuli vaihtoon puoliajan jälkeen. Paluuottelussa viikkoa myöhemmin hän aloitti Liverpoolin ensimmäisen kerran. Ottelu päättyi 0-0. Liverpool poistui kilpailusta, koska se oli hävinnyt 1-0 yhteenlaskettuun maalieroon. 20. maaliskuuta hän aloitti ensimmäisen kerran Valioliigassa Liverpoolin paidassa Sunderlandia vastaan. Hän ei tehnyt maalia. Liverpool voitti ottelun 2-0. 11. huhtikuuta Carroll teki ensimmäiset maalinsa Liverpoolille. Tämä tapahtui 3-0-voitossa Manchester Cityä vastaan Anfieldillä. Hänen ensimmäinen maalinsa oli kaukolaukaus. Hänen toinen osumansa oli pääpallo. Hän pelasi vielä useita kertoja sillä kaudella. Mutta, hän ei tehnyt enää yhtään maalia.
24. elokuuta 2011 hän teki uuden kauden ensimmäisen maalinsa. Hän teki sen 20 metrin päässä maalista. Ottelu pelattiin Exeter Cityä vastaan. Hän teki loppulukemat 3-0 League Cupin toisella kierroksella. 1. lokakuuta 2011 hän teki ensimmäisen maalinsa Valioliigakaudella 2011-12 Goodison Parkilla pelatussa 2-0-voitossa Evertonia vastaan. Hänen kauden kolmas maalinsa syntyi 2-0-voitossa West Bromin vieraana. Hän teki vuoden 2012 ensimmäisen maalinsa 5-1 FA Cupin kolmannen kierroksen voitossa Oldham Athleticia vastaan. Hän avusti Dirk Kuytin maalin 88. minuutilla Manchester Unitedia vastaan FA Cupin neljännellä kierroksella 28. tammikuuta. Tämän seurauksena Liverpool voitti ottelun. Hän teki kauden viidennen maalinsa 3-0-voitossa vieraissa Wolvesia vastaan 31. tammikuuta. Tämä tapahtui hänen ensimmäisenä vuosipäivänään siitä, kun hän liittyi seuraan. Liverpool voitti Brighton & Hove Albionin 6-1 FA Cupin viidennellä kierroksella. Carroll teki yhden maalin ja antoi yhden maalin syöttöpisteen Luis Suárezille. 26. helmikuuta hän voitti ensimmäisen pokaalinsa Liverpoolin kanssa, kun se voitti liigacupin. He voittivat Cardiffin finaalissa. 10. huhtikuuta hän teki maalin pääpallosta Blackburnia vastaan Liverpoolin voittaessa ottelun jatkoajalla. Tämä lopetti Liverpoolin neljän ottelun voitottoman putken. Neljä päivää myöhemmin hän teki toisen myöhäisen maalin, jolla Liverpool voitti ottelun. Tällä kertaa se tapahtui 2-1-voitossa Evertonia vastaan FA Cupin välierässä Wembleyllä. Hänen maalinsa ansiosta Liverpool pääsi finaaliin. Tämä oli hänen 50. ottelunsa Liverpoolissa. Carroll kuvaili ottelun voittomaaliaan "parhaaksi tunteeksi ikinä". Joukkuetoveri Jamie Carragher sanoi, että maali oli "35 miljoonan punnan arvoinen itsessään". Hän sanoi myös, että Carroll "muistetaan ikuisesti". Carroll teki maalin myös finaalissa, jonka Liverpool hävisi Chelsealle 2-1.
West Ham United
Lainan loitsu
30. elokuuta 2012 Carroll allekirjoitti sopimuksen West Hamin kanssa. Hän oli kauden mittaisella lainalla. Liverpool halusi sopimukseen lausekkeen, jonka mukaan West Ham maksaisi 17 miljoonaa puntaa saadakseen hänet pysyvästi seuraan. Se piti kuitenkin poistaa, koska West Ham ei suostunut. West Ham maksoi lopulta 2 miljoonan punnan lainajärjestelymaksun. He alkoivat myös maksaa kaikki Carrollin 80 000 punnan viikkopalkat Liverpoolille.
Carroll debytoi 1. syyskuuta. Hän teki (syöttöpisteenä) kaksi maalia 3-0-kotivoitossa Fulhamia vastaan. Hän teki ensimmäisen maalinsa 25. marraskuuta 2012. Tämä tapahtui 3-1-vierastappiossa Tottenham Hotspuria vastaan. Carroll loukkaantui marraskuussa. Hän palasi 2. helmikuuta 2013 Swansea Cityä vastaan. Hän teki ottelun ainoan maalin. Carroll päätti lainakauden seitsemään maaliin 24 ottelussa.
Pysyvä siirto
21. toukokuuta 2013 West Ham ja Liverpool sopivat noin 15 miljoonan punnan suuruisesta maksusta, jolla lainasiirto saataisiin pysyväksi Carroll suostui siirtoon ja allekirjoitti kuusivuotisen sopimuksen West Hamin kanssa 19. kesäkuuta 2013. Maksu oli seuran ennätys.
2013-14
Carroll aloitti kauden 2013-14 loukkaantuneena. Hänellä oli kantapääongelma, joka poimittiin viime kauden viimeisessä pelissä. Hän esiintyi kauden ensimmäisen kerran 12. tammikuuta 2014. Hän tuli vaihtoon 72. minuutilla Cardiff Cityä vastaan 2-0-voitossa. Hän antoi syöttöpisteen Mark Noblelle West Hamin toiseen maaliin.
1. helmikuuta 2014 Carroll sai lähtöpassit väkivaltaisesta käytöksestä Swansea Cityn puolustajaa Chico Floresia vastaan West Hamin voittaessa walesilaisseura 2-0. 15. maaliskuuta hän teki kauden ensimmäisen Valioliigamaalinsa 3-1-tappiossa Stoke Cityn vieraana. Maaliskuun 31. päivänä Sky Sports nimesi hänet ottelun mieheksi pelatessaan 2-1-voitossa Sunderlandia vastaan Stadium of Lightilla. Hän teki yhden ja avusti toisen West Hamin maaleista.
Carroll päätti Valioliigakauden 2013-14 vain kahteen maaliin 18 ottelussa.
2014-15
Uuden-Seelannin pre-season-kiertueen aikana Carroll sai nilkan nivelsidevamman. Tämän vuoksi hän ei pystynyt pelaamaan West Hamin yhdessätoista ensimmäisessä Valioliigan ottelussa. Carroll palasi joukkueeseen 8. marraskuuta 2014. Hän tuli vaihtoon Mark Noblen tilalle 0-0-tasapelissä Aston Villaa vastaan.
Carroll valittiin aloittamaan Hammersin seuraavassa ottelussa. Hän pelasi täydet yhdeksänkymmentä minuuttia. West Ham hävisi ottelun 1-2 Evertonille. 7. joulukuuta 2014 hän teki kauden kaksi ensimmäistä maaliaan. Se tapahtui ottelussa Swansea Cityä vastaan. Hammers voitti ottelun kotonaan 3-1. Ne olivat hänen ensimmäiset kotonaan tekemänsä maalit sitten maaliskuun 2013. 20. joulukuuta Carroll teki uransa 50. liigamaalin. West Ham voitti Leicester Cityn 2-0.