Charles Edward Greene, joka tunnetaan nimellä ”Mean” Joe Greene, syntyi 24. syyskuuta 1946 Elginissä, Texasissa. Hänen ainoa perheensä oli hänen äitinsä Cleo Thomas; hänen isänsä hylkäsi perheen. Hän syntyi Elginissä, Texasissa, mutta kasvoi Templessä, Texasissa. Joe Greene aloitti jalkapallouransa lukiossa rotuerottelukoulussa, Dunbar High Schoolissa Templessä, Texasissa. Greene oli valtava jo lukiossa. Hän kohosi yläkoulun joukkuetovereidensa ja vastustajiensa yläpuolelle 180-senttisenä ja 45 kiloa painavana. Myöhemmin hän tuli tunnetuksi aggressiivisuudestaan, mutta lukiossa hän pelkäsi. ”Kun aloitin pelaamisen, olin hyvin arka”, Greene sanoi. ”Minua hakattiin aika paljon, kentällä ja sen ulkopuolella. Mutta jotain tapahtuu, kun olet kentällä: Haluat voittaa. Unohdat kaiken muun. Lopulta halu voittaa voitti pelkoni.”
Charles Edward Joseph Greene tunnettiin paremmin lempinimellä ”Mean Joe” Greene. 180-senttinen ja 270-kiloinen taklaaja hankki lempinimensä viitaten koulunsa lempinimeen, North Texas State Universityn Mean Greeniin. Greene pelasi puolustuspäässä North Texasissa; Mean Green teki 23-5-1-tuloksen. Hänen valmentajansa Rod Rust sanoi: ”Joen menestyksen taustalla on kaksi tekijää. Ensinnäkin hänellä on kyky tehdä iso puolustuspeli ja kääntää pelin tempo. Toiseksi, hänellä on nopeutta olla erinomainen takaa-ajopelaaja.” Vuonna 1969 Pittsburgh Steelers valitsi hänet NFL:n varaustilaisuuden neljäntenä pelaajana ja vietti koko uransa joukkueessa, kunnes jäi eläkkeelle vuonna 1981.
Pittsburgh Steelersin jäsenenä Greene tuli osaksi sitä, mitä kutsutaan ”teräsverhoksi”. Hän vakiinnutti asemansa nopeudella, nopeudella, voimalla ja päättäväisyydellä. Chuck Noll, Pittsburgh Steelersin päävalmentaja vuosina 1969-1991, sanoi kerran: ”En ollut koskaan nähnyt kenenkään blokkaavan häntä yksi vastaan yksi”, viitaten Joe Greenen erinomaiseen jalkapallopelaamiseen. Suurten ominaisuuksiensa ja johtajuutensa ansiosta hän toimi Steelersin puolustuksen kapteenina vuodesta 1977 alkaen. Greene avasi uransa 91 ottelun putkella, ja hän pelasi 181 ottelussa 190 mahdollisesta runkosarjaottelusta. Vasemmana laitahyökkääjänä hänet nimettiin NFL:n vuoden puolustustulokkaaksi vuonna 1969 ja hän sai myös ensimmäisen kymmenestä Pro Bowl -kutsusta. Hän osallistui myös useisiin peliesityksiin, jotka takasivat Pittsburgh Steelersille pudotuspelivoitot. Hänen taitonsa ja päättäväisyytensä johtivat Pittsburgh Steelersin neljään Super Bowliin ”teräsverhon” alla, hänet nimettiin viisi kertaa All-NFL:n pelaajaksi, hän sai 11 kertaa peräkkäisinä vuosina 1969-1979 all-conference-tunnustuksen ja hänet nimettiin vuoden puolustuspelaajaksi vuosina 1972 ja 1974. Useat hänen pelinsä ovat syöpyneet monien muistoihin, mukaan lukien 11 säkin kausi vuonna 1972, joka johti Pittsburgh Steelersin kaikkien aikojen pudotuspelikaudelle, sekä syötön sieppaus ja fumble recovery, joka johti voittoon Minnesota Vikingsia vastaan Super Bowl IX:ssä. Kuuluisuudestaan huolimatta Joe Greene ei koskaan jakanut nimikirjoituksia, ja Andy Russell, varhaisen ”Steel Curtainin” jäsen, kuvaili kerran Joe Greenen erilaista käytöstä. Useaan otteeseen Russell kuuli Joe Greenen sanovan useille nuorille lapsille: ”En jaa nimikirjoituksia, mutta miksi te lapset ette tulisi bussiin ja puhuisi minulle?”. Hän istui bussissa ja vastaili kysymyksiin ja puhui jalkapallosta, kunnes muut hänen joukkuetoverinsa saapuivat.
Jalkapallo oli Mean Joe Greenen elämää, mutta uransa aikana hän teki useita tv-esiintymisiä ja elokuvaesiintymisiä. Erityisesti Greene esiintyi useissa mainoksissa, joista tunnetuin esitettiin ensimmäisen kerran lokakuussa 1979, jossa lapsi antaa hänelle kokiksen, jolloin ”Mean Joe” hymyilee ja antaa lapselle pelipaidan. TV Guide -lehti ja USAToday.com listasivat mainoksen kaikkien aikojen kymmenen parhaan mainoksen joukkoon. Hänen elokuviinsa kuuluivat The Black Six (1974), Horror High (1974), Lady Cocoa (1975), Fighting Back: The Story of Rocky Bleier (1980), Smokey and Bandit II (1980), All the Marbles (1981) ja The Steeler and the Pittsburgh Kid (1981). The Steeler and the Pittsburgh Kid oli spin-off hänen kuuluisasta Coca Cola -mainoksestaan.
NFL:stä eläkkeelle jäätyään Greene siirtyi vuonna 1987 Steelersin päävalmentajan Chuck Nollin apuvalmentajaksi. Seuraavat 16 vuotta hän toimi apuvalmentajana Pittsburgh Steelersissä, Miami Dolphinsissa ja Arizona Cardinalsissa. Vuonna 2004 hänet nimitettiin Steelersin pelaajahenkilöstön erityisavustajaksi ja hän jatkaa tätä tehtävää nykyäänkin.