Charles Edward Greene, kendt som “Mean” Joe Greene, blev født den 24. september 1946 i Elgin, Texas. Hans eneste familie var hans mor Cleo Thomas; hans far forlod familien. Han blev født i Elgin, Texas, men voksede op i Temple, Texas. Joe Greene begyndte sin fodboldkarriere i high school på en segregeret skole, Dunbar High School, i Temple, Texas. Greene var stor selv i high school. Han overgik sine holdkammerater og modstandere på high school med en højde af 1,80 m og 225 pund. Han skulle senere blive kendt for sin aggressivitet, men i high school var han bange. “Da jeg begyndte at spille, var jeg meget sky,” sagde Greene. “Jeg plejede at få en hel del tæsk, både på og uden for banen. Men der sker noget, når man er derude på banen: Man vil gerne vinde. Man er uvidende om alt andet. Til sidst overvandt mit ønske om at vinde min frygt.”
Charles Edward Joseph Greene var bedre kendt under sit kælenavn “Mean Joe” Greene. Den 6’3″, 270 pund tunge tackle fik sit kælenavn med henvisning til sin skoles kælenavn, North Texas State University Mean Green. Greene spillede defensive tackle for North Texas; Mean Green havde en 23-5-1-rekord. Hans træner, Rod Rust, sagde: “Der er to faktorer bag Joes succes. For det første har han evnen til at lave det store forsvarsspil og vende tempoet i en kamp. For det andet har han hastigheden til at være en fremragende forfølger.” I 1969 blev han valgt af Pittsburgh Steelers med deres fjerde valg i NFL-draften og tilbragte hele sin karriere hos dem, indtil han gik på pension i 1981.
Som medlem af Pittsburgh Steelers blev Greene en del af det, der er kendt som “Steel Curtain”. Han etablerede sig med hurtighed, hurtighed, styrke og beslutsomhed. Chuck Noll, cheftræner for Pittsburgh Steelers fra 1969-1991, sagde engang: “Jeg havde aldrig set nogen blokere ham én mod én”, med henvisning til Joe Greenes fremragende fodboldspil. På grund af hans store kvaliteter og lederskab var han anfører for Steelers’ forsvarsenhed fra 1977. Greene åbnede sin karriere med 91 kampe i træk, og han spillede i 181 ud af 190 mulige kampe i den regulære sæson. Som venstre tackle blev han kåret som NFL Defensive Rookie of the Year i 1969 og modtog desuden den første af ti Pro Bowl-invitationer. Han deltog også i og lavede flere spil, der sikrede Pittsburgh Steelers sejre i slutspillet. Hans dygtighed og beslutsomhed førte Pittsburgh Steelers til fire Super Bowls under “Steel Curtain”, han blev udnævnt til All-NFL fem gange, fik All-Conference-anerkendelse 11 år i træk fra 1969-1979 og blev kåret som årets forsvarsspiller i 1972 og 1974. Flere af hans spil er ætset ind i mange erindringer, herunder en sæson med 11 sacks i 1972, der førte Pittsburgh Steelers til slutspilssæsonen nogensinde, og en pass interception og fumble recovery, der førte til en sejr mod Minnesota Vikings i Super Bowl IX. På trods af sin berømmelse var Joe Greene aldrig den, der uddelte autografer, og Andy Russell, et medlem af det tidlige “Steel Curtain”, beskrev engang en anden adfærd hos Joe Greene. Ved mange lejligheder hørte Russell Joe Greene sige til flere unge børn: “Jeg giver ikke autografer, men hvorfor går I ikke ind i bussen og snakker med mig?” Han sad i bussen og svarede på spørgsmål og talte om fodbold, indtil resten af hans holdkammerater ankom.
Fodbold var Mean Joe Greenes liv, men i løbet af sin karriere optrådte han flere gange på tv og i film. Mest bemærkelsesværdigt var Greene med i en række reklamer, hvoraf den mest berømte først blev sendt i oktober 1979, hvor et barn giver ham en cola, som svar smiler “Mean Joe” og giver barnet sin spilletrøje. Reklamefilmen blev opført som en af de ti bedste reklamefilm nogensinde af TV Guide Magazine og USAToday.com. Blandt hans film kan nævnes The Black Six (1974), Horror High (1974), Lady Cocoa (1975), Fighting Back: The Story of Rocky Bleier (1980), Smokey and Bandit II (1980), All the Marbles (1981) og The Steeler and the Pittsburgh Kid (1981). The Steeler and the Pittsburgh Kid var en spin-off af hans berømte Coca Cola-reklame.
Efter at have trukket sig tilbage fra NFL blev Greene assistenttræner under Steelers’ cheftræner Chuck Noll i 1987. Han tilbragte de næste 16 år som assistenttræner hos Pittsburgh Steelers, Miami Dolphins og Arizona Cardinals. I 2004 blev han udnævnt til særlig assistent for spillerpersonale for Steelers og fortsætter dette job i dag.