Charles Edward Greene, conocido como «Mean» Joe Greene nació el 24 de septiembre de 1946 en Elgin, Texas. Su única familia fue su madre Cleo Thomas; su padre abandonó a la familia. Nació en Elgin, Texas, pero creció en Temple, Texas. Joe Greene comenzó su carrera futbolística en la escuela secundaria en un colegio segregado, el Dunbar High School, en Temple, Texas. Greene era enorme incluso en el instituto. Se elevaba por encima de sus compañeros de equipo y de sus oponentes con una altura de 1,90 metros y 225 libras. Más tarde sería conocido por su agresividad, pero en el instituto tenía miedo. «Cuando empecé a jugar, era muy tímido», dice Greene. «Me pegaban bastante, dentro y fuera del campo. Pero algo pasa cuando estás en el campo: Quieres ganar. Eres ajeno a todo lo demás. Finalmente, mi deseo de ganar superó mi miedo».
Charles Edward Joseph Greene era más conocido por su apodo «Mean Joe» Greene. El tackle de 1,90 metros y 270 libras adquirió su apodo en referencia al apodo de su escuela, los Mean Green de la Universidad Estatal de North Texas. Greene jugó como tackle defensivo en North Texas; los Mean Green obtuvieron un récord de 23-5-1. Su entrenador, Rod Rust, dijo: «Hay dos factores detrás del éxito de Joe. En primer lugar, tiene la capacidad de hacer la gran jugada defensiva y cambiar el ritmo de un partido. Segundo, tiene la velocidad para ser un excelente jugador de persecución». En 1969, fue seleccionado por los Pittsburgh Steelers con su cuarta elección en el draft de la NFL y pasó toda su carrera con ellos hasta su retiro en 1981.
Como miembro de los Pittsburgh Steelers, Greene se convirtió en parte de lo que se conoce como la «Cortina de Acero». Se impuso con velocidad, rapidez, fuerza y determinación. Chuck Noll, el entrenador jefe de los Pittsburgh Steelers de 1969 a 1991, dijo una vez: «Nunca había visto a nadie bloquearle en el uno contra uno», en referencia al extraordinario juego de Joe Greene. Debido a sus grandes cualidades y liderazgo, fue el capitán de la unidad defensiva de los Steelers a partir de 1977. Greene abrió su carrera con una racha de 91 partidos, y jugó en 181 de los 190 posibles de la temporada regular. Como tackle izquierdo fue nombrado Novato Defensivo del Año de la NFL en 1969 y también recibió la primera de las diez invitaciones al Pro Bowl. También participó y realizó varias jugadas que aseguraron las victorias de los Pittsburgh Steelers en los playoffs. Su habilidad y determinación llevaron a los Pittsburgh Steelers a cuatro Super Bowls bajo el «Telón de Acero», fue nombrado All-NFL en cinco ocasiones, obtuvo el reconocimiento de todos los equipos de la conferencia durante 11 años consecutivos, de 1969 a 1979, y fue nombrado Jugador Defensivo del Año en 1972 y 1974. Varias de sus jugadas están grabadas en la memoria de muchos, incluyendo una temporada de 11 saques en 1972 que llevó a los Pittsburgh Steelers a la temporada de playoffs de la historia y una intercepción de pase y recuperación de fumble que llevó a una victoria contra los Minnesota Vikings en la Super Bowl IX. A pesar de su fama, Joe Greene nunca fue una persona que diera autógrafos, y Andy Russell, un miembro de la primera «Cortina de Acero», describió una vez un comportamiento diferente de Joe Greene. En muchas ocasiones, Russell escuchó a Joe Greene decir a varios niños pequeños: «No doy autógrafos, pero ¿por qué no subís al autobús y habláis conmigo?». Se sentaba en el autobús y respondía a las preguntas y hablaba de fútbol hasta que llegaba el resto de sus compañeros.
El fútbol era la vida de Mean Joe Greene, pero durante su carrera hizo varias apariciones en televisión y en el cine. En particular, Greene apareció en varios anuncios, el más famoso de los cuales se emitió por primera vez en octubre de 1979, en el que un niño le da una Coca-Cola, en respuesta «Mean Joe» sonríe y le da al niño su camiseta de juego. El anuncio fue catalogado como uno de los diez mejores anuncios de todos los tiempos por la revista TV Guide y USAToday.com. Entre sus películas destacan The Black Six (1974), Horror High (1974), Lady Cocoa (1975), Fighting Back: The Story of Rocky Bleier (1980), Smokey and Bandit II (1980), All the Marbles (1981) y The Steeler and the Pittsburgh Kid (1981). The Steeler and the Pittsburgh Kid fue un spin-off de su famoso anuncio de Coca Cola.
Después de retirarse de la NFL, Greene se convirtió en entrenador asistente a las órdenes del entrenador jefe de los Steelers, Chuck Noll, en 1987. Pasó los siguientes 16 años como entrenador asistente en los Pittsburgh Steelers, Miami Dolphins y Arizona Cardinals. En 2004, fue nombrado asistente especial para el personal de jugadores de los Steelers y continúa con este trabajo en la actualidad.