El lago recibió su nombre del arroyo que es su fuente, Temescal Creek, que fue represado en 1868 para crear un embalse que proporcionara agua potable a la gran zona de East Bay, bombeada por la Contra Costa Water Company, propiedad de Anthony Chabot. Antes de ser embalsado, el lago Temescal era una laguna de hundimiento, una depresión causada por la falla de Hayward. La mayor parte del trabajo manual de remover la tierra y excavar hasta el lecho de roca fue realizado por inmigrantes chinos, que probablemente inmigraron para construir los ferrocarriles. Se utilizaron manadas de mustangs salvajes para compactar las toneladas de tierra que se llevaron para crear la presa. La presa mide 180 m de largo y 4,9 m de ancho y se eleva 32 m por encima del arroyo.
Las orillas del lago eran un lugar de acampada popular entre los artistas y escritores bohemios de finales del siglo XIX. El pintor británico J.H.E. Partington vivió aquí en una tienda de campaña con su familia cuando llegaron a Oakland en 1889.
Pacific Gas and Electric construyó su subestación de Claremont directamente sobre el lago Temescal a partir de octubre de 1921. Se inauguró el 23 de octubre de 1922 y sigue en servicio hasta el día de hoy.
Durante la primera mitad del siglo XX, las vías del Sacramento Northern Railroad discurrían a lo largo del lado oriental del lago.
Hasta mediados de la década de 1930, el lago Temescal se extendía hacia el noreste en Temescal Canyon. Este brazo del lago era atravesado por un caballete del ferrocarril Sacramento Northern hasta que la entrada fue rellenada como parte del proyecto del túnel Broadway (túnel Caldecott). Como parte del proyecto, Landvale Road se amplió como viaducto de conexión con Mountain Boulevard y el distrito de Montclair al sur. Esto requirió la construcción de un gran muro de contención de hormigón a lo largo del lado este del lago Temescal para soportar el relleno. Se eliminó el caballete del ferrocarril y se volvieron a colocar las vías del Sacramento Northern justo debajo. La avenida Landvale pasaba por encima del muro hasta una intersección con la nueva extensión de Broadway que conducía al túnel. El muro de contención sobrevive, pero el ferrocarril había desaparecido en 1957. Landvale fue sustituida por la autopista Warren y Broadway por la autopista Grove-Shafter a finales de la década de 1960.
En 1936, el lago Temescal se abrió al público como uno de los tres primeros parques establecidos por el Distrito de Parques Regionales de East Bay. Sus primeros servicios incluían una orilla similar a una playa para nadar, un cobertizo para botes construido por la WPA, un sendero bien establecido alrededor del lago y numerosos bancos de picnic.