Sjön har fått sitt namn från den bäck som är dess källa, Temescal Creek, som dämdes upp 1868 för att skapa en reservoar som skulle ge dricksvatten till East Bay-området, pumpat av Contra Costa Water Company, som ägdes av Anthony Chabot. Innan sjön Temescal dämdes upp var den en svackdamm, en sänka som orsakats av Haywardförkastningen. Huvuddelen av det manuella arbetet med att ta bort jord och gräva till berggrunden utfördes av kinesiska invandrare, som troligen invandrade för att bygga järnvägen. Hjordar av vilda mustanger användes för att komprimera de tonvis med jord som fördes in för att bygga dammen. Dammen är 180 meter lång och 4,9 meter bred och reser sig 32 meter över bäcken.
Sjöns stränder var en populär campingplats för bohemiska konstnärer och författare i slutet av 1800-talet. Den brittiske målaren J.H.E. Partington bodde här i ett tält med sin familj när de kom till Oakland 1889.
Pacific Gas and Electric byggde sin Claremont-understation direkt ovanför Lake Temescal med början i oktober 1921. Den öppnade den 23 oktober 1922 och är fortfarande i drift.
Under första hälften av 1900-talet löpte spåren från Sacramento Northern Railroad längs sjöns östra sida.
Under mitten av 1930-talet sträckte sig Lake Temescal nordostut i Temescal Canyon. Denna arm av sjön genomkorsades av en bock för Sacramento Northern railway tills inloppet fylldes ut som en del av projektet Broadway Tunnel (Caldecott Tunnel). Som en del av projektet förlängdes Landvale Road som en anslutande viadukt till Mountain Boulevard och Montclair District i söder. Detta krävde att man byggde en stor stödmur av betong längs den östra sidan av Lake Temescal för att stödja utfyllnaden. Järnvägsbocken togs bort och Sacramento Northern-spåren lades om strax under den. Landvale Avenue gick ovanför muren till en korsning med den nya förlängningen av Broadway som leder till tunneln. Stödmuren finns kvar, men järnvägen var borta 1957. Landvale ersattes av Warren Freeway och Broadway av Grove-Shafter Freeway i slutet av 1960-talet.
År 1936 öppnades Lake Temescal för allmänheten som en av de tre första parkerna som inrättades av East Bay Regional Park District. De tidiga faciliteterna omfattade en strandliknande strand för bad, ett båthus som byggdes av WPA, en väletablerad stig runt sjön och många picknickbänkar.