Harilal föddes den 23 augusti 1888, strax innan hans far reste till England för högre studier. Harilal stannade kvar i Indien med sin mor.
Harilal var engagerad i den indiska självständighetsrörelsen och fängslades som satyagrahi sex gånger mellan 1908 och 1911. Hans vilja att uthärda dessa straff gav honom smeknamnet ”Chhote (Little) Gandhi”.
Han ville också åka till England för högre studier, i hopp om att bli advokat som hans far en gång hade varit. Hans far motsatte sig dock bestämt detta, eftersom han ansåg att en utbildning i västerländsk stil inte skulle vara till hjälp i kampen mot det brittiska styret över Indien, vilket ledde till spänningar mellan far och son. Så småningom gjorde Harilal uppror mot sin fars beslut och avsade sig 1911 alla familjeband.
1906 gifte han sig med Gulab Gandhi, med vilken han fick fem barn: två döttrar, Rani och Manu, och tre söner, Kantilal, Rasiklal och Shantilal. Rasiklal och Shantilal dog i tidig ålder. Han fick fyra barnbarn (Anushrya, Prabodh, Neelam Solanki och Navmalika) via Rani, två (Shanti och Pradeep) via Kantilal och ett (Urmi) via Manu. Efter att Gulab dog under influensapandemin 1918 blev Harilal avskild från sina barn. Han övervägde att gifta sig med sin frus syster Kumi Adalaja, som var barnänka, men detta blev inte verklighet. Detta ledde till att Harilal sjönk ytterligare nedåt och han började gradvis glida ur och blev alkoholist. Han höll sporadiskt kontakt med sin far genom åren, ibland genom allmänt kända personer, ända fram till 1947.
Harilal dök upp vid sin fars begravning i ett så förfallet skick att få kände igen honom.
Neelam Parikh, dotter till Ranibehn, det äldsta av Harilals barn, skrev senare en biografi om honom med titeln Gandhijis förlorade juvel: Harilal Gandhi.
