Harilal blev født den 23. august 1888, lige før hans far rejste til England for at studere videre. Harilal blev i Indien sammen med sin mor.
Harilal var involveret i den indiske uafhængighedsbevægelse og blev fængslet som satyagrahi seks gange mellem 1908 og 1911. Hans villighed til at udstå disse domme gav ham tilnavnet “Chhote (lille) Gandhi”.
Han ønskede også at tage til England for at studere højere og håbede på at blive advokat, som hans far engang havde været. Hans far var imidlertid stærkt imod dette, da han mente, at en uddannelse i vestlig stil ikke ville være nyttig i kampen mod det britiske styre over Indien, hvilket førte til spændinger mellem far og søn. Da han til sidst gjorde oprør mod sin fars beslutning, gav Harilal i 1911 afkald på alle familiebånd.
I 1906 giftede han sig med Gulab Gandhi, med hvem han fik fem børn: to døtre, Rani og Manu, og tre sønner, Kantilal, Rasiklal og Shantilal. Rasiklal og Shantilal døde i en tidlig alder. Han fik fire børnebørn (Anushrya, Prabodh, Neelam Solanki og Navmalika) via Rani, to (Shanti og Pradeep) via Kantilal og et (Urmi) via Manu. Efter at Gulab døde under influenzapandemien i 1918, blev Harilal løsrevet fra sine børn. Han overvejede at gifte sig med sin kones søster Kumi Adalaja, som var en børneveninde, men dette blev dog ikke til noget. Dette førte til Harilals yderligere nedtur, og han begyndte gradvist at glide ned og blev alkoholiker. Han holdt sig sporadisk i kontakt med sin far gennem årene, nogle gange gennem almindeligt kendte personer, helt frem til 1947.
Harilal optrådte ved sin fars begravelse i en så forfalden tilstand, at kun få genkendte ham.
Neelam Parikh, datter af Ranibehn, den ældste af Harilals børn, skrev efterfølgende en biografi om ham med titlen Gandhijis tabte juvel: Harilal Gandhi.
