Harilal werd geboren op 23 augustus 1888, vlak voordat zijn vader naar Engeland vertrok voor hogere studies. Harilal bleef met zijn moeder in India.
Harilal was betrokken bij de Indiase onafhankelijkheidsbeweging, en werd tussen 1908 en 1911 zes keer als satyagrahi gevangen gezet. Zijn bereidheid om deze straffen te doorstaan leverde hem de bijnaam ‘Chhote (Kleine) Gandhi’ op.
Ook hij wilde naar Engeland voor hogere studies, in de hoop advocaat te worden zoals zijn vader ooit was geweest. Zijn vader was hier echter fel op tegen, omdat hij dacht dat een opleiding in westerse stijl niet nuttig zou zijn in de strijd tegen de Britse overheersing over India, wat leidde tot spanningen tussen vader en zoon. Uiteindelijk rebelleerde Harilal tegen zijn vaders besluit en deed in 1911 afstand van alle familiebanden.
In 1906 trouwde hij met Gulab Gandhi, met wie hij vijf kinderen kreeg: twee dochters, Rani en Manu; en drie zoons, Kantilal, Rasiklal en Shantilal. Rasiklal en Shantilal stierven op jonge leeftijd. Hij had vier kleinkinderen (Anushrya, Prabodh, Neelam Solanki, en Navmalika) via Rani, twee (Shanti en Pradeep) via Kantilal, en één (Urmi) via Manu. Nadat Gulab stierf tijdens de grieppandemie van 1918, raakte Harilal los van zijn kinderen. Hij overwoog te trouwen met de zuster van zijn vrouw, Kumi Adalaja, die een kinderweduwe was, maar dit kwam er niet van. Dit leidde tot Harilal’s verdere aftakeling en hij begon geleidelijk aan af te glijden en werd alcoholist. Hij bleef door de jaren heen sporadisch contact houden met zijn vader, soms via algemeen bekende personen, tot aan 1947.
Harilal verscheen op zijn vaders begrafenis in zo’n vervallen toestand dat weinigen hem herkenden.
Neelam Parikh, de dochter van Ranibehn, de oudste van Harilals kinderen, schreef later een biografie over hem, getiteld Gandhiji’s Lost Jewel: Harilal Gandhi.