Harilal nació el 23 de agosto de 1888, justo antes de que su padre partiera hacia Inglaterra para cursar estudios superiores. Harilal permaneció en la India con su madre.
Harilal participó en el movimiento independentista indio, y fue encarcelado como satyagrahi seis veces entre 1908 y 1911. Su voluntad de soportar estas condenas le valió el apodo de «Chhote (Pequeño) Gandhi».
También quería ir a Inglaterra para cursar estudios superiores, con la esperanza de convertirse en abogado como lo había sido su padre. Sin embargo, su padre se opuso firmemente, pues creía que una educación de tipo occidental no sería útil en la lucha contra el dominio británico sobre la India, lo que provocó tensiones entre padre e hijo. Finalmente, rebelándose contra la decisión de su padre, en 1911 Harilal renunció a todos los lazos familiares.
En 1906 se casó con Gulab Gandhi, con quien tuvo cinco hijos: dos hijas, Rani y Manu; y tres hijos, Kantilal, Rasiklal y Shantilal. Rasiklal y Shantilal murieron a una edad temprana. Tuvo cuatro nietos (Anushrya, Prabodh, Neelam Solanki y Navmalika) a través de Rani, dos (Shanti y Pradeep) a través de Kantilal y uno (Urmi) a través de Manu. Tras la muerte de Gulab durante la pandemia de gripe de 1918, Harilal se distanció de sus hijos. Contempló la posibilidad de casarse con la hermana de su esposa, Kumi Adalaja, que era una niña viuda, pero no se concretó. Esto hizo que Harilal siguiera descendiendo y poco a poco empezó a decaer y se convirtió en un alcohólico. Se mantuvo en contacto con su padre de forma esporádica a lo largo de los años, a veces a través de personas conocidas, hasta 1947.
Harilal apareció en el funeral de su padre en un estado tan ruinoso que pocos le reconocieron.
Neelam Parikh, la hija de Ranibehn, el mayor de los hijos de Harilal, escribió posteriormente una biografía sobre él, titulada La joya perdida de Gandhiji: Harilal Gandhi.
