Harilal 1888. augusztus 23-án született, közvetlenül azelőtt, hogy apja Angliába távozott volna felsőfokú tanulmányok céljából. Harilal az édesanyjával Indiában maradt.
Harilal részt vett az indiai függetlenségi mozgalomban, és 1908 és 1911 között szatjagrahiként hatszor került börtönbe. Azért, mert hajlandó volt elviselni ezeket a büntetéseket, a “Chhote (Kis) Gandhi” becenevet kapta.
Ő is Angliába akart menni felsőfokú tanulmányokat végezni, abban a reményben, hogy ügyvéd lesz, mint egykor az apja. Apja azonban határozottan ellenezte ezt, mivel úgy vélte, hogy a nyugati típusú oktatás nem lenne hasznos az India feletti brit uralom elleni harcban, ami feszültségekhez vezetett apa és fia között. Végül apja döntése ellen lázadva Harilal 1911-ben lemondott minden családi kötelékről.
1906-ban feleségül vette Gulab Gandhit, akitől öt gyermeke született: két lánya, Rani és Manu; és három fia, Kantilal, Rasiklal és Shantilal. Rasiklal és Shantilal korán meghaltak. Rani révén négy unokája született (Anushrya, Prabodh, Neelam Solanki és Navmalika), Kantilal révén kettő (Shanti és Pradeep), Manu révén pedig egy (Urmi). Miután Gulab meghalt az 1918-as influenzajárvány során, Harilal elszakadt a gyermekeitől. Fontolgatta, hogy feleségének húgát, Kumi Adalaját veszi feleségül, aki gyermeközvegy volt, ez azonban nem valósult meg. Ez Harilal további süllyedéséhez vezetett, és fokozatosan kezdett lecsúszni, alkoholista lett. Az évek során szórványosan tartotta a kapcsolatot apjával, néha közismert embereken keresztül, egészen 1947-ig.
Harilal olyan lepusztult állapotban jelent meg apja temetésén, hogy kevesen ismerték fel.
Neelam Parikh, Ranibehn lánya, Harilal legidősebb gyermeke, később életrajzot írt róla, Gandhiji elveszett ékköve: Harilal Gandhi címmel.
