Harilal s-a născut la 23 august 1888, chiar înainte ca tatăl său să plece în Anglia pentru studii superioare. Harilal a rămas în India cu mama sa.
Harilal a fost implicat în mișcarea de independență a Indiei și a fost întemnițat ca satyagrahi de șase ori între 1908 și 1911. Dorința sa de a îndura aceste condamnări i-a adus porecla de „Chhote (Micul) Gandhi”.
Și el a vrut să meargă în Anglia pentru studii superioare, sperând să devină avocat, așa cum fusese cândva tatăl său. Tatăl său s-a opus însă cu fermitate, considerând că o educație de tip occidental nu ar fi fost de ajutor în lupta împotriva dominației britanice asupra Indiei, ceea ce a dus la tensiuni între tată și fiu. În cele din urmă, răzvrătindu-se împotriva deciziei tatălui său, în 1911 Harilal a renunțat la toate legăturile de familie.
În 1906 s-a căsătorit cu Gulab Gandhi, cu care a avut cinci copii: două fiice, Rani și Manu; și trei fii, Kantilal, Rasiklal și Shantilal. Rasiklal și Shantilal au murit la o vârstă fragedă. A avut patru nepoți (Anushrya, Prabodh, Neelam Solanki și Navmalika) prin Rani, doi (Shanti și Pradeep) prin Kantilal și unul (Urmi) prin Manu. După ce Gulab a murit în timpul pandemiei de gripă din 1918, Harilal s-a detașat de copiii săi. A avut în vedere să se căsătorească cu sora soției sale, Kumi Adalaja, care era văduvă de copii, însă acest lucru nu s-a concretizat. Acest lucru a dus la continuarea decăderii lui Harilal, care a început treptat să alunece și a devenit alcoolic. A păstrat legătura cu tatăl său sporadic de-a lungul anilor, uneori prin intermediul unor persoane cunoscute în mod obișnuit, până în 1947.
Harilal a apărut la înmormântarea tatălui său într-o stare atât de degradată încât puțini l-au recunoscut.
Neelam Parikh, fiica lui Ranibehn, cel mai mare dintre copiii lui Harilal, a scris ulterior o biografie a acestuia, intitulată „Bijuteria pierdută a lui Gandhiji: Harilal Gandhi”
.