Harilal nasceu em 23 de agosto de 1888, pouco antes de seu pai partir para a Inglaterra para estudos superiores. Harilal permaneceu na Índia com sua mãe.
Harilal esteve envolvido no movimento de independência indiano, e foi preso como um satyagrahi seis vezes entre 1908 e 1911. A sua vontade de suportar estas sentenças valeu-lhe o apelido de ‘Chhote (Little) Gandhi’.
Ele também queria ir para Inglaterra para estudos superiores, na esperança de se tornar um advogado, como o seu pai já tinha sido. Seu pai, porém, se opôs firmemente a isso, acreditando que uma educação ao estilo ocidental não seria útil na luta contra o domínio britânico sobre a Índia, levando a tensões entre pai e filho. Eventualmente rebelando-se contra a decisão de seu pai, em 1911 Harilal renunciou a todos os laços familiares.
Em 1906 ele casou-se com Gulab Gandhi, com quem tinha tido cinco filhos: duas filhas, Rani e Manu; e três filhos, Kantilal, Rasiklal e Shantilal. Rasiklal e Shantilal morreram em tenra idade. Ele teve quatro netos (Anushrya, Prabodh, Neelam Solanki e Navmalika) via Rani, dois (Shanti e Pradeep) via Kantilal, e um (Urmi) via Manu. Após a morte de Gulab durante a pandemia de influenza de 1918, Harilal se separou de seus filhos. Ele contemplou casar-se com a irmã de sua esposa Kumi Adalaja, que era viúva de infância, mas isso não se materializou. Isso levou Harilal a uma maior descendência e ele gradualmente começou a escorregar e se tornou um alcoólatra. Ele permaneceu em contato com seu pai esporadicamente através dos anos, às vezes através de pessoas comumente conhecidas, até 1947.
Harilal apareceu no funeral de seu pai numa condição tão degradada que poucos o reconheceram.
Neelam Parikh, a filha de Ranibehn, o mais velho dos filhos de Harilal, escreveu uma biografia dele posteriormente, intitulada A Jóia Perdida de Gandhiji: Harilal Gandhi.
