Paul Ehrlich werd op 14 maart 1854 geboren in Strehlen, in Opper-Silezië*, Duitsland. Hij was de zoon van Ismar Ehrlich en zijn vrouw Rosa Weigert, wiens neef de grote bacterioloog Karl Weigert was.
Ehrlich werd opgeleid aan het Gymnasium van Breslau en vervolgens aan de Universiteiten van Breslau, Strassburg, Freiburg-im-Breisgau en Leipzig. In 1878 promoveerde hij tot doctor in de geneeskunde op een proefschrift over de theorie en de praktijk van het kleuren van dierlijke weefsels. Dit werk was een van de resultaten van zijn grote belangstelling voor de aniline kleurstoffen ontdekt door W. H. Perkin in 1853.
In 1878 werd hij benoemd tot assistent van Professor Frerichs aan de Berlijnse Medische Kliniek, die hem alle faciliteiten gaf om zijn werk met deze kleurstoffen en het kleuren van weefsels daarmee voort te zetten. Ehrlich toonde aan dat alle gebruikte kleurstoffen konden worden ingedeeld in basisch, zuur of neutraal en zijn werk met betrekking tot het kleuren van korrels in bloedcellen legde de basis voor toekomstige werkzaamheden op het gebied van de hematologie en het kleuren van weefsels.
In 1882 publiceerde Ehrlich zijn methode voor het kleuren van de tuberkelbacil die Koch had ontdekt en deze methode vormde de basis van de latere modificaties die door Ziehl en Neelson werden ingevoerd en die nog steeds worden gebruikt. Hieruit werd ook de Gram-methode afgeleid voor het kleuren van bacteriën die door moderne bacteriologen zo veel wordt gebruikt.
In 1882 werd Ehrlich titulair hoogleraar en in 1887 kwalificeerde hij zich, naar aanleiding van zijn dissertatie Das Sauerstoffbedürfnis des Organismus (De behoefte van het organisme aan zuurstof) als Privatdozent (onbezoldigd docent of instructeur) aan de medische faculteit van de universiteit van Berlijn. Later werd hij daar universitair hoofddocent en hoofdhuisarts van het Charité-ziekenhuis in Berlijn.
In 1890 benoemde Robert Koch, directeur van het pas opgerichte Instituut voor Infectieziekten, Ehrlich tot een van zijn assistenten en Ehrlich begon toen met de immunologische studies waarmee zijn naam voor altijd zal worden geassocieerd.
Eind 1896 werd in Steglitz in Berlijn een Instituut voor de controle van therapeutische sera opgericht en Ehrlich werd benoemd tot directeur daarvan. Hier verrichtte hij verder belangrijk werk op het gebied van de immunologie, met name op het gebied van de hemolysinen. Hij toonde ook aan dat de toxine-antitoxine reactie, zoals chemische reacties, versneld wordt door warmte en vertraagd door koude en dat het gehalte aan antitoxine in antitoxische sera om verschillende redenen zo sterk varieerde dat het noodzakelijk was een standaard vast te stellen waarmee hun antitoxine gehalte precies kon worden gemeten. Hij slaagde hierin met het antitoxineserum van von Behring en maakte het aldus mogelijk dit serum te standaardiseren in eenheden die gerelateerd waren aan een vaste en onveranderlijke standaard. De methoden die Ehrlich hiervoor ontwikkelde vormden de basis voor alle toekomstige standaardiseringen van sera. Dit werk en zijn andere immunologische studies brachten Ehrlich tot het formuleren van zijn beroemde zijketen-theorie van de immuniteit.
In 1897 werd Ehrlich benoemd tot officier van volksgezondheid te Frankfurt-am-Main en toen in 1899 het Koninklijk Instituut voor Experimentele Therapie te Frankfurt werd opgericht, werd Ehrlich er directeur van. Hij werd ook directeur van het Georg Speyerhaus, dat door Frau Franziska Speyer was gesticht en naast Ehrlichs instituut was gebouwd. Deze benoemingen markeerden het begin van de derde fase van Ehrlichs vele en gevarieerde onderzoek. Hij wijdde zich nu aan de chemotherapie, waarbij hij zich baseerde op het idee dat hij als jonge man al in zijn proefschrift had verwoord, namelijk dat de chemische samenstelling van de gebruikte geneesmiddelen moest worden bestudeerd in relatie tot hun werkingsmechanisme en hun affiniteit met de cellen van de organismen waartegen zij waren gericht. Zijn doel was, zoals hij het uitdrukte, chemische stoffen te vinden die een bijzondere affiniteit hebben voor ziekteverwekkende organismen, waar zij naar toe zouden gaan, zoals antitoxinen naar de toxinen gaan waarmee zij specifiek verwant zijn, en die, zoals Ehrlich het uitdrukte, “magische kogels” zouden zijn die recht op de organismen afgaan waartegen zij gericht waren.
Om dit te bereiken testte Ehrlich, met de hulp van zijn assistenten, honderden chemische stoffen, geselecteerd uit het nog grotere aantal dat hij had verzameld. Hij bestudeerde, naast andere onderwerpen, de behandeling van trypanosomiasis en andere protozoaire ziekten en produceerde trypan rood, dat, zoals zijn Japanse assistent Shiga aantoonde, effectief was tegen trypanosomen. Hij stelde ook, samen met A. Bertheim, de juiste structuurformule van atoxyl vast, waarvan de doeltreffendheid tegen bepaalde experimentele trypanosomiases bekend was. Dit werk opende de weg voor het verkrijgen van talrijke nieuwe organische verbindingen met driewaardig arsenicum, die Ehrlich testte.
In deze tijd werd de spirochaete die syfilis veroorzaakt ontdekt door Schaudinn en Hoffmann in Berlijn, en Ehrlich besloot een geneesmiddel te zoeken dat speciaal werkzaam zou zijn tegen deze spirochaete. Onder de reeds voor andere doeleinden geteste arsenische middelen bevond zich een middel, het 606e van de geteste serie, dat in 1907 terzijde was gelegd omdat het niet werkzaam was. Maar toen Ehrlich’s vroegere collega Kitasato een leerling van hem, Hata genaamd, naar Ehrlich’s Instituut stuurde om te werken, vroeg Ehrlich, toen hij hoorde dat Hata erin geslaagd was konijnen met syfilis te besmetten, hem om dit afgedankte middel op deze konijnen te testen. Hata deed dit en ontdekte dat het zeer effectief was.
Toen honderden experimenten herhaaldelijk de werkzaamheid tegen syfilis hadden aangetoond, kondigde Ehrlich het aan onder de naam “Salvarsan”. Vervolgens werd verder gewerkt aan dit onderwerp en uiteindelijk bleek dat de 914e arseenhoudende stof, waaraan de naam “Neosalvarsan” werd gegeven, hoewel de genezende werking minder was, gemakkelijker te vervaardigen was en, doordat het beter oplosbaar was, gemakkelijker toegediend kon worden. Ehrlich moest, zoals zovele andere ontdekkers vóór hem, veel tegenstand overwinnen voordat Salvarsan of Neosalvarsan werden aanvaard voor de behandeling van menselijke syfilis; maar uiteindelijk kreeg de praktische ervaring de overhand en werd Ehrlich beroemd als een van de belangrijkste grondleggers van de chemotherapie.
Gedurende de latere jaren van zijn leven hield Ehrlich zich bezig met experimenteel werk aan tumoren en met zijn opvatting dat sarcoom zich kan ontwikkelen uit carcinoom, ook met zijn theorie van athreptische immuniteit tegen kanker.
De onvermoeibare ijver die Ehrlich zijn leven lang aan de dag legde, zijn vriendelijkheid en bescheidenheid, zijn levenslange gewoonte om weinig te eten en onophoudelijk 25 sterke sigaren per dag te roken, waarvan hij vaak een doos onder een arm meedroeg, zijn onveranderlijk aandringen op het herhaaldelijk bewijzen door vele experimenten van de resultaten die hij publiceerde, en de verering en toewijding die al zijn assistenten hem betoonden, zijn levendig beschreven door zijn vroegere secretaresse, Martha Marquardt, wier biografie van hem ons een gedetailleerd beeld geeft van zijn leven in Frankfurt. In Frankfurt werd de straat waarin zijn instituut was gevestigd naar hem genoemd, de Paul Ehrlichstrasse, maar later, toen de jodenvervolging begon, werd deze naam verwijderd omdat Ehrlich een jood was. Na de Tweede Wereldoorlog echter, toen zijn geboorteplaats Strehlen onder de jurisdictie van de Poolse autoriteiten kwam, herdoopten zij het tot Ehrlichstadt, ter ere van haar grote zoon.
Ehrlich was gewoon, buitenlands, corresponderend of erelid van niet minder dan 81 academies en andere geleerde lichamen in Oostenrijk, België, Brazilië, Denemarken, Egypte, Finland, Frankrijk, Duitsland, Groot-Brittannië, Griekenland, Hongarije, Italië, Nederland, Noorwegen, Roumanië, Rusland, Servië, Zweden, Turkije, de V.S. en Venezuela. Hij ontving eredoctoraten van de universiteiten van Chicago, Göttingen, Oxford, Athene en Breslau, en werd tevens geëerd door Ordes in Duitsland, Rusland, Japan, Spanje, Roemenië, Servië, Venezuela, Denemarken (Commandeurskruis van de Danebrog Orde), en Noorwegen (Commandeurskruis van de Koninklijke Orde van St. Olaf).
In 1887 ontving hij de Tiedemann-prijs van het Senckenberg Naturforschende Gesellschaft te Frankfurt/Main, in 1906 de ereprijs op het XVe Internationale Congres voor Geneeskunde te Lissabon, in 1911 de Liebig-medaille van de Duitse Chemische Vereniging, en in 1914 de Cameron-prijs van Edinburgh. In 1908 deelde hij met Metchnikoff de hoogste wetenschappelijke onderscheiding, de Nobelprijs.
De Pruisische regering verkoos hem in 1897 tot Privaat Medisch Raadsman, bevorderde hem in 1907 tot een hogere rang van deze Raadsman en verhief hem in 1911 tot de hoogste rang, Echte Privaatrechtelijke Raadsman met de titel van Excellentie.
Ehrlich trouwde in 1883 met Hedwig Pinkus, die toen 19 jaar oud was. Zij kregen twee dochters, Stephanie (mw. Ernst Schwerin) en Marianne (mw. Edmund Landau).
Toen in 1914 de Eerste Wereldoorlog uitbrak, was hij daar erg door aangeslagen en met Kerstmis van dat jaar kreeg hij een lichte beroerte. Hij herstelde hiervan snel, maar zijn gezondheid, die hem, afgezien van een tuberculose-infectie in zijn vroege leven waardoor hij twee jaar in Egypte moest doorbrengen, nooit in de steek had gelaten, begon nu af te nemen en toen hij in 1915 voor een vakantie naar Bad Homburg ging, kreeg hij, op 20 augustus van dat jaar, een tweede beroerte die een einde aan zijn leven maakte.