Paul Ehrlich syntyi 14. maaliskuuta 1854 Strehlenissä Ylä-Sleesiassa* Saksassa. Hän oli Ismar Ehrlichin ja hänen vaimonsa Rosa Weigertin poika, jonka veljenpoika oli suuri bakteriologi Karl Weigert.
Ehrlich opiskeli Breslaun lukiossa ja sen jälkeen Breslaun, Strassburgin, Freiburg-im-Breisgaun ja Leipzigin yliopistoissa. Vuonna 1878 hän väitteli lääketieteen tohtoriksi eläinperäisten kudosten värjäyksen teoriaa ja käytäntöä käsittelevällä väitöskirjalla. Tämä työ oli yksi hänen suuren kiinnostuksensa tuloksista W. H. Perkinin vuonna 1853 löytämiä aniliiniväriaineita kohtaan.
Vuonna 1878 hänet nimitettiin professori Frerichsin assistentiksi Berliinin lääketieteelliseen klinikkaan, joka antoi hänelle kaikki mahdollisuudet jatkaa työtään näiden väriaineiden parissa ja kudosten värjäämisessä niillä. Ehrlich osoitti, että kaikki käytetyt väriaineet voitiin luokitella emäksisiksi, happamiksi tai neutraaleiksi, ja hänen työnsä verisolujen rakeiden värjäämisestä loi perustan tulevalle hematologiselle työlle ja kudosten värjäämiselle.
Vuonna 1882 Ehrlich julkaisi Kochin keksimän tuberkuloosibasillin värjäysmenetelmänsä, ja tämä menetelmä oli perusta myöhemmille muutoksille, jotka Ziehl ja Neelson ottivat käyttöönsä ja joita käytetään edelleen. Siitä johdettiin myös nykyajan bakteriologien niin paljon käyttämä Gram-värjäysmenetelmä.
Vuonna 1882 Ehrlichistä tuli titulaariprofessori, ja vuonna 1887 hän pätevöityi väitöskirjansa Das Sauerstoffbedürfnis des Organismus (Elimistön hapentarve) perusteella yksityisopettajaksi (Privatdozent) Berliinin yliopiston lääketieteelliseen tiedekuntaan. Myöhemmin hänestä tuli siellä apulaisprofessori ja Berliinin Charitén sairaalan johtava ylilääkäri.
Vuonna 1890 Robert Koch, vastaperustetun tartuntatauti-instituutin johtaja, nimitti Ehrlichin yhdeksi apulaisekseen, ja Ehrlich aloitti tuolloin immunologiset tutkimukset, joihin hänen nimensä liitetään ikuisesti.
Vuoden 1896 lopussa Berliinin Steglitziin perustettiin terapeuttisten seerumien valvontainstituutti (Institute for the Control of Therapeuttisten Seerumien Control of Therapeutic Seerumin Institute), jonka johtajaksi Ehrlich nimitettiin. Täällä hän teki edelleen merkittävää työtä immunologian alalla, erityisesti hemolysiinien parissa. Hän osoitti myös, että toksiini-antitoksiinireaktio kiihtyy kemiallisten reaktioiden tapaan kuumuuden vaikutuksesta ja hidastuu kylmyyden vaikutuksesta ja että antitoksiinipitoisuus antitoksiiniseerumeissa vaihteli eri syistä niin paljon, että oli tarpeen luoda standardi, jonka avulla niiden antitoksiinipitoisuus voitiin mitata tarkasti. Tämä onnistui von Behringin antidifteriittiseerumin avulla, ja näin hän pystyi standardoimaan tämän seerumin kiinteään ja muuttumattomaan standardiin suhteutetuissa yksiköissä. Ehrlichin luomat menetelmät muodostivat perustan kaikelle myöhemmälle seerumien standardoinnille. Tämä työ ja hänen muut immunologiset tutkimuksensa saivat Ehrlichin muotoilemaan kuuluisan sivuketjuteoriansa immuniteetista.
Vuonna 1897 Ehrlich nimitettiin Frankfurt am Mainin kansanterveyspäälliköksi, ja kun Frankfurtiin perustettiin vuonna 1899 Kuninkaallinen kokeellisen hoidon instituutti, Ehrlichistä tuli sen johtaja. Hänestä tuli myös Frau Franziska Speyerin perustaman Georg Speyerhausin johtaja, joka rakennettiin Ehrlichin instituutin naapuriin. Nämä nimitykset merkitsivät Ehrlichin monipuolisten tutkimusten kolmannen vaiheen alkua. Hän omistautui nyt kemoterapialle ja perusti työnsä ajatukseen, joka oli sisältynyt hänen nuorena kirjoittamaansa väitöskirjaan, että käytettävien lääkkeiden kemiallista koostumusta on tutkittava suhteessa niiden vaikutustapaan ja niiden affiniteettiin niiden organismien soluihin, joita vastaan ne oli suunnattu. Hänen tavoitteenaan oli, kuten hän asian ilmaisi, löytää kemiallisia aineita, joilla on erityinen affiniteetti patogeenisiin organismeihin, joihin ne menisivät, kuten antitoksiinit menevät niihin toksiineihin, joihin ne ovat nimenomaan sukua, ja jotka olisivat, kuten Ehrlich asian ilmaisi, ”taikaluotia”, jotka menisivät suoraan niihin organismeihin, joihin ne oli suunnattu.
Tämän tavoitteen saavuttamiseksi Ehrlich testasi avustajiensa avulla satoja kemiallisia aineita, jotka hän oli valinnut vielä suuremmasta joukosta keräämiään. Hän tutki muun muassa trypanosomiaasin ja muiden alkueläintautien hoitoa ja valmisti trypanpunaista, joka oli, kuten hänen japanilainen avustajansa Shiga osoitti, tehokas trypanosomeja vastaan. Hän määritteli myös yhdessä A. Bertheimin kanssa atoksyylin oikean rakennekaavan, jonka teho tiettyjä kokeellisia trypanosomiaaseja vastaan tunnettiin. Tämä työ avasi tien lukuisten uusien kolmenarvoisen arseenin sisältämien orgaanisten yhdisteiden saamiseksi, joita Ehrlich testasi.
Tähän aikaan Schaudinn ja Hoffmann löysivät Berliinissä syfilistä aiheuttavan spirokeetan, ja Ehrlich päätti etsiä lääkettä, joka tehoaisi erityisesti tähän spirokeettaan. Muihin tarkoituksiin jo testattujen arseenilääkkeiden joukossa oli yksi, testatun sarjan 606. lääke, joka oli hyllytetty vuonna 1907 tehottomana. Mutta kun Ehrlichin entinen kollega Kitasato lähetti oppilaansa nimeltä Hata työskentelemään Ehrlichin instituuttiin, Ehrlich sai tietää, että Hata oli onnistunut tartuttamaan kaneihin kupan, ja pyysi häntä testaamaan hylätyn lääkkeen näillä kaneilla. Hata teki niin ja totesi, että se oli erittäin tehokas.
Kun sadat kokeet olivat toistuvasti osoittaneet sen tehon syfilistä vastaan, Ehrlich julkisti sen nimellä ”Salvarsan”. Myöhemmin tehtiin lisää työtä tämän aiheen parissa, ja lopulta kävi ilmi, että 914. arseeniaine, jolle annettiin nimi ”Neosalvarsan”, oli, vaikkakin sen parantava vaikutus oli vähäisempi, helpommin valmistettavissa ja, koska se oli liukoisempi, sitä tuli helpommin annosteltua. Ehrlich joutui, kuten niin monet muutkin löytäjät ennen häntä, taistelemaan paljon vastustusta vastaan, ennen kuin Salvarsan tai Neosalvarsan hyväksyttiin ihmisen syfiliksen hoitoon; mutta lopulta käytännön kokemus voitti, ja Ehrlichistä tuli kuuluisa yhtenä kemoterapian tärkeimmistä perustajista.
Elämänsä myöhempinä vuosina Ehrlich keskittyi kasvaimia koskevaan kokeelliseen työhön ja näkemykseensä, jonka mukaan sarkooma voi kehittyä karsinoomasta, sekä teoriaansa syövän atreptisestä immuniteetista.
Ehrlichin koko elämänsä ajan osoittama väsymätön ahkeruus, hänen ystävällisyytensä ja vaatimattomuutensa, hänen elinikäinen tapansa syödä vähän ja polttaa lakkaamatta 25 vahvaa sikaria päivässä, joita hän kantoi usein laatikollisen kainalossaan, Hänen entinen sihteerinsä Martha Marquardt on kuvaillut elävästi Ehrlichin entisen sihteeri Martha Marquardtin elämäkerrassa, joka on antanut meille yksityiskohtaisen kuvan Ehrlichin elämästä Frankfurtissa, ja hän vaati, että hänen julkaisemansa tulokset todistetaan toistuvasti monilla kokeilla. Frankfurtissa katu, jonka varrella hänen instituuttinsa sijaitsi, nimettiin hänen mukaansa Paul Ehrlichstrasse, mutta myöhemmin, kun juutalaisten vaino alkoi, tämä nimi poistettiin, koska Ehrlich oli juutalainen. Toisen maailmansodan jälkeen, kun hänen synnyinkaupunkinsa Strehlen joutui Puolan viranomaisten alaisuuteen, se nimettiin kuitenkin uudelleen Ehrlichstadtiksi suuren poikansa kunniaksi.
Ehrlich oli peräti 81 akatemian ja muun tiedeyhteisön varsinainen, ulkomaalainen tai kunniajäsen Belgiassa, Brasiliassa, Itävallassa, Brasiliassa, Brasiliassa, Egyptissä, Isossa-Britanniassa, Espanjassa, Itävallassa, Ranskassa, Saksassa, Kreikassa, Isossa-Britanniassa, Unkarissa, Alankomaissa, Norjassa, Norjassa, Tanskassa, Romanialla, Ruotsissa, Serbiassa, Ranskassa, Ruotsissa, Saksassa, Turkkilaisessa, Turkissa, Unkarissa, Venezuelassa ja Yhdysvalloissa. Hän on Chicagon, Göttingenin, Oxfordin, Ateenan ja Breslaun yliopistojen kunniatohtori, ja häntä on kunnioitettu myös Saksassa, Venäjällä, Japanissa, Espanjassa, Romaniassa, Serbiassa, Venezuelassa, Tanskassa (Danebrog-ristin komentajaristi) ja Norjassa (St. Olafin kuninkaallisen ritarikunnan komentajaristi).
Vuonna 1887 hänelle myönnettiin Frankfurt/Mainissa sijaitsevan Senckenberg Naturforschende Gesellschaftin Tiedemann-palkinto, vuonna 1906 Lissabonissa pidetyn XV kansainvälisen lääketieteen kongressin kunniapalkinto, vuonna 1911 Saksan kemiallisen seuran Liebig-mitali ja vuonna 1914 Edinburghin Cameron-palkinto. Vuonna 1908 hän jakoi Metchnikoffin kanssa korkeimman tieteellisen kunnianosoituksen, Nobel-palkinnon.
Preussin hallitus valitsi hänet vuonna 1897 salaiseksi lääkintöneuvokseksi, korotti hänet 1907 tätä korkeampaan arvoon vuonna 1907 ja nosti hänet vuonna 1911 korkeimpaan arvoon, todelliseksi salaiseksi lääkintöneuvokseksi arvonimellä Excellency.
Ehrlich avioitui vuonna 1883 Hedwig Pinkuksen kanssa, joka oli tuolloin 19-vuotias. Heillä oli kaksi tytärtä, Stephanie (rouva Ernst Schwerin) ja Marianne (rouva Edmund Landau).
Ensimmäisen maailmansodan puhjettua vuonna 1914 hän kärsi siitä kovasti, ja saman vuoden jouluna hän sai lievän aivohalvauksen. Hän toipui siitä nopeasti, mutta hänen terveytensä, joka ei ollut koskaan pettänyt häntä, lukuun ottamatta varhaisvuosien tuberkuloositulehdusta, jonka vuoksi hän oli joutunut viettämään kaksi vuotta Egyptissä, alkoi nyt heiketä, ja kun hän vuonna 1915 lähti lomalle Bad Homburgiin, hän sai 20. elokuuta samana vuonna toisen aivohalvauksen, joka päätti hänen elämänsä.