Une poignée de colons européens ont cultivé la région au 17e, 18e et début du 19e siècle, lorsque Fairmount était encore en dehors des limites de la ville de Philadelphie. D’éminentes familles de la ville y ont également établi des résidences de campagne, notamment Bush Hill, White Hall et Lemon Hill, dont la dernière se dresse toujours au-dessus de la rivière Schuylkill. Fairmount se trouvait à l’origine dans le Penn Township, qui fut ensuite divisé, plaçant le futur quartier dans le Spring Garden District nouvellement créé jusqu’en 1854, date à laquelle il fut incorporé à la ville de Philadelphie.
Pendant la Révolution américaine, les soldats britanniques qui occupaient Philadelphie construisirent des ouvrages défensifs commençant sur la colline de Fairmount et se poursuivant sur plusieurs kilomètres le long d’une ligne située juste au sud de l’actuelle Fairmount Avenue jusqu’au fleuve Delaware. Leur but était d’empêcher les troupes américaines sous les ordres de George Washington de les attaquer par le nord – le seul côté de la ville qui n’était pas protégé par l’eau.
Des signes d’expansion urbaine sont apparus au début du 19e siècle, lorsque trois grandes institutions innovantes et reconnues internationalement se sont installées dans le quartier. La première d’entre elles était le barrage et les travaux hydrauliques de Fairmount, au pied de la colline de Fairmount. À partir de 1822, l’usine hydraulique a utilisé la force motrice de l’eau pour pomper l’eau de la rivière Schuylkill dans des réservoirs situés au sommet de la colline Fairmount, d’où l’eau s’écoulait par gravité dans les maisons et les entreprises de la ville. Cette merveille d’ingénierie était également une attraction architecturale et touristique. Ses bâtiments, qui comprenaient un restaurant, sont parmi les premiers exemples d’architecture néo-grecque aux États-Unis. La protection de l’eau potable municipale pompée par la Water Works a été à l’origine de l’achat de terrains le long de la Schuylkill qui sont devenus plus tard le Fairmount Park, l’un des plus grands systèmes de parcs municipaux du monde. Charles Dickens a cité la Water Works comme l’une des deux choses qu’il voulait particulièrement voir pendant son séjour à Philadelphie.
L’autre était l’Eastern State Penitentiary, à moins d’un demi-mile de là, sur Fairmount Avenue. La prison a ouvert en 1829, la première prison du pays construite spécifiquement avec l’intention de réformer plutôt que de simplement punir les criminels. Le plan en étoile de la prison était également une première et est devenu le modèle de centaines de prisons dans le monde (il a souvent été appelé le « modèle de Pennsylvanie »). Ce n’est toutefois pas le cas de son système unique d’isolement cellulaire pour tous les prisonniers. Destiné à soulager les prisonniers de la surpopulation et de la misère des autres prisons et à leur donner le temps de réfléchir à leurs crimes, il a plutôt conduit à un désespoir intense et parfois à la folie chez les détenus et a été vertement condamné par Dickens lors de sa visite.
En 1831, ces deux institutions innovantes ont été rejointes par une troisième : le Girard College. Cette école a été fondée conformément au testament de Stephen Girard, probablement l’homme le plus riche d’Amérique au moment de sa mort. Lui-même orphelin, il voulait créer une institution modèle pour éduquer les garçons blancs pauvres et orphelins à une époque où l’éducation publique universelle n’existait pas encore.
L’exécuteur testamentaire de Girard était un autre Philadelphien éminent et riche, Nicholas Biddle, ancien secrétaire américain au Trésor, qui a commandé la construction du Founders Hall en l’honneur de Girard. Le Hall est le premier exemple de véritable architecture néo-grecque aux États-Unis et est, comme les Water Works et le Eastern State Penitentiary, un monument historique national. En 1968, Girard College entre à nouveau dans la conscience de la nation lorsque la Cour suprême des États-Unis modifie le testament de Girard en rayant les mots « pauvre, mâle, blanc, orphelin » et crée un précédent majeur pour l’égalité d’accès à l’éducation pour tous les Américains.
Ces trois institutions ont été construites lorsque Fairmount était encore un quartier rural de banlieue de Philadelphie. À partir des années 1830, la ville elle-même a commencé à s’étendre au-delà de ses limites initiales, et un mélange de maisons et d’usines a surgi sur les franges sud du district. La Baldwin Locomotive Works, le plus grand fabricant de moteurs de locomotives de la nation, était située sur le bord sud-est du futur quartier de Fairmount et a été un facteur majeur dans le développement du quartier au sud de Fairmount Avenue dans les années 1840, 50 et 60.
Les maisons de Fairmount étaient généralement des maisons en rangée ou des maisons de ville plus petites et les résidents étaient généralement de la classe ouvrière. Les maisons en rangée étaient entrecoupées de cours à bois, de cours à charbon, de cours à chaux, de fonderies de fer, de boulangeries, de magasins de produits secs, ainsi que de plusieurs usines de wagons et d’écuries. Beaucoup d’entre elles ont été construites dans la seconde moitié du XIXe siècle pour soutenir les usines et les brasseries de la région. Fairmount possède de nombreuses grandes maisons construites pour les directeurs de la Baldwin Locomotive Works, d’autres professionnels et des propriétaires de brasseries qui datent des années 1840.
Fairmount est proche du Musée d’art de Philadelphie, de ses célèbres « Rocky Steps » (immortalisés dans le film oscarisé de 1976, Rocky et de sa nouvelle annexe Perelman). Fairmount est situé au bout de la Benjamin Franklin Parkway, une large avenue de 1,5 miles bordée d’arbres et de drapeaux qui relie l’hôtel de ville au Philadelphia Museum of Art. Ce tronçon est connu sous le nom de « Museum District » car la plupart des attractions culturelles et des musées de la ville s’y trouvent. Le long de la Parkway se trouvent le musée Rodin, la bibliothèque centrale de Philadelphie, le Franklin Institute of Science, l’Académie des sciences naturelles et le musée Barnes. Basée sur les célèbres Champs-Élysées de Paris dans sa conception et en raison de sa capacité à contenir un grand nombre de personnes, la Benjamin Franklin Parkway est également le lieu où se déroulent la plupart des grands événements en plein air de Philadelphie, les défilés, les concerts et les courses.
Le pénitencier d’État de l’Est situé sur Fairmount Avenue est devenu une autre attraction principale pour le quartier. Des visites de cet établissement historique de 1829, aujourd’hui abandonné, sont proposées. Il est également converti chaque année en maison hantée pendant la saison d’Halloween et, en raison de sa ressemblance avec la Bastille, il fait partie de la célébration du Bastille Day de Philadelphie.