À partir de 1925, les chercheurs de Harvard Henry Osborn Taylor, Alfred North Whitehead et Lawrence Joseph Henderson se sont rencontrés à plusieurs reprises pour discuter de leur frustration face aux conditions des études supérieures à l’université. Ils croyaient que pour produire des recherches exceptionnelles, les hommes les plus compétents avaient besoin de se libérer des soucis financiers, de moins d’exigences formelles et de la liberté de choisir l’objet d’étude qui les attirait.
Ils ont rapidement trouvé un allié en Abbott Lawrence Lowell, alors président de Harvard, qui, en 1926, a nommé un comité, avec Henderson comme président, pour étudier la nature d’une institution susceptible d’améliorer la qualité de l’enseignement supérieur. Le comité a recommandé la création d’une Société de Fellows à Harvard, sur le modèle en partie de la Fondation Dosne-Thiers à Paris et en partie de la Bourse du Prix au Trinity College de Cambridge, avec l’espoir qu’une telle société produirait non seulement « des génies isolés, mais des hommes qui feront l’œuvre du monde ».
Après des années à essayer d’attirer des dons extérieurs, Lowell finance lui–même la Société – son dernier acte institutionnel majeur avant sa démission en novembre 1932. « Il n’y avait pas de source visible de fonds nécessaires », écrira-t-il plus tard, « Je l’ai donné moi-même, dans une sorte de désespoir, même si cela prenait presque tout ce que j’avais. »Bien que ce soit un secret de polichinelle que Lowell soit la source du don anonyme, cela n’a jamais été reconnu en sa présence. Après la mort de Lowell en 1943, le don a été officiellement rendu public; il est connu sous le nom de Fonds Anna Parker Lowell en mémoire de la femme de Lowell.
La société a été officiellement inaugurée en tant qu’alternative au système de doctorat avec le début de l’année académique 1933-34, accordant aux boursiers la liberté de poursuivre des pistes de recherche qui transcendaient les frontières disciplinaires académiques traditionnelles. En raison de la croyance fondamentale en l’importance des discussions informelles entre chercheurs dans différents domaines académiques, les boursiers seniors et juniors se sont rencontrés pour dîner tous les lundis soirs pendant la période de trimestre. Ils sont fréquemment rejoints par des chercheurs invités et les boursiers sont encouragés à amener des invités.
À l’origine basée dans une suite de deux pièces à Eliot House, l’un des douze collèges résidentiels de l’université, la société a été fermée aux femmes jusqu’en 1972, lorsque Martha Nussbaum a été choisie comme première femme Junior Fellow.