Wellhausen studierte in Göttingen Hebräisch und Altes Testament, dann orientalische Sprachen, war Privatdozent für Alttestamentliche Wissenschaft, Professor in Greifswald, Halle, Marburg und Göttingen, wo er als Nachfolger Lagarde's von 1892 bis 1913 lehrte.

Als junger Gelehrter hat Wellhausen die Entwicklungsgeschichte der alttestamentlichen Literatur in völlig neuer Weise und in meisterhafter Sprache dargestellt. Von den orthodoxen Theologen wurde er heftig bekämpft, der englische Minister Gladstone schrieb ein Buch gegen ihn. Die "Wellhausensche Anschauung" setzte sich weithin durch. Die neuere Erforschung des vorderen Orients und literaturgeschichtliche Arbeiten am Alten Testament lassen zwar manches heute etwas anders erscheinen als bei Wellhausen, doch ist die ganze moderne alttesttamentliche Wissenschaft ohne ihn nicht zu denken.

Mit gleich hervorragendem Erfolg arbeitete Wellhausen am Neuen Testament, an der altarabischen Poesie, an der islamisch-arabischen Geschichtsschreibung und an der altarabischen Religionsgeschichte. Seine Bücher über "Reste arabischen Heidentums" und "Das arabische Reich und sein Sturz", in dem Wellhausen den Maßstab historischer Kritik an die Überlieferungen der arabischen Chronistik legte, zählen zu den klassischen Werken der Islamkunde.