Weber studierte in Breslau, dann in Bonn als Schüler von Christian Lassen, später in Berlin, wo ihn Franz Bopp in die Indogermanistik einführte. Promotion in Breslau, Habilitation 1848 in Berlin für altindische Sprache und Literatur, 1856 außerordentlicher und 1867 ordentlicher Professor in Berlin, seit 1857 Mitglied der Preußischen Akademie der Wissenschaften.

Das Hauptarbeitsgebiet von Weber war die Indologie. Er veröffentlichte 1853 ein Verzeichnis der Sanskrithandschriften der Königlichen Bibliothek in Berlin, gründete die Zeitschrift "Indische Studien" (Zeitschrift für die Kunde des indischen Altertums) und erzielte mit seinem dreibändigen, großen Werk des "Weißen Yajurveda", Hauptquelle für das altindische Opferzeremoniell eine bedeutende Wirkung.