Ludwig studierte Medizin an den Universitäten Erlangen und Marburg. 1842 Privatdozent für Physiologie, 1849 ordentlicher Professor der Anatomie und Physiologie in Zürich, 1855 Professor der Physiologie an der medizinisch-chirurgischen Militärakademie in Wien, 1865 bis zum Lebensende Professor der Physiologie in Leipzig.

Ludwig gilt als der Begründer der quantitativen Experimentalphysiologie. Durch eine große Anzahl von Schülern — über 200 aus allen Ländern der zivilisierten Welt — und ein berühmtes Lehrbuch war sein Einfluß auf die Entwicklung der Physiologie entscheidend. Seine Hauptbeiträge betreffen die Physiologie der Harnbereitung, des Kreislaufs, der Atmung und des Nervensystems und die Einführung neuer Methoden, u. a. des Kymographen für die Registrierung von Organfunktionen, der Stromuhr und der Durchblutung isolierter Organe. Viele seiner Beiträge wurden unter den Namen seiner Mitarbeiter veröffentlicht, obgleich Ludwig nicht nur für die Planung verantwortlich war, sondern auch an der Ausführung der Versuche und an der Abfassung der Veröffentlichungen wesentlich beteiligt war.