Diels studierte in Berlin und Bonn, wo er 1870 bei Usener (1897) promovierte. Gymnasiallehrer in Hamburg und Berlin. 1881 in die Preußische Akademie gewählt, deren ständiger Sekretär der philosophisch-historischen Klasse er 1895 wurde. 1882 a. o. und 1886 o. Professor in Berlin. 1920 Emeritierung.

1879 stellte Diels durch seine "Doxographi Graeci" die Überlieferungsgeschichte der griechischen Philosophen auf eine neue Grundlage. Zahlreiche einschlägige Arbeiten kulminierten 1903 in seinem Meisterwerk "Fragmente der Vorsokratiker" (12. Aufl. betreut von W. Kranz 1966). Ausgabe des Lukrez 1923/24 posthum. Verdienter Organisator wissenschaftlicher Arbeit: begründete die kritische Gesamtausgabe der griechischen Ärzte (CMC), war maßgeblich beteiligt an der Herausgabe der 26 Bände mit den antiken Kommentaren zu Aristoteles, nahm teil an der Begründung des Thesaurus linguae Latinae und an den Bemühungen um internationale Zusammenarbeit der Akademien.