Studierte in Wien als Schüler von Richard Robert und Joseph Marx sowie bei Arnold Schönberg Komposition. Mit siebzehn Jahren begegnete er in Wien Adolf Busch. Das Duo Busch/Serkin sollte bald in allen Konzertsälen Europas wahre Triumphe feiern. Später heiratete Serkin Adolf Buschs Tochter Irene. Das Paar lebte seit 1927 in Basel und emigrierte 1939 in die USA. Serkin debütierte als Solist in den USA bereits 1933 (in Washington) und 1936 - unter Arturo Toscanini - in New York. Nach seiner Übersiedlung nach Amerika lehrte Serkin zunächst in Philadelphia am Curtis Institute of Music, war von 1968 bis 1976 dessen Direktor und schuf sich später ein Heim in Brattleboro, Vermont. Hier gründete er die Marlborough-Festivals, Musikfestpiele, die zum Mekka junger Pianisten aus der ganzen Welt wurden.

Das Œuvre Serkins ist weit gespannt. Es reicht weit über das in Musiklexika vor allem gerühmte Spiel Mozartscher und Beethovenscher Klavierwerke hinaus. Sein eng an das Autograph angelehntes Mozart- und Beethovenspiel war richtungweisend. Doch nicht minder überzeugend waren seine Interpretationen Bachscher Musik, die vor allem durch den unsentimentalen Stil bestachen. In sein Repertoir gehörten ebenso Schubert, Brahms, aber auch Haydn, v. Weber, Chopin, Busoni, Reger, Strauss, Ravel, Bartok und viele andere. Serkins pianistisches Werk ist in vielen Einspielungen auf Schallplatten und CDs dokumentiert.