Nace en
Kamenice nad Lipou (Bohemia), el 5 de diciembre de 1870. Su nombre completo es Augustín Rudolf Vitezslav Novak. Su origen humilde y su frágil salud no fueron obstáculo para estudiar piano y composición desde la infancia, primero con el profesor de música local, Vilém Pojman, y a partir de 1889 en el Conservatorio de Praga. Sus profesores allí fueron Jiránek, Knittl y Stecker, de piano, armonía y contrapunto respectivamente. Con el tiempo frecuentó las clases magistrales de Antonin Dvorak. Paralelamente ingresó becado en la Universad de Praga para estudiar Derecho, pero el continuo abandono de las clases para asistir a ensayos, conciertos y representaciones le supusieron la retirada de la beca.
Al igual que otros compositores checos del momento, se interesó por la música popular bohema, realizando continuos viajes por toda la región para recabar cientos de melodías. Este material rara vez fue utilizado por Novak de forma directa en sus composiciones, sirviendo más bien de referencia y síntesis a un estilo melódico y decididamente contrapuntístico como el suyo. El uso del folclore checo revitalizó de tal modo su música que pasó de ser un compositor desconocido a uno de los más laureados en su páis natal, concediéndosele en
1909 un puesto de profesor en el Conservatorio de Praga y firmando en esas fechas un contrato en exclusiva con la Universal Edition. Sus conocimientos etnomusicales le valieron también el nombramiento como miembro de la Academia checa de música.A partir de
1920 fue interesandose más por la enseñanza que por la composición, debido en parte a que sus obras quedaban ahora eclipsadas por la irrupción en el escenario checo de Leos Janacek. Con todo, volvió a tener una época de esplendor en la década de 1930-40.Muere en
Skutec (Bohemia) el 18 de julio de 1949 a los 78 años de edad.