O autor
É complicado escolher entre um e outro, já que ambos são nomes literários de grande porte, e a leitura de suas obras ultrapassa tanto o momento de sua criação quanto nossas fronteiras.
Embora estude mais Rosa, eu diria que são autores diferentes, escreveram em contextos sociais distintos e assim devem ser tratados.
Cada um tem seu papel nas história e tradição literária brasileiras, constituindo marcos fundamentais de mudança.
Em termos de produção, a de Machado, em seu conjunto, é mais diversificada -poesia, crônicas, contos, romances, peças teatrais, ensaios críticos etc.-, a de Rosa se concentrou em contos, novelas, romance, poesia e as renomadas cadernetas, farto material para a crítica genética.
Contudo, se a maior parte dos textos de ambos é ímpar, nem todos têm, em relação a critérios de valor, a excelência de "Dom Casmurro" ou "Grande Sertão", por exemplo. Mas não precisam.
As duas obras já bastariam para que os considerássemos ficcionistas primorosos no Brasil e fora dele.

A obra
Sigo aqui minha posição anterior. Considero as obras citadas as melhores de cada um.
"Dom Casmurro" me parece o romance machadiano mais feliz do ponto de vista literário, e "Grande Sertão", uma realização estética impecável, marcada por traços míticos e pela "dramatização" da linguagem.
Curiosamente, os dois textos dialogam com a tradição, elaborando ambíguos narradores, em primeira pessoa, que reconstroem o passado em busca de sentidos para a existência, negando-a ou tentando reencontrá-la por meio do verbo.
De certa forma, aproximam-se e se distanciam na relação com o "tempo": Machado afasta-se de sua época e incorpora leituras de autores como Goethe ou Shakespeare, ressignificando-as, Rosa retoma temas e vocábulos arcaicos e os reinventa.
Com universo, trama, tom e linguagem diferentes, Machado cria, valendo-se da construção fragmentária, da ironia, das alusões e "conversas" com o leitor; já Rosa corporifica sua criação no cerne da língua, explorando suas virtualidades, subvertendo-a e desencadeando novos sentidos.