De origem humilde, Nelson Antônio da Silva teve seu envolvimento com a música no seio de sua família. Seu pai, Brás Antônio da Silva, era músico da banda da Polícia Militar e seu tio Elvino tocava violino. Depois, morando na Gávea, passou a frequentar as rodas de choro. Foi nessa época que surge o apelido que o acompanharia por toda a vida.
Aos 20 anos, seu pai altera a data de sua certidão para 1910, para que possa ingressar na cavalaria da Polícia Militar, em 1932. Nessa mesma época, casou-se com Alice Ferreira Neves, com quem teria quatro filhos e patrulhando o Morro da Mangueira conhece os sambistas Zé da Zilda, Carlos Cachaça e Cartola. É detido mais de uma vez ao trocar a ronda pelo samba. Seu estilo de vida boêmio o afasta da polícia aos 27 anos. Trabalha como pedreiro e passa a vender parcerias em sambas, gênero ao qual mais se dedica. Substitui o cavaquinho pelo violão, o qual toca usando apenas o polegar e o indicador.
Deixou mais de quatrocentas composições, entre elas clássicos como “A Flor e o Espinho” e “Folhas Secas”, ambas em parceria com Guilherme de Brito, seu parceiro mais frequente. Por falta de dinheiro, depois de deixar a polícia, Nelson eventualmente “vendia” parcerias de sambas que compunha sozinho, o que fez com que Cartola optasse por abandonar a parceria e manter a amizade.
Sua primeira canção gravada foi “Não Faça Vontade a Ela”, em 1939, por Alcides Gerardi, mas não teve muita repercussão. Anos mais tarde foi descoberto por Cyro Monteiro que fez várias gravações de suas músicas. Começou a se apresentar em público apenas na década de 1960, no Zicartola, bar de Cartola e Dona Zica no centro do Rio. Em 1970 lançou seu primeiro LP, “Depoimento de Poeta”, pela gravadora Castelinho.
Suas canções eram feitas com extrema simplicidade e letras quase sempre remetendo a questões como o violão, mulheres, botequins e, principalmente, a morte, como em “Rugas”, “Quando Eu me Chamar Saudade”, “Luto”, “Eu e as Flores” e “Juízo Final”.
Com Clementina de Jesus, Cartola e Carlos Cachaça, gravou o LP Fala Mangueira. Logo, lançou o álbum “Depoimento de Poeta”, dois anos mais tarde, Nelson Cavaquinho – da série Documentos, pela RCA, e, em 1973, Nelson Cavaquinho, com a participação de Guilherme de Brito.
Sua obra é difundida, entre os anos 1950 e 1970, pela interpretação de artistas como Elizeth Cardoso, Paulinho da Viola, Nora Ney, Beth Carvalho, Nara Leão, Elza Soares, Elis Regina, Thelma Soares, Clara Nunes e Paulo César Pinheiro. Em 1977 grava, com Guilherme de Brito, Candeia e Elton Medeiros, o álbum Quatro Grandes do Samba.
Apesar de ser um poeta marginal durante muitos anos, tem seu talento reconhecido em vida: em 1985 é lançado o álbum Flores em Vida, no qual Nelson Cavaquinho executa algumas de suas canções e é homenageado por intérpretes como Chico Buarque, Beth Carvalho, João Bosco e Toquinho.
Com mais de 50 anos de idade, conheceria Durvalina, trinta anos mais moça do que ele, sua companheira pelo resto da vida. Morreu na madrugada de 18 de fevereiro de 1986, aos 74 anos, vítima de um enfisema pulmonar.
No carnaval de 2011 a escola de samba G.R.E.S. Estação Primeira de Mangueira homenageou Nelson Cavaquinho pelo seu centenário. “O Filho Fiel, Sempre Mangueira” é o nome do enredo que a agremiação levou para a avenida. O músico era torcedor da escola de samba carioca.
