Atuando no movimento estudantil, por duas vezes elegeu-se presidente do Centro Liceísta e participou das agitações que ocorriam em todo país pedindo a deposição de Getúlio Vargas. Chegou a ser preso, com amigos, ao liderar uma manifestação contra a ditadura. Cândido Costa, dono da pensão em que morava e personagem que marcou sua juventude, foi buscá-lo na prisão. A ele, disse que participara apenas de uma comemoração pelo fim da Segunda Guerra Mundial.  

Conquistou o 1º lugar no exame de admissão do Colégio Maranhense dos Irmãos Maristas e teve sucesso como estudante, tirando boas notas. No entanto, teve vida difícil na capital, pois a família tinha dificuldades em sustentá-lo. Depois de cursar o ginasial no Colégio Marista, transferiu-se para o Liceu Maranhense. Ainda muito jovem, começou a freqüentar as salas de leitura da Biblioteca Pública. Enquanto incrementava a sua cultura e fixava seus objetivos, Sarney se dedicava à aprendizagem da política.

José Sarney mudou-se diversas vezes ao longo da infância, pois seu pai passou por vários processos de remoção, motivados por questões políticas. Essa peregrinação prejudicou os estudos do menino. Quando terminou o primário, Sarney foi estudar em São Luís, separando-se da família pela primeira vez. Instalou-se num quarto alugado, em pensão modesta.

Quando criança, o filho de Kyola e Sarney Costa, seguindo o costume do Nordeste de associar o nome do filho ao do pai, era conhecido como José “do Sarney”. Ao entrar na política, o jovem candidato abandonou o nome de José de Ribamar Ferreira de Araújo Costa e adotou o nome de José Sarney, reconhecido em cartório em 1965.