Recém-chegado à Faculdade de Direito, ingressou na União Maranhense dos Estudantes (UME). Representou o Maranhão no congresso da União Nacional dos Estudantes (UNE) realizado em São Paulo, em 1950. Nesse congresso, marcado pela presença de Enrico Berlinguer, criou laços de amizade com Álvaro Americano, Paulo Egydio Martins, Roberto Gusmão e Célio Borja.
Atuando no movimento estudantil, por duas vezes elegeu-se presidente do Centro Liceísta e participou das agitações que ocorriam em todo país pedindo a deposição de Getúlio Vargas. Chegou a ser preso, com amigos, ao liderar uma manifestação contra a ditadura. Cândido Costa, dono da pensão em que morava e personagem que marcou sua juventude, foi buscá-lo na prisão. A ele, disse que participara apenas de uma comemoração pelo fim da Segunda Guerra Mundial.
Conquistou o 1º lugar no exame de admissão do Colégio Maranhense dos Irmãos Maristas e teve sucesso como estudante, tirando boas notas. No entanto, teve vida difícil na capital, pois a família tinha dificuldades em sustentá-lo. Depois de cursar o ginasial no Colégio Marista, transferiu-se para o Liceu Maranhense. Ainda muito jovem, começou a freqüentar as salas de leitura da Biblioteca Pública. Enquanto incrementava a sua cultura e fixava seus objetivos, Sarney se dedicava à aprendizagem da política.
José Sarney mudou-se diversas vezes ao longo da infância, pois seu pai passou por vários processos de remoção, motivados por questões políticas. Essa peregrinação prejudicou os estudos do menino. Quando terminou o primário, Sarney foi estudar em São Luís, separando-se da família pela primeira vez. Instalou-se num quarto alugado, em pensão modesta.
Quando criança, o filho de Kyola e Sarney Costa, seguindo o costume do Nordeste de associar o nome do filho ao do pai, era conhecido como José “do Sarney”. Ao entrar na política, o jovem candidato abandonou o nome de José de Ribamar Ferreira de Araújo Costa e adotou o nome de José Sarney, reconhecido em cartório em 1965.
Dona Kyola nasceu em Correntes, Pernambuco, de mãe paraibana, do Ingá do Bacamarte, e de pai piauiense, o sertanejo de Valença chamado Assuéro Leopoldino Ferreira. Nos anos 20, Assuéro deixou o sertão de Pernambuco e emigrou em busca dos vales úmidos do Maranhão com três filhos e a menina Kyola.
O pai era promotor público, e seu nome foi encontrado pelo avô de Sarney, José Adriano da Costa, em uma edição de 1901 do Almanaque Bristol. Ele ficara impressionado com a história de um menino de 12 anos que sabia a Bíblia de cor e salteado e que se chamava Sarney.