A origem de João Ramalho aconteceu em meados de 1920, quando o Coronel Benedito Soares Marcondes, o Osvaldo Sampaio e o Clóvis Dias Valente compraram as terras desta região e construíram as habitações dos primeiros moradores que se instalaram junto as vertentes do Ribeirão São Mateus, assim como fizeram as estradas que ligavam o novo povoado às cidades vizinhas.
Em 5 de abril de 1935, João Ramalho foi elevado a distrito de Quatá, e em 19 de Março de 1959 foi emancipado a município.
A emancipação político-administrativa de João Ramalho teve inicio em 1948, quando houve o primeiro plebiscito onde os votos contrários superaram os favoráveis. Somente em 1959, houve a realização de um segundo plebiscito, obtendo êxito. O município de João Ramalho foi criado pela Lei Estadual nº 5.285 de 18 de fevereiro de 1959, mas a sua instalação só se deu em 19 de março de 1961, em virtude do recurso interposto pelo município de Quatá, julgado definitivamente só em 12 de janeiro de 1961.
A data da emancipação político-administrativa do município é comemorada no dia 19 de março de cada ano, devido seu primeiro prefeito, Antonio Boim, ter tomado posse no dia 19 de março de 1961, tendo concorrido como candidato único, sendo o seu vice na chapa, José Rodrigues, que teve como adversário Felisberto Marcelo. Foram eleitos na época, constituindo o primeiro Legislativo municipal, os vereadores: "Manoel Mathias (presidente), Antonio Olívio, Geraldino de Moraes, João Jorge da Silva, Álvaro Alves de Mattos, Baptista Modolo, Luiz Beraldo de Almeida, Antonio de Lima e José Munhoz".