O povoamento teve início em 7 de setembro de 1912. A origem predominante dos habitantes foi italiana.
                      Foram várias as denominações antes de chegarmos ao atual nome, o primeiro nome foi Rio Cachoeira, após passou a chamar-se São José, São José do Cacique Doble eis que Cacique fazia parte de São José do Ouro, Vazulmiro Dutra e por fim Marmeleiro.
                      Em 1938 passou à categoria de vila pelo Decreto nº 7199.
                      Pela lei nº 3822, de 10 de setembro de 1959, conseguiu emancipar-se do município de Lagoa Vermelha.
                      Por sugestão de José Gelain, em 01/11/1912, sete dos primeiros colonizadores pioneiros reuniram-se juntamente com Luiz Vanz para tratar da construção da primeira capela, sendo orago São José.
                      A partir de então, a incipiente localidade que se denominava Linha Cachoeira, ou Cachoeirinha, passou a denominar-se Linha São José, após São José do Cacique. Somente em 1934 foi elevada à categoria de distrito de Lagoa Vermelha, com o nome de Valzumiro Dutra.
                      Em 1950 denominou-se Marmeleiro e, dois dias após, por novo ato do Prefeito de Lagoa Vermelha, denominou-se São José do Ouro.
                      Em 1949 foi criada a paróquia.
                      Em fins de 1959, foi elevado à categoria de município, instalado em 1º de janeiro de 1960.
                      Os colonizadores praticavam a agricultura de sobrevivência, produzindo produtos básicos e criando animais domésticos como gado suínos e aves.
                      Em 1940, a industrialização da madeira, especialmente do pinheiro araucária, espalhou dezenas de serrarias pelo atual território de São José do Ouro, trazendo significativo progresso.
                      Apesar do grande desmatamento e corte de araucárias, a região ainda é ríca em araucárias, possuindo várias matas intáctas, como por exemplo o Parque de Espigão Alto, este ja pertencente ao município de Barracão/RS.
                      Um dos principais produtos cultivados hoje é o soja.
                      São José do Ouro perdeu parte do seu território para ensejar a emancipação de Barracão e Cacique Doble. Em 1992, emanciparam-se os distritos de Santo Expedito e Tupanci.