Het lied werd voor het eerst uitgebracht als bladmuziek, maar is uitgegroeid tot een gospel klassieker en een van de meest herkenbare christelijke hymnen van de moderne tijd. S. Fillmore Bennett schreef de tekst en Joseph P. Webster schreef de muziek.

Bennett begon het nummer nadat Webster zijn bedrijf in Elkhorn, Wisconsin binnenkwam. De twee waren vrienden en Bennett was gewend aan Webster's aanhoudende melancholie, zo erg zelfs dat hij meteen kon merken dat Webster zich down voelde. Toen Bennett vroeg wat er aan de hand was, antwoordde Webster: 'Het maakt niet uit, het komt allemaal wel goed.' Bennett schreef de tekst op en Webster begon het nummer op zijn viool uit te werken. Binnen een half uur was een van de meest duurzame liedjes uit de Amerikaanse geschiedenis voltooid.