D'après l'Oxford English Dictionary, l'origine du mot sundae est incertaine. Il semble en tous cas être une déformation du mot sunday (dimanche en anglais), soit parce qu'il s'agissait à l'origine d'une spécialité servie uniquement le dimanche, soit parce qu'il s'agissait du reste de glace du dimanche et qui était vendu moins cher le lundi.

D'après l'explication la plus répandue, le sundae a été créé en réponse aux Blue laws (lois sur le repos dominical) interdisant la vente, dans certains États ou certaines villes, de ice cream soda (soda servi avec une boule de glace), boisson très populaire à la fin du XIXe siècle aux États-Unis, mais très mal vue des autorités religieuses et politiques.

L'histoire du sundae fait l'objet de nombreuses variantes : plusieurs villes américaines affirment être son lieu d'invention ou être à l'origine du mot. Parmi elles, les plus connues sont Ithaca (New York), Two Rivers (Wisconsin), Evanston (Illinois).