不同时代不同地方的粽子口味是不一样的，古代既有甜粽也有咸粽。

最早的粽子是没有味道的白粽。目前出土的最早的粽子来自信阳城阳城楚墓，内馅包装的黍米，包裹的叶子鉴定为槲叶。这应该是粽子的最早形态。屈原还在的时候，吃的应该是这样的白味粽子，后来生产力进步才逐渐出现了加各种调料的甜粽或咸粽。

关于甜粽的记载很多，如北宋苏轼的《皇太后阁六首》中有“不独盘中见卢橘，时於粽里得杨梅。”的描述，杨梅做馅的粽子自然是甜粽。南宋周密《武林旧事》卷三中也记载当时杭州端午“及作糖霜韵果、糖蜜巧稯（粽），极其精巧。”

南宋吴自牧的《梦梁录》卷十六中提到当时杭州街头店铺日常就贩卖各色粽子小食，如“糖蜜糕裹蒸粽子、栗粽、金铤裹蒸茭粽”等各色甜粽。

同一时期的咸粽记载相对较少，但也有食用咸口的的习惯。安徽铁拐宋墓和江西德安宋墓都出土过宋代的粽子，根据检测这两处古墓出土的宋代粽子均为肉粽。

关于咸粽的记载大多在清代。清代李调元的《南越笔记》记载广东“端午为粽，以冬叶裹者曰灰粽、肉粽”，袁枚的《随园食单》就记载有火腿粽的制作方法：“洪府制粽，去顶高糯米，检其完善长白者，取其半颗散碎者，淘之极熟，用大箬叶裹之，中放好火腿一大块;封锅焖煨，一日一夜，柴薪不断。食之滑腻、温柔，肉与米化。或云:即用火腿肥者斩碎，散置米中。”