“香道”这门艺术被正式确立是江户时代的事，但根据大枝流芳在德川中世写的一些有关香料著述记载，南北朝时代的佐佐木道誉既是元祖，其后东山将军足利义政也很喜好香料，而志野流香道始祖宗信据传是足利将军义澄时代的人，那个时候香道就开始正规化了。香总给人以一种神秘感，随着时代的变迁，香的用途也发生着明显的变化。
在奈良时代，香主要用于佛教的宗教礼仪，人们将香木炼制成香，少数也用于薰衣或使室内空气芬芳。
平安时代，香料悄悄走进了贵族的生活，伴随着国风文化的兴起，焚香成了贵族生活中不可或缺的一部分，但香的用途还只是限于作薰物。将各种香木粉末混合，再加入炭粉，最后以蜂蜜调和凝固，这就是所谓的“炼香”。随着季节的更替共制六种薰香——“梅花”、“荷叶”、“侍从”、“菊花”、“落叶”、“黑方”——这都是因贵族的嗜好所需而制的。用香薰衣，在室内燃香，连出游时仍带着香物，贵族们对香的偏好为辉煌的平安王朝更披加了一件华服。薰香的配方现都由平安贵族的后人小心珍藏一代代传下去。
到了镰仓、室町时代，贵族衰败，武士当权。一种纯粹对香的爱好的风气滋长了起来。建立在“善”的精神之上，武士尊崇香的幽远枯淡。同一时期，佛教中密教信仰与净土禅的发展，绘画中水墨画的出现等使这种强调精神性的风潮影响不断扩大。
香料越制越精细，闻香分香道具的改良进一步加快了香的普及。香的艺术性也开始逐步展现出来，从不少的和歌或物语文学作品中可看到对闻香的着重描绘。当时还有比试自己所藏的上等香的活动，而流行的连歌会也在一边燃香的环境下进行。“焚继香”与赛香的活动就是现行香道的雏形。
以足利义政为中心的东山文化将闻香与茶道、连歌密切联系了起来。香道二大流派始祖——御家流的三条西实隆与志野流的志野宗信——最终确立了香道的基础。
现在香道使用的组香大多是江户时代所制的。美丽的小道具以及精巧的盘物使的香道更为女性所喜好。町人阶层的兴起使香道也频砌现在平民的文化生活中，香道的传播更广泛了。
然而，明治时期由于西方文化的侵入，作为日本传统文化的香道一度衰退，再次成为只有上流阶层参与的高级嗜好。