至魏晋南北朝及唐朝，中国古代的制墨技术进一步提高，产墨中心多集中在陕西、易州（今河北一带）、潞州（今山西一带）等地。
唐末五代，受到北方战乱的影响，很多北方墨工南迁，其中有一对从易州迁移至歙州（北宋宣和年间易名为徽州）的奚氏父子（奚超和奚延珪），选择在此地南方重操旧业，打开了徽墨的始端。
奚延珪所制之墨，还曾得到南唐后主李煜的嘉赏（后奚延珪被赐予国姓，易名为李延珪），徽墨开始崭露头角。
尔后千年，徽州作为制墨产业中心的地位屹立不倒，至宋，徽州已逐渐成为制墨中心；至明，徽墨产业空前繁盛，甚至衍生出不同流派，如“歙派”、“休宁派”、“婺源派”。名家辈出，墨谱著述丰富。
