我国墨的发明年代也很久远，它和毛笔差不多同时。据河南安阳殷墟出土的文物看，在商代的陶片和兽骨上就有用墨书写的文字。但这时是用的天然矿物质，还是用烟子作原料制的墨，还不很清楚。据《说文·桂注》说："古者漆书之后，皆用石墨以书，《大戴礼》所谓石墨相著则黑是也。汉以后，松烟桐煤既盛，故石墨遂堙废"。石墨就是墨铅，也叫笔铅或画眉石。现在是作铅笔的材料。
       东汉时期，官府设有专管笔、墨、纸的人员，也出现了较大的制墨作坊。三国时韦诞制出的佳墨"一点如漆"，于是被称为墨的发明人。到了晋代，以胶和墨，质量又有提高。如二王墨迹，用墨书写，千余年无损，可为证明。
       据北魏贾思勰（音协）的《齐民要术》说：制墨要用上好醇烟，以细绢过筛，再配合好胶。解胶的梣（音岑）皮水（即秦皮水）、蛋白及麝香等，共下铁臼中，捣三万杵，杵多更好。醇烟的黑度浓，细筛后的墨质纯，多捣的颗粒细，所以能做出黑亮的墨来。
       唐代制墨更为精良。出名的有奚鼐、奚鼎、奚超、祖敏等人。祖敏还担任过专管制墨的官。后来奚超和他儿子奚廷珪又进一步改良了制墨技术，制出了光泽如漆的好墨，受到了南唐后主李煜（音玉）的赏识，奚廷珪当上了墨官，赐给国姓李氏，从此李廷珪墨名满天下。一时有"黄金易得，李墨难求"的谚语。宋时，李墨的产地歙州改名徽州，因而徽墨就成了著名的称号。
       北宋科学家沈括在《梦溪笔谈》中提到用石油烟子制墨，有"黑光如漆，松墨不及"的说法。当时名家有个潘谷，他制的墨香气扑鼻，即令研磨至尽，而香不散，为人称赞。
        元人陆友撰《墨史》一书，书中集古来善制墨的一百五十余人。以三国魏韦诞起始，晋有张全，南朝宋有张永，唐有李阳冰以下十九人，宋有柴询等一百余人，金有刘法、杨文秀二人。又译载高丽、契丹、西域之墨，并附杂说二十五则，记述墨的故事。可见当时对墨的研究相当深入。
        明代制墨能手张小华，他制的墨坚如石，纹如犀，黑如漆，称为上品。而用油烟制成的墨却为书法家所推重。所谓贵重的墨，要放药材和香料，它可以延长贮存的时间，能防腐、防霉、防蛀，还可以增强渗透作用和光泽，使墨迹经久不变。
        清代制墨名手更多，著名的有曹素功、汪近圣、汪节庵、胡开文四家。胡开文的墨至今为人所称道。这一时期的墨又别开生面地向工艺美术方面发展。主要有"精鉴墨"、"家藏墨"的制作。精鉴墨是专供鉴赏的墨，大都是成套的，有仿古墨、诗画墨、风景墨等多种。这类墨大多质量精良，图案细致，铭文款识考究，造型优美。家藏墨是文人学者专门定制的，多用作收藏或送亲友的纪念品。到了光绪年间，有谢松岱、谢松梁兄弟创造了一种墨汁，名叫"云头艳"，又为现代墨汁的制造开了先路。