胶，繁体字“膠”，字从肉从翏。“肉”意为“肉汁样的”，“翏”意为“合并”“结合”肉”与“翏”联合起来表示“肉质样的胶黏剂”，可见，中国古代的胶黏剂是指用动物的皮、角制成的能粘接器物的东西。
古代人类还发现某些植物具有天然黏性，例如橡胶、树胶等，它们是天然的胶黏剂。早些年我们用的将淀粉加入水中煮熟或将米浆加热后熬制成的浆糊，也是最原始的胶水之一。
中国是世界上应用胶黏剂和粘接技术最早的国家之一。早在商代，人们就利用生漆的粘接特性，将金银珠玉镶嵌在漆器上，到战国时期发展到把金属构件和漆器粘接在一起，使漆器更加坚固耐用。后来还把金银薄片镂刻成各种图案，或者把贝壳磨制成人物花鸟等图案，用胶漆粘贴于胎体表面，再上漆若干道，然后打磨，使闪闪发光的金银贝壳等花纹在器物表面形成华美的装饰。
《帝王世纪》之“胶船”中记载了楚国人把不耐水的树胶制成的船只献给周王朝的军队从而获胜的故事：“昭王南征济于汉，汉江人恶之，以胶船进王，王御船至中流，胶液船解，王及祭公俱没于水中。”周昭王十六年，约公元前年，周昭王为了教训已经不再顺从自己的楚国，亲领大军讨伐，周军势如破竹，所向披靡。周王朝大获全胜，胜利班师还朝。
三年之后，也就是公元前年，即周昭王十九年，深受伐楚之战的鼓舞，周昭王为了彻底打垮楚国，将其消灭殆尽，再次率军南下。周昭王此次率六军伐楚，举全国之兵而为。周昭王踌躇满志，志在必得，结果却事与愿违。楚国已经从上次的惨败中吸取了教训。他们知道，面对强大的周王朝，硬拼是绝对不行的，要侥幸取胜，唯有智取。周昭王北兵南下，为汉水所阻，四处征调船只渡河，早已依计用事的楚人假装民夫，将大批用树胶粘接的船只献给了周军。周军用征调而来的船只渡河，船行进到了河的中间，树胶溶解，船板分散，许多兵士掉入水中，北方人大都不识水性，不会游泳，基本上都溺水而亡。周昭王虽贵为天子，身为统帅，也落入水中，魂丧汉水。
我国在年前就开始烧制石灰，以此粘固土石建造房舍与桥梁。举世闻名的万里长城也是用石灰、糯米糊等混合调配的胶黏剂把无数的石块粘接起来而建成的。这种无机—有机混合胶，强度高，防腐，经久不坏。以糯米灰浆为代表的传统灰浆是中国古代的重大发明之一。考古学的证据表明，西周(公元前~前年)中晚期的建筑遗址中，发现石灰已经广泛应用于柱基处理、增强地基、屋顶面处理等方面，东周时期已经使用石灰修筑陵墓。据《左传》记载：“成公二年(公元前年)八月宋文公卒始厚葬用蜃灰。”蜃灰就是用蛤壳烧制而成的石灰，秦汉以后，石灰材料的使用更为广泛，秦(公元前-前年)成阳宫殿遗址的地面是用猪血、石灰、料姜石灰拌合抹成，呈暗红色，表面光滑美观，具有防潮装饰作用。
汉代(公元前公元8年)以后的墓葬中也多有石灰使用。石灰或用作壁画地仗层，或用作墓室四壁罩白，或用于墓门密封，或用作棺底的灰衬。值得一提的是，我国至少在西汉早期就已经使用类似于后世称为“三合土”(石灰、黄土和沙子)的石灰混合材料了。
东晋十六国时期(公元~年)，北燕用“三合土”构筑墓葬，大夏用“三合土”修筑其都城“统万城”。北宋科学家沈括在亲自踏勘“统万城”之后，在《梦溪笔谈》中写道：“赫连城紧密如石。”
至少不晚于南北朝时期(公元~年)，以糯米灰浆为代表的中国传统灰浆已经成为比较成熟的技术。成书于明朝的《天工开物》对糯米灰浆的组成、制作方法和性能都有详细记载：“灰一分入河砂，黄土二分，用糯米、阳桃藤汁和匀，经筑坚固，永不隳坏，名曰三合土。”这种加入糯米汁的“三合土”，即糯米灰浆，有强度高、韧性好、防渗性能好等优点，它的出现使建筑胶凝材料的粘接性有了质的飞跃，代表了我国古代石灰基胶黏剂的最高成就。后世对糯米灰浆的评价很高，宋代江修复在《邻几杂志》说它“其坚如石”。
糯米石灰浆的使用，使建筑的稳固性有了历史性的突破。经现代分析技术检测，糯米灰浆粘接性能优良，堪比现代水泥。除糯米浆外，植物汁液，如阳桃藤汁、蓼叶汁和白及浆等，蛋清和动物血等在建筑灰浆中也有使用；另外用桐油或鱼油拌合石灰制作的油灰在建筑物、木结构和船舶等方面也有十分广泛的应用，历史久远。
欧洲古代使用的建筑灰浆全是无机材料，而添加了糯米汁、杨桃藤汁或桐油的中国传统灰浆则明显是一种有机或无机复合材料。以糯米灰浆为代表的中国传统灰浆在粘接性、韧性和防渗性等方面明显好于纯无机灰浆。中国由于糯米灰浆等有机或无机复合胶凝材料的发明而比西方技高一筹。糯米灰浆强度高，韧性大，防渗性能好，且“其坚硬如石”。如南京明代徐埔夫妇墓系用糯米灰浆浇筑，异常坚固。
年发掘时推土机也无可奈何，还破坏了不少钢钎、铁锹。始建于隋开皇年间、重修于宋建炎二年的台州国清寺塔，使用糯米灰浆砌筑沙浆，异常坚固。唐代开元寺石经幢的粘接材料也是糯米灰浆。建于唐宋的泉州古塔寺、桥的抗震性能好，能抵御年的7.5级大地震，这和使用糯米灰浆作胶黏剂是分不开的。北宋嘉祐六年(公元年)铸造的湖北当阳玉泉铁塔，塔基底部青石板之间也是用糯米灰浆来封实。河南登封少林寺墓塔群中的几座宋塔、明塔，对其砌筑的胶泥标本通过“碘-淀粉”试验，也发现沉淀物中有糯米淀粉存在。始建于宋代开禧年间的上海嘉定法华塔，其地基砖用糯米浆白灰泥勾缝。最让人称奇的是重庆荣昌县包河镇的一座清代石塔，该塔已有余年历史，高10米，倾斜度达45°，却至今未倒塌。该塔也是采用了糯米灰浆为粘接材料，这种糯米灰浆粘接材料的韧性竟比现代水泥还要好。
古代真正被称为胶的应该是动物胶。早在三千多年前的中国，人们就开始用动物皮、角、骨来熬制骨胶、牛皮胶等，用来粘接各种物件。
有一个“煎胶续弦”的故事：汉朝东方朔所著的《海内十洲记》记载，天汉三年(公元前97年)，汉武帝深山猎虎，由于力大如神，加之用力过猛，“嘣”的一声，居然将祖传宝弓的弓弦拉断，汉武帝看着断弦，心中不悦。方士李少君便献上了一种“神胶”，将宝弓的断弦粘好，汉武帝将粘好的宝弓用力拉开，与原来的居然没有什么区别，特地重奖方士李少君。这种神胶因此名声大震，并得名“续弦胶”，这种神胶其实就是动物胶。
在我国的一些古代书籍中，对胶黏剂的制造与使用有详细的记载。
古代化学专著如东汉魏伯阳的《周易参同契》与东晋葛洪的《抱朴子·内篇》都涉及胶黏剂的制造。北魏贾思勰的《齐民要术》虽是农书，但对制笔、保护书籍、修理房屋等使用胶黏剂的过程与煮制动物胶的方法却做了专门的叙述。明朝宋应星的《天工开物》记述了我国农业与手工业的生产技术，其中包括胶黏剂的制造和大量的应用经验。《齐民要术》的“燔石”篇对石灰密封舟船做了介绍：“凡灰用以固舟缝……”《天工开物》“燔石第十一”更详细介绍了石灰及其添加物在建筑、舟船中的应用：“凡石灰经火焚炼为用。成质之后，入水永劫不坏。亿万舟楫，亿万垣墙，窒息防淫，是必由之……凡灰用以固舟缝，则桐油、鱼油调，厚绢、细罗和油杵千下塞舱。用以砌墙、石，则筛去石块，水调黏合。甃墁则仍用油、灰。用以垩墙壁，则澄用松烟和胶黏剂制成墨块是我国独有的技术。
大约在公元3世纪，我国以松烟和动物胶过,入纸筋涂墁等为原料制成松烟墨，为书画所用的黑色颜料。《齐民要术》“笔墨第九十一”对墨块的制作有详细说明：“墨屑一斤，以好胶五两，浸……皮汁中压敏胶带起源于我国公元前年的西汉时期，在《草药补遗》《黄帝内经》等书籍中均记载着治疗伤痛的膏药贴布之物，这应该是最早的压敏胶制品。而用中药与松脂、动物胶熬制的药膏应该是压敏胶的雏形，膏药制品在中医界一直延续至今用胶黏剂粘接书刊本册的方法，在我国已有一千多年历史。早在公元年，卷轴装《金刚经》就完全是用胶黏剂装订成卷册的，最初人们主要用鳔胶、淀粉浆糊、松香等作为《天工开物》“乃服第二”：“凡糊用面觔内小粉为质。纱罗所必用，绫绸或用或不用。其胶黏剂。染纱不存素质者，用牛胶水为之，名曰清胶纱。糊浆承于筘上，推移染透，推移就干。”说明了淀粉胶在服装上浆中的应用。
《天工开物》“舟车第九”：“凡船板合隙缝，以白麻斫絮为筋，钝凿扳入，然后筛过细石灰，和桐油春杵成团调舱。”说明桐油拌石灰制成的胶泥在舟船密封中的应用。带《天工开物》“佳兵第十五—弧矢”：“凡胶乃鱼脬、杂肠所为，煎治多属宁国郡，其东海石首鱼，浙中以造白鲞者，取其脬为胶，坚固过于金铁。北边取海鱼脬煎成，坚固与中华无异，种性则别也。天生数物，缺一而良弓不成，非偶然也。”这里的“胶”指的是制造弓箭所用的鳔胶，看来当时胶的质量很好，强度竟然可以与金属相比，是造弓不可或缺的材料。
“凡箭笱，中国南方竹质，北方萑柳质，北边桦质，随方不一。竿长二尺，镞长一寸，其大端也。凡竹箭削竹四条或三条，以胶粘接，过刀光削而圆成之。”翻译成现代汉语是说“箭杆的用料各地不尽相同，我国南方用竹，北方使用薄柳木，北方少数民族则用桦木。箭杆长二尺，箭头长一寸，这是一般的规格。做竹箭时，削竹三四条并用胶粘接，再用刀削圆刮光。”看来胶也是制箭不可缺少的材料。