驴皮熬制而成的药用胶，各地民间叫法不一。江浙、上海惯叫驴皮胶，湖南一带多叫驴胶，唯山东东阿所出之胶，自古以来就叫阿胶。

西汉《淮南子》中有“阿胶一寸，不能止黄河之浊”一语，喻再灵验的物品其作用也并非无限。这是现存史籍中关于阿胶一名的最早记述，说明秦汉时期阿胶已名闻天下。
南北朝名医陶弘景《名医别录》谓阿胶“出东阿，故名阿胶”。这是关于阿胶之名缘自其产地之名的首次记述。
此后，历代医书药典皆以阿胶为药用皮胶之专称，至今未变。