在我国，大约公元前11世纪至公元前771年的西周时期就在边境设立了关卡，进行防卫。春秋以后，各诸侯纷纷在自己的领地边界设立关卡，并对进出关卡的货物和在领地内集市上交易的货物征税。《周礼·地官》中有“关市之征”的记载。在当时，关和市是相提并论的。边界关卡指出也可能是商品的交换集市。“关市之征”是我国关税雏形，我国“关税”的名称也是由此演进而来的。

鸦片战争后，英人一直统治者我国海关，国境关税和谜底关税逐渐有所区别。1931年后，我国的关税就只指进口税和出口税。对进出口国境的货物只在进出境时征收关税。

在国外，关税也是一种古老的税种。据《大英百科全书》对Customs一词的来源解释，古时在商人进出市场交易是要向当地领主交纳一种例行的、常规入市税 Customary Tolls，后来就把Customs和Customs Duty作为海关和关税的英文名称。 

关税在英文中还有一个名称为Tariff。传说在地中海西口，距直布罗陀21英里处，古时有一个海盗盘踞的港口名叫塔立法（Tariffa）。当时，进出地中海的商船为了避免被抢劫，被迫向塔利法港口的海盗缴纳一笔买路钱。以后Tariff就成为关税的另一通用名称。 

在近代国家中，英国资产阶级通过革命在1640年取得政权后，逐渐开始实行国境关税，废除了内地关税，至1791年初才完全实行国境关税。比利时、荷兰手法国影响相继使用统一的国境关税。其后世界各国开始普遍实施。 

近代关税的特点是专对进出国境的货物在进出国境时征税，进口后不再重复征收。而且近代国家一般不再把财政收入作为征收关税的主要目的，而是把关税作为执行国家经济政策的一个重要手段。