遵义历史悠久。春秋时期，遵义属巴蜀等邦邻地；战国时为夜郎属国；秦汉时置郡。唐贞观十三年（639）置播州， 曾称“罗蒙”，宋更名播川县。明万历二十九年（1601），更名为遵义军民府，隶四川布政司。遵义一名即始于此。清雍正五年（1727），遵义及其属县划入贵州，改置遵义府。
到了民国中期，遵义设专员公署，解放后改为遵义地区行政公署。1997年6月，国务院批准撤销遵义地区，设立地级遵义市。
20世纪50年代以前，遵义还仅为面积2平方公里，人口不足5万的小城镇。经过短短五十年的发展，遵义已一跃成为贵州的第二大城市。
夜郎国
战国时期，今遵义一带属于“大夜郎国”的范围。西汉元光五年（公元前130年），置犍为郡，郡治鳖县，即在今遵义市中心城区附近。元鼎六年（公元前111年），于夜郎地置牂柯郡，作为邦国存在了250多年的“夜郎国”之名从此消失。
此后，作为郡县行政建制的的“夜郎郡”、“夜郎县”之名曾多次出现，与今遵义有关的，一是唐贞观十六年（公元642年）所置的夜郎县，在今桐梓县境，为珍州的治所。二是唐天宝元年（公元742年）改珍州置的夜郎郡，治所即在这个夜郎县。至德二载（公元757年），大诗人李白被“长流夜郎”就是这里。
历史回顾地：夜郎城址。
土司制 
土司制度是我国古代政府统治边疆少数民族的一种特殊制度，唐代便有启端。土官既是政治上的最高统治者，又是当地的大领主，掌握着军、政、财权，对农奴可以“生杀予夺”。
自唐末至明末，统治播州（今遵义）的杨氏土司家族，是中国封建社会进入晚期后，西南地区落后社会制度的重要代表。在遵义一千多年的历史长河中，杨氏 29代世袭统治播洲长达724年之久。到了明万历年间，杨应龙起兵叛乱，朝廷派兵平定后，才将播州土司改土归流，结束了各地大小土司各自为政的局面。
土司制度在遵义存在长达数百年之久，如今仍有墓葬、遗址和文物等大量丰富的土司文化遗存。
历史回顾地：杨粲墓、
海龙囤遗址。
遵义会议
1934年1月中共六届五中全会以后，王明“左”倾冒险主义得到大肆推行。在这种错误领导下，第五次反“围剿”失败了，迫使红军放弃革命根据地，开始长征，在突围过程中损失惨重。为了摆脱尾追和堵击的敌军，毛泽东建议中央红军放弃去湘西同红二、六军团会合，改向敌军力量薄弱的贵州挺进。1935年1月7日，红军攻克黔北重镇遵义。
1935年1月15日至17日，中共中央在遵义召开政治局扩大会议，集中全力解决了当时具有决定意义的军事和组织问题，肯定了毛泽东的军事战略主张，确立了毛泽东在党和红军中的领导地位。
遵义会议独立自主地作出一系列重大决策，在极其危急的情况下挽救了党，挽救了红军，挽救了中国革命，是党的历史上一个生死攸关的转折点。从此，中国革命就在毛泽东为代表的正确路线指引下走上胜利发展的道路。
历史回顾地：遵义会议会址、
红军山、
娄山关。