那曲历史悠久，从20世纪50年代起，地质学家和考古学家就在藏北高原发现许多打制石器，其形状和制造工艺，普遍带有游牧文化的特征，基本上属于旧石器时代中期或晚期的文化遗物，距今大约1～5万年。那曲地区明确见于史料最早的，便是古老的象雄政权，在汉文史籍中称之为羊同。在藏文史籍中，将这一地区称作“卓岱”，意为“牧业部落”，称这里的居民为“卓巴”，意为牧民，或“羌巴”，即北方人，或“羌日”，意为北方部落。在象雄鼎盛时期，象雄人将其地域划分为内、外、中三部。现在的那曲地区，大致属于中象雄和外象雄。中象雄的中心“当惹琼宗”，就在那曲地区西南隅的当惹雍错湖畔一带。象雄势力衰微后，地域西缩。在公元7世纪前后，这一地区的东部地域归属于苏毗部落统治。后来，吐蕃部落逐渐强盛，统一了全藏，建立了强大的吐蕃王朝，藏北也被纳入其统治之下。

    松赞干布时期，将吐蕃分为四台和61个东岱(相当于千户)，原苏毗部落故地设“孙波如”，共辖11个东岱，作为吐蕃向西域和河湟江岷地区扩张的基地，这一带显得特别重要，史称"军粮马匹，半出其中"。

    宋朝(公元960-1279)以后，那曲和羊八井、帮仓(今当惹湖和昂则湖一带)、朗如(今班戈县一带)被称作北方四部落。1269年，忽必烈（元朝开国皇帝）派出官员在自青海到萨斯加的主要驿道设置驿站，其中在前藏设置驿站7所，驿道穿越今那曲的巴青、索县、比如、那曲及当雄一带，并派蒙古军士屯驻藏北，以后形成霍尔三十九族的藏北蒙古人势力。公元1725年，清政府设青海办事大臣，委任第十二代"霍尔王"赤加吉钦总管三十九族，直属理藩院夷情衙门。1728年，清廷在拉萨设驻藏大臣办事衙门。1731年，勘定青藏地界，古拉山脉南北两麓诸部落，分归驻藏大臣和青海办事大臣管辖，三十九族划归驻藏大臣直管，同年清查各部户口，并向驻藏大臣衙门支差。到清光绪三十三年（1907），共有八代“霍尔王”，均受清政府册封委任，有的还赐给顶戴花翎。1751年，清王朝派兵平息了珠尔默特那不扎勒事件，并制定善后章程十三条，对西藏地方行政体制进行了重大的改革，根据那曲所处的地理位置及其在历次平息藏乱中的重要战略地位，清王朝在那曲建立坎囊宗，归属于噶厦直接统治，坎囊宗由堪布(即宗教头领)和囊索部落头人联合行使管治权，是一种政教合一的统治方式。那曲还有一部分地区归班禅管辖。辛亥革命(1911.10.10-1912.1.1)前后，中央王朝势力衰落，噶厦得以将历史上由驻藏大臣直管的达木及三十九族地区收归己有。第九世班禅被迫前往内地后，噶厦又强行接管了班禅属区。至此，藏北地区自吐蕃王朝崩溃以后，第一次全部置于西藏地方政府的直辖之下。为了加强对达木和三十九族的统治，噶厦在1916年设置了霍尔地区总管，即“霍尔基”，从此结束了历时五百余载、传二十一代的“霍尔王”历史。霍尔基从设立到结束，共历经九任官员。1942年（藏历水马年），西藏地方政府撤销霍尔基，在藏北设立绛曲基巧，即那曲总管公署，治辖藏北牧区和拉萨以北的14个宗，到1959年止，那曲总管共历五任，均为四品官，每任一僧一俗。 1950年10月，昌都地区和那曲地区东部首先获得解放，次年3月，昌都地区人民解放委员会宣告成立，原属噶厦绛曲基巧的聂荣宗、索宗、巴青宗、比如宗、拉日宗、尺牍宗、色扎宗、丁青宗隶属该委员会第一办事处（驻丁青），此后，各宗的人民解放委员会也相继成立。与此同时，那曲的中部和西部地区仍由噶厦绛曲基巧管理。西藏和平解放的十七条议签订后，十八军独立支队主力2000余人，于1952年3月护送班禅大师经藏北返回后藏，那曲原属班禅的领地，也返还班禅。1953年1月，中国共产党西藏工作委员会黑河分工委成立。1956年10月9日，西藏自治区筹备委员会设立黑河基巧办事处。1959年民主改革后，西藏自治区筹备委员会对藏北的行政区划作出重大调整，黑河基巧办事处下辖九个县。1959年10月，筹委会决定撤销各地基巧办事处，设立行政公署，次年2月，黑河专员行政公署成立，1965年更名为那曲行署。1985年国务院批准成立尼玛县，此后那曲地区十县一区的地县行政体制沿袭至今。