山越”一词，最早见于《后汉书·灵帝纪》 ：“建宁二年（169年）九月，丹阳山越围太守陈夤，夤击破之。”山越是居住在先秦百越地区的山寨式武装集团。汉末三国时期山越达至顶峰，主要分布于丹阳（今江苏、浙江、安徽、江西、福建等省部分）山区。他们以农业为主，种植谷物；山出铜铁，自铸兵甲。他们大分散、小聚居，好习武，以山险为依托，组成武装集团，其首领称“帅”，处于半独立的状态。丹阳因为长期面临山越骚扰，因此民风剽悍，时有语“丹阳兵精，甲于天下”。
　　 孙策初定江东，境内山越众多，分布极广。他们往往与各地的“宗部”联合起来，成为心腹之患，孙策孙权的多次对外征讨均受制于后方山越叛乱。自建安三年(198)，袁术遣人以印绶与丹阳宗帅祖郎等，使之联合山越，大合兵众，图谋共攻孙策，却反为孙策讨破。为了巩固政权和掠夺劳动力与兵源，孙权从建安五年掌权之时起，即分遣诸将镇抚山越。建安八年，孙权西征黄祖，正待破城之时，山越复起，严重威胁孙吴后方，迫使孙权撤兵。孙权东撤后，派人前往平各地山越，阵容如下：吕范平鄱阳；程普讨乐安；太史慈领海昏；并以黄盖、韩当、周泰、吕蒙等充任山越活动最频繁地区的县令长，可谓名将齐出，可惜战果不大。
　　直到建安二十二年，陆逊对孙权说：“克敌定乱非众不济，而山越依阻深地，心腹未平，难以图远”（对外征战军队不多难以奏效，而山越依靠天险地势阻碍，经常於后方发动叛乱，（孙吴）难以远征。），因此孙权决心铲除心腹大患。于是命陆逊征讨会稽、丹阳、新直都三郡的山越，将俘获之人强者为兵，羸者补为民户，得精卒数万人。吴嘉禾三年(234)，孙权拜诸葛恪为抚越将军，领丹阳太守。恪移书相邻四郡，令各保疆界，然后分兵扼诸险要之地，将山越分割包围。只修缮藩篱，不与交锋。待其谷物将熟，纵兵芟刈（抢收），以饥饿迫使山越出山求活。诸葛恪将其中精壮四万人选为兵士，余者迁至平地充作编户。经孙吴数十年的残酷征讨，江南绝大部分山越被迫出山，徙至平地，一部分用以补充兵源；一部分成为编户，调其租赋，或为私家佃客。到南朝末年，甚至隋初史籍中，虽然仍有关于山越的零星记载，但绝大部分山越此时早已同汉人完全融合。