新石器时代，本境就有人类活动。
秦 公元前222年（秦王政二十五年），此地属辽东外徼。
西汉 初属幽州刺史部辽东郡。
东汉 属高句丽。
三国 初属高句丽。公元242年（正始三年），魏幽州刺史毋丘俭讨高句丽，本地复属玄菟郡。
晋 为高句丽地。公元343年（康帝建元元年），本地属燕（前燕）。
公元370年（晋海西公太和五年）前秦灭前燕，本地归前秦。
公元404年（后燕昭文帝光始四年）高句丽复侵辽东，本地归高句丽。
南北朝 属高句丽。
隋 属高丽。
唐 初属高句丽。公元668年（高宗总章元年）唐灭高丽，本地属安东都护府哥勿州都护府。
公元713年（玄宗开元元年）本地属渤海国。并在今白山市临江所在地置神鹿县，为神州治所。
公元873年（懿宗咸通十四年，渤海大玄锡三年）置鸭绿江府于神鹿，为西京附郭，领神州（今临江市）、桓州（今集安县）、丰州（今抚松县）、正州（今通化县）。
五代 初归渤海。公元926年，辽灭渤海，改建东丹国。其后，渤海移民以今白山市为中心，建立定安国。
宋 初属定安国。公元982年（宋太宗太平兴国七年，辽景乾亨四年）并入辽。
辽 属东京道。在今临江置渌州驻鸭绿江军节度使。领弘闻、神乡二县（今白山市）、桓州（今集安县）、正州（今通化县）、慕州（今柳河县）。
金 为东京路婆娑府地。
元 属辽阳行中书省沈阳路辖地。
明 属奴儿干都司建州卫。公元1591年（神宗 万历十九年）为努尔哈赤所并。
清 初属吉林副都统辖区。
1907年，（光绪三十三年）废除将军制，东北实行行省制本地属奉天省，仍辖于兴京厅。
1909年5月（宣统元年），置林长海等处分巡兵备道于临江县。领长白、海龙两府，临江县、通化县、集安县。
中华民国初属辽东省。
1913年（民国二年）奉天省设东、西、南、北、中五路，本地属奉天省东路道。
1915年改八道江分防巡检为八道江佐治局。
1946年划归辽宁省。
中华人民共和国1949年划归辽东省。
1954年8月划归吉林省管辖，隶属通化地区。
1959年3月23日吉林省委批准撤销临江县，设立浑江市。
1960年1月7日，国务院批准浑江市府驻八道江镇（今浑江区）。
1985年2月4日，国务院批复（国函字17号）撤销通化地区，实行市管县体制，通化地区分治。通化地区下辖通化、浑江两县级市升格为地级市。1986年9月8日，国务院批准设立浑江市八道江区、临江区、三岔子区。
1992年9月1日，民政部批复（民行批[1992]95号）同意撤销浑江市临江区，设立临江县。1993年11月28日，民政部批复（民行批[1993]237号）同意撤销临江县，设立临江市。
1994年1月31日，国务院（国函[1994]8号）批复同意将浑江市更名为白山市。4月，浑江市正式更名为白山市。
1995年12月30日，国务院批准撤销白山市三岔子区，设立江源县。2006年6月5日，国务院（国函[2006]44号）批准：同意撤销吉林省江源县，恢复设立白山市江源区，以原江源县的行政区域为江源区的行政区域。
2010年2月22日，民政部下发了“关于吉林省白山市八道江区更名为浑江区的批复”（民函[2010]40号），经国务院批准，吉林省白山市八道江区更名为浑江区。
截至2010年7月，白山市下辖2个市辖区、2个县、1个自治县，代管1个县级市：浑江区、江源区、临江市、靖宇县、抚松县、长白朝鲜族自治县，市人民政府驻浑江区。市区面积2736平方公里，市区人口61.2万，市区城镇化率为76%；全市总面积17485平方千米，全市总人口130.8万人（2009年），全市城镇化率为68%，远高于全省城镇化水平。
行政区划
面积1388平方千米，人口33.7万，区人民政府驻江北街道，邮政编码：134300。
江源区 面积1348平方千米，人口27.8万，区人民政府驻江源街道，邮政编码：134700。
临江市 面积3009平方千米，人口18万，市人民政府驻建国街道，邮政编码：134600。
抚松县 面积6150平方千米，人口29.3万，县人民政府驻抚松镇，邮政编码：134500。
靖宇县 面积3094平方千米，人口14万，县人民政府驻靖宇镇，邮政编码：135200。
长白朝鲜族自治县 面积2496平方千米，人口8万，自治县人民政府驻长白镇，邮政编码134400。
截至2010年12月，白山市辖2个市辖区、2个县、1个自治县，代管1个县级市。全市总面积17485平方千米，总人口130.8万人，市区人口61.5万，城镇化率为68%，远高于全省城镇化水平，市府驻地浑江区。
