白山市地域清朝时曾设临江县，因濒鸭绿江而得名；二十世纪50年代末临江县改称浑江市，因浑江市政府驻地八道江镇临浑江而得名；今名白山市，因境内的长白山而得名。

　　白山市地处吉林省东南部、长白山西部腹地。东邻延边朝鲜族自治州，西接通化市，北连吉林市，南临鸭绿江与朝鲜民主主义人民共和国隔江相望。

　　白山市辖区东部和东北部为长白熔岩台地，西缘为靖宇熔岩台地，由东向西地势渐低，构成长白山火山景观。境内有长白山山脉的两大支脉龙岗山脉和老岭山脉，龙岗山脉斜切境域西北部，老岭山脉自东北向西南横贯境域南部，岭东多高原山地，岭西多丘陵和狭窄的河谷平原，境内重峦叠嶂，绵延起伏，河流蜿蜒，沟谷交错。抚松县境内的长白山主峰―白云峰海拔2691米，为东北地区第一高峰。市境内有鸭绿江、松花江两大水系，鸭绿江、松花江、浑江三大流域，有较大河流50多条。

　　追溯白山市的历史，西汉初属幽州刺史领辖的辽东郡。公元前108年（汉元封三年），置临屯、真番、玄菟、乐浪四郡，先属真番，后真番并入临屯，临屯又划归玄菟郡，白山市地域属上殷台县。东汉初年属高句丽，公元242年（魏正始三年），高句丽入侵辽东郡，魏幽州刺史毋丘俭率军征讨高句丽，得胜而归，魏军撤走后本地高句丽又兴起。晋朝仍为高句丽地。公元343年（晋建元元年），高句丽遣使朝燕王，称臣于燕。公元404年（晋元兴三年），高句丽再次侵入辽东郡。公元560年（北齐乾明元年），高句丽改为高丽，隋至唐初属高丽辖地。公元668年（唐乾封三年中间点·总章元年），唐朝灭高句丽，属安东都护府哥勿州辖地。公元713年（唐先天二年中间点·开元元年），属渤海国西京鸭绿府神州辖地，在今临江市所在地置神鹿县，为神州治所。公元873年（唐咸通十四年），置鸭绿府于神鹿，为西京附郭，领神州（今临江）、桓州（今集安）、丰州（今抚松）、正州（今通化）。五代初属渤海。公元926年（后唐同光四年·辽天显元年），契丹灭渤海，改建东丹国。宋初渤海遗民以今浑江市区为中心，建立定安国。公元982年（宋太平兴国七年·辽乾亨四年），并入辽，属东京道鸭绿府绿州（今临江），在今临江驻鸭绿军节度使，领弘闻、神乡二县（均在今浑江市境内）及丰州（今抚松）、桓州（今集安）、正州（今通化）、慕州（今柳河）。金代为东京路婆婆府地，属女真完颜部。元朝属辽阳行中书省沈阳路婆婆府辖地。明朝属奴尔干都司长白山部和鸭绿江部。

　　清朝初年归奉天府管辖，盛京兵部曾在此地设猫耳山边台，派旗人在边台驻防，稽查行旅，禁止边民前往伐木、淘金和私垦。临江当时俗称猫耳山，因聚落西北山顶有双峰，形似两只猫耳朵，故名，又称帽儿山。满语称多拉哈苏苏。朝廷把长白山一带视为发祥地而封禁，在猫耳山边台设兵巡守，属吉林副都统辖区。为了管理当地民人事务，1877年（清光绪三年），设通化等4县，在今临江市城区置猫耳山分防巡检，建衙署，修营垒，派兵驻扎，隶属通化县。每年春天开河后署衙移驻猫耳山，冬天封河后迁驻八道江。同治朝后，东边外弛禁，流民到猫耳山一带垦荒，进山采参、伐木，他们“三五成群，搭盖窝棚”，有的“长住不归”，有的“得利以归”，还有的“招雇韩人代垦”。1882年（清光绪八年）以后，清政府允许越垦的朝鲜边民加入中国“版籍”，听其“安业”，这些边民转为中国朝鲜族。1902年8月4日（清光绪二十八年七月一日），旨准，划通化县东部地方设置临江县，治所设在猫耳山，隶属奉天省兴京厅。同时添设岭西分防。因猫耳山地临鸭绿江北岸，故曰临江。设立临江县时，八道江分防巡检辖岭西一带，仍属通化县。1908年（清光绪三十四年），东三省总督徐世昌会同奉天巡抚唐绍仪，以“地面辽阔、治理难周”之由，奏请增设长白府。10月5日（九月十一日）将临江县八道沟以东辖境划归长白府。同时，将通化县红土崖河等地和岭西分防巡检一并划归临江县。

　　自日本占领朝鲜以后，奉天省东南边防逐渐被重视。清政府认识到“由长白（今长白县）到安东（今丹东）千余里，边防势孤援绝”，为了加强鸭绿江的边防，清政府添设“临长海等处分巡兵备道”，治所设在临江，辖长白、海龙2府及临江、辑安（今集安）、通化3县。

　　民国初年仍沿袭清朝建置，属奉天省东路道。1914年（民国三年），改东路道为东边道。1915年（民国四年），将岭西八道江分防巡检改为分防县佐，管理今白山市城区周边的地方事务。8月撤销临长海等处分巡兵备道，临江县仍隶属奉天省兴京厅。

　　1923年（民国十二年），取消东边道，直属奉天省。民国时期、东北沦陷时期、解放战争时期，今白山市辖境均属临江县辖区。

　　1954年7月23日，临江县划归吉林省，隶属通化专区。1960年1月7日，经国务院批准，撤销临江县，设立浑江市（县级），以原临江县的行政区划为浑江市的范围，隶属吉林省通化地区。市治所由临江镇迁至八道江镇（今八道江区），原临江县政府驻地临江镇改为浑江市辖区。因浑江从八道江街区北面流过，故而得名浑江市。

　　浑江是鸭绿江的最大支流，在吉林省南部。今已知最早的名称叫盐难水，辽代称沸流水，明朝称婆猪江。到清朝称佟佳江、混江等，后借音改成浑江。关于佟佳江、浑江还有个故事。传说古时候的浑江叫沸流水，那时碧流万顷，风景宜人，老百姓在两岸安居乐业，繁衍生息。后来，通化县来了个姓佟的知县，他抢山霸地，沸流水两岸的山林田地全都被他箱占去了，江也改名为佟家江了。佟家的两个儿子仗势欺人，抢男霸女，搜刮民财，后被百姓制服，扣压在江底，结果变成两只孽龟。但他们恶习不改，又在江里作怪，把江水搅混，从此以后人们便把佟家江更名为浑江了。当然，这些都是民间传说。有人考证，“佟家”为满语，意为木片子。浑江发源于白山市北部龙岗山磐儿岭南谷，纳红土崖河、大罗圈河、哈尼河、蝲蛄河、大苇沙河、小新开河、富尔江汇入后进入辽宁省境，全长433公里。

　　1985年3月8日，经国务院批准，浑江市从通化地区析出，升为省辖地级市，实行市管县体制，下辖长白朝鲜族自治县、抚松县、靖宇县。1986年1月将八道江、临江、三岔子3处划为浑江市（今白山市）辖区。

　　1992年9月1日，撤销临江区，改设临江县，隶属于浑江市。1993年12月7日，撤销临江县，设立临江市（县级市），由浑江市代管。1994年1月31日，浑江市拟更名为长白山市，最后定名为白山市（关于长白山名的历史演变，参见长白朝鲜族自治县）。1996年1月4日，撤销三岔子区，设立江源县。