以境内新沂河得名。
东周时,是钟吾子爵封地,名为“钟吾国”,秦时建司吾县。西汉时分设司吾、建陵二县,南北朝时置宿豫郡,废司吾县并入宿豫县。1943年8月中国共产党先后在境域西部建立宿北县、东部建立潼阳县。1949年5月撤消潼阳与宿北两县建制,析置邳、宿、沭、海四县边区设新安县,属淮阴专区管辖。1950年6月宿迁县新沂河之北的邵东、邵西两个乡划归新安县。因与河南省新安县重名,1952年9经政务院批准易名新沂县。1953年5月改属徐州专区。1970年改属徐州地区。1983年徐州市和徐州地区合并为徐州市,实行市管县,隶属徐州市。1990年2月经国务院批准撤销新沂县,设立新沂市。