嘉義縣境原為原民散居之地，古名諸羅山，是平埔洪雅族諸羅山社 社名的漢字音譯；漢人謂「諸羅」為諸山羅列之意，實為附會的說法。
荷據時代文獻中已有此名稱的出現。

明永曆十五年（1661年），鄭成功收復了台灣，並在台灣設置一府 二縣，即承天府與天興縣、萬年縣。今嘉義縣即在天興縣境內。天興縣 署最初設在今台南縣佳里鎮的佳興里，後來隨著開拓的進展，再遷到諸 羅山；由此可見，諸羅山在明鄭時期是一個很重要的地方。

明永曆十八年（1664年），天興縣改稱天興州。清康熙二十二年， 台灣歸清，清廷翌年以台灣之地設一府三縣，三縣之一的諸羅即明鄭之 天興，乃最北的一縣，轄地亦最廣，台灣縣以北之地皆屬之。雍正元 年，將原屬於諸羅縣之濁水溪以北另設彰化縣、大甲溪以北另設淡水 廳。

清乾隆五十一年，林爽文之亂發生時，由於諸羅軍民堅守城池，使 亂黨不能染指；五十三年亂平後，乾隆帝嘉許諸羅縣民的忠義，取「嘉 其忠義」，賜名嘉義，將諸羅縣亦改名為嘉義縣，這是「嘉義」地名的 開始。光緒十三年，台灣建省後，析出嘉義縣的一部，設雲林縣。

1895年日據之初，嘉義屬台灣縣之嘉義支廳，1897年後設置嘉義 縣，1898年改為嘉義廳，1920年改隸台南州，設嘉義、東石二郡。

光復初期，本縣除嘉義市外，歸屬於台南縣。民國三十九年實施地 方自治，調整行政區劃，改設嘉義縣，設縣治於嘉義市；民國七十一年 七月一日嘉義市改制為省轄市，嘉義縣治遷於太保鄉。