İlçenin kuruluş tarihi kesin olarak bilinmemekle birlikte, daha önce bağlı bulunduğu Çarşamba ilçesinden daha eski bir tarihe sahip olduğu sanılmakadır. Eski tapularda Çarşamba ismi geçmeyip Ayvacık Gaziyeri olarak bahsedilmektedir.
Osmanlı İmparatorluğu zamanında bir Rum köyü olan Ayvacık, Cumhuriyet kurulduktan sonra Rumlar tarafından terkedilmiştir. Bugünkü halk ilçeye Cumhuriyetten sonra yerleşmiştir.
Ayvacık 1954'te tam teşekkülü nahiye olmuş; fakar 1960'da daha önce kurulmuş devlet teşkilatları kaldırılmıştır. Bu nedenle Ayvacık tekrar köy olmuştur.
20 Mayıs 1990 tarihinde Ayvacık köyü Keskinoğlu köyü ile birleştirilerek Ayvacık ilçesi olmuştur. 19 Ağustos 1990 tarihinde yapılan mahali seçimlerle de belediyesi kurulmuştur.
