Köyün eski adı SuhamZuham'dır.<ref>http://www.nisanyanmap.com/?yer=29960&haritasi=kaleba%C5%9F%C4%B1</ref> Yazılı belgeler bulunmamakla beraber köyün eski Rum yerleşim bölgesi üzerinde olduğu bilinmektedir. Eski yapıların Rum usta işi oldukları da yapılan araştırmalarla belgelenmiştir. Başka bir bilgide ise, köyün Aşağıkale'den kopma bir yerleşim olduğu bildirilmekte ve soyağaçları incelendiğinde, bazı ailelerin Aşağıkale mahallesinden koparak Kalebaşı köyüne yerleştikleri görülmektedir. Köye, Türklerin yani şimdiki halkın ataları, Musul Telafer yöresinden dağılan, Bayat Boyunun, Modanlı kolundan Türkmenler gelerek yerleşmişlerdir. Urfa, Sivas, Elazığ, Antakya, Haymana bölgelerine kadar dağılmış bir Türkmen oymağıdır. [[1939 Erzincan Depremi]]'nde Kuzey Anadolu fay hattı üzerinde bulunduğundan, mal ve can kaybı yaşanmıştır. Köyün, birkaç sülalenin bir araya gelmesinden oluştuğu görülür.
== Kültür ==
;Düğün törenleri: İlk önce kız evinde ve erkek evinde ayrı ayrı kına geceleri olur. Erkek evinde yemekler yapılır, bütün köy tek tek ve çevre köyler de davet edilir. Onlara yemekler ikram edilir. Tepsilerde kadayıf tatlısı yapılır. Bazen gençler sofradan kadayıfı çalarlar. Birkaç arkadaş ayrı bir yerde yerler ama bu bir eğlence gibi bir şey olur. Bu yemekleri yapacak kişiler özenle seçilir. Genellikle aşçılar kadın olur. Ayrıca kına gecesi kız evinde ise geline kına yakarlar ve kadınlar sohbet eder. Ertesi gün, damat evinden kız evine doğru yola çıkılır. Kız evinden gelin alınır ve erkek evine götürülür.
;Bayramlaşmalar: Bayram namazı kılındıktan sonra camiden çıkılarak büyükten küçüğe doğru sıraya geçilir. Köyün en yaşlısı en önde olmak kaydıyla tek tek bayramlaşılır. Daha sonra ise herkesin evi tek tek dolaşılıp bayramlaşılır. Sabah saat 10 gibi aşağı mahallede, saat 12 gibi yukarı mahallede, saat 15 gibi de karşı mahallede yemekler verilir. Köyün gençleri toplanırlar eğlenirler.
