İlk fikir dönemin başbakanı Adnan Menderes ve Kayseri Belediye Başkanı Osman Kavuncu tarafından ortaya atılmıştır.

Kayseri’de Stadyum yapılmıştı ama liglerden temsil eden profesyonel bir takımı yoktu. Taraftarlar Kayseri’de oynanan Amatör Küme Maçlarını heyecanla takip ediyorlardı. Kayseri’yi Türkiye Şampiyonalarında Demirspor, Şekerspor, Sümerspor, Karagücü , Havagücü gibi Kayseri’nin köklü takımları temsil etmekte idi. Bu takımların yer yer başarılı sonuçlar almasına rağmen, Bu başarılar Kayseri Kamuoyunu tam olarak tatmin etmiyordu. Kısaca Kayseri’yi tam anlamda Türkiye genelinde temsil edilemiyordu. Bu da Kayseri için bir noksanlıktı.

Zamanın Futbol Federasyon Başkanı Orhan Şefik APAK, 1965 yılında Futbolu Türkiye geneline yaymaya çalışmak için büyük bir kampanya başlattı. Her ilden en az iki amatör takımın birleşmesi ile Şehrin ismini taşıyan bir takım kurmaları halın de o il Türkiye 2.ligine şartlar uygunsa almaya çalışıyordu. Anadolu’da bir çok şehir bunun üzerine Şehrin ismini taşıyan bir çok takım kurdular ve liglere müracaat ettiler. Kayseri’nin ileri gelenleri Türkiye genelinde bu kampanyaya müracaat etmek için Kayseri ismini taşıyan bir takım kurmak için çalışmalara başlatıldı.
Bir çok kere bir araya gelen Kayseri’nin ileri gelenleri bir netice alamadı. 1966 yılına kadar bir çok takım liglere müracaat ettiler ve direkt olarak 2.ligde oynamaya başladılar. Takım sayınısın artması ile diğer takımları yeni kurmayı düşündükleri 3.lige alacaklarını TFF duyurdu. Bunun üzerine Kayserispor’un kuruluş işlemlerine hız verildi.

1966 Yılının Haziran ayına gelindiğinde halen işlemler neticelendirilememişti. Şehrimizin spor otoriterlerinden Merhum Necdet Soner ile Rauf Işıldar Zamanın Bölge Müdürü ibrahim Bamyacıoğlu’nu ziyaret ederler. Necdet Soner 150 Bin nüfuslu kentimizden söz ederek ikinci profesyonel ligde oynayacak kulübün kurulması Bamyacıoğlu’na açarak fikrini sorarlar. Spora gönül vermiş Bamyacıoğlu arkadaşlarına Napolyonun "Para Para Para" sözünü tekrarlar. "Profesyonel kulüplerin maddiyatla yaşayabileceğini bununda şimdilik mümkün olmayacağını imkan sağlanırsa memnun olacağını " söyler.

Necdet Soner ve Rauf Işıldar birkaç gün sonra tekrar buluşurlar. Kayseri Sosyal faaliyetlerin her zaman destekçisi olan ve Kayseri’lilerin Kurmuş olduğu İşçi Kredi Bankası Genel Müdürü Rifat Gönen’e giderler. Spora da eğilmesini böyle bir kulübün kurulmasında öncü olması için ricada bulunurlar. Rıfat Gönen maddi olanağın Spor sever Kayseri’lilerden temin edilebileceğini kendisine düşen görevi seve seve yapabileceğini vaad eder.
Bu görüşmeden sonra Kayseri’nin ileri gelenleri Şeker Fabrikasında kuruluş toplantısını yaparlar. Bu toplantıda Erciyesspor, Sanayispor ve Ortaanadoluspor kulüplerinin birleşmesi kararlaştırıldı. Çeşitli kulüplerimizin tüzüklerinin temini için mektuplar yazılır. Daha önce Eskişehir’de Vali Muavini olan Osman Gümrükçüoğlu Eskişehir’e giderek Eskişehirspor’un tüzüğünü getirdi. Tüzük komisyonunda Eskişehirspor ve Fenerbahçe’nin tüzükleri incelettirildi. Eskişehirspor’un tüzüğü bünyemize uydurularak Mücahit Pekçetinkaya tarafından daktilo edildi. Şehrin ileri gelenleri bir araya gelerek bir genel kurul düzenlenir. Bu Genel Kurulda yapılarak, 01 Temmuz 1966 tarihinde KAYSERİSPOR’un kurulun kuruluş işlemi resmiyette tamamlanmış olur. Forma rengi ise Lav edilen ERCİYESSPOR’un renkleri olan SARI - KIRMIZI oybirliği ile kabul edilir. Kulübün arması da, Mavi renkler ile ERCİYES DAĞI altında ise Sarı zeminde Kırmızı K ve Kırmızı Zeminde Sarı S harfi altında ise 1966 yılı yazmaktadır. İsmi Logosu ve Forma rengi kabul edildikten sonra Bir dilekçe ile Beden Terbiyesi Bölge Başkanlığı kanalı ile Ankara Genel Müdürlüğüne gönderilir. Zamanın Futbol Federasyon başkanı Merhum Şeref Apak geç kalındığından ikinci lige alınamayacağımız cevabını bölgeye gönderir.

Bu cevap Kayseri’de adeta bomba etkisi yapar. Bunun üzerine şehrin eleri gelenleri tekrar bir araya gelerek toplantı üstüne toplantı yaparlar. Toplantıya katılanlar biliyorlardı ki bu birlikteliği bir daha sağlayamayacaklarından bu fırsatı kaçırmak istemiyorlardı.
Yine bu toplantıların birinde Necdet Soner Tayyare Fabrikasına (Hava İkmal Bakım Merkezi) İbrahim Bamyacıoğlu ve Rauf Işıldar’ı öğle yemeğine davet eder. Yemekte sportif sohbet esnasında; Orhan Şefik Apak’a Bölge Müdürü İbrahim Bamyacıoğlu’nun mektup yazması istenir. Stadyumu ve şehir gezmesini ve Kayserispor’un liglere alınmasın ısrarla ister. Sayın Bamyacıoğlu’nun Genel Müdürlüğe yazdığı mektup üzerine Türk Futbol Federasyonu Başkanı Orhan Beyin telefonla Kayseri’ye geleceğini duyurur.
Bunun üzerine Kayseri’in ileri gelenleri Orhan Şefik Apak’ı havaalanında karşılarlar. Havaalanından doğrucu Stadyuma götürerek tesisleri gösteriler. Tesisleri seven Apak Kayseri’nin İkinci lige alındığını müjdeler.

Bu söz üzerine hareke geçen spor otoriterlerimizden Necdet Soner, Rauf Işıldar, Aydemir Doğan birlikte İşçi Kredi Bankası Müdürü Rifat Gönen’e giderek kolları sıvamasını isterler. Rifat bey bir çırpıda 65 Bin lira toplar. İlk önce takımı çalıştıracak Hocayı getirmekle başlayacaklarını, uygun olarak ta Turhal’da antrenörlük yapan Kayseri’li ve Eski Erciyesspor’lu oyuncularından Erdoğan Gürhan ile görüşmek için Rifat Gönen’den 15 Bin lira alarak Hocayı getirmeye giderler. Turhal’da bulamayınca Ankara’ya geçerek Erdoğan Gürhan ile görüşme yaparlar ve 1500 TL ’ye Teknik Direktör olarak anlaşırlar. Erdoğan Gürhan’ı alıp Kayseri’ye gelirler.
Şaban Cenkci, Rauf Işıldar, M.Necdet Soner, Seyfi Gözübüyük, Aydemir Doğan, Şevki Karamete’den kurulu transfer komitesi sporcu aramaya çıkarlar. Kulübün iskeleti olan Erciyesspor’lu ve Sanayspor’lu sporcular yanında 4-5 lira transfer ücreti ile 15 sporcu alınır. Sporcuların aylıklarının ödenmesi içinde Şeker Fabrikası 5 sporcuya, Sümer Fabrikası 4 sporcuya ve Pancar Kooperatifi ise 2 sporcuya aylıklarının ödenmesi için istihdam edilir. İlk futbolcu transferini ise Kaleci Muharrem ile yaptılar. Kaleci Muharrem Kayserispor’un ilk transfer edilen futbolcusu olarak tarihi geçti. Daha sonra Yeşildirekspor’dan Oktay ve Zeki’yi transferleri gerçekleşti. Kayseri Demirspor’dan İsmet, Erciyesspor’dan Rahmetli Oktay Aktan (Aynı zamanda Kayserispor’un ilk Kaptanı oldu.) ve Mustafa transfer edildi. Kayseri Amatör Kümede oynayan bir çok futbolcu profesyonel yapılarak Kayserispor’un Kadrosu oluşturulmuş oldu. 1966-1967 sezonundu 2.Lig kırmızı grupta maçlarına başladı. İlk Maçı Kayseri’de Ankara Toprakspor ile oynadı. Bu maçı Yener’in 17.Dakikada attığı gol ile 1-0 galip geldik. Bu gol Kayserispor’un ilk golü olarak tarihi geçti. Kayserispor ilk sezon şu 11 ile oynadı. 1- Muharrem, 2- İlhan, 3- Oktay, 4- Şevki, 5- Nejat, 6- Erdoğan, 7- Orhan 8- Yener, 9- İsmet, 10- Numan ve 11 Celal onbiri ile mücadele etti. İlk sezon olan 1966-1967 sezonunda 16 takımlı ligde Kayserispor 30 Maçta 9 galibiyet, 9 Beraberlik ve 12 mağlubiyet aldı. 21 gole karşılık kalemizde 33 gol yedik. Toplamış olduğumuz 27 puan ile ligi 10.sırada tamamladık.

1972-1973 Sezonunda Trabzonspor’un önünde ligi Şampiyon tamamlayarak Türkiye 1.ligine çıktık. 2 sezon ligde mücadele ettikten sonra 1974-1975 sezonunda ligi son sırada tamamlayarak 2.Türkiye ligine düştük. İleriki sezonlarda 1978-1979 sezonuna kadar 2.ligde başa oynadık. 1978-1979 sezonunda Gaziantepspor’un ardında ligi 2.sırada bitirdik. Arjantinde 1978 Dünya Kupası oynanmış ve yeni bir oyun düzeni ile mücüdele eden Hollanda’nın TOTAL futbol denen oyun sistemini Kayserispor Teknik Direktörü Tamer Kaptan Kayserispor’da uyguladı. Ligin bitiminde 66 gol atarak Avrupa’nın Liverpool’den sonra sezonun en fazla gol atan 2.takımı olarak tarihe geçtik. Statü gereği Beyaz grup ikincisi olan Ankaragücü ile İzmir’de karşı karşıya gelmemiz gerekiyordu. TRT’nin Televizyondan Naklen yayınladığ İzmir’deki bu maçı Kayserispor 3-0 kazanarak 2.defa 1.lige çıktık. Yine aynı sezon Türkiye Kupasında Galatasaray ile eşleştik. Çeyrek Finalde İstanbuldaki ilk maçı Yılmaz Yavman’ın 59.dakika attığı gol ile 1-0 yendik. Galatasaray’lı yöneticiler bunun bir kaza olduğunu ve Kayserispor’u eleyeceklerini belirttiler. 2.maç ise 0-0 berabere bitti ve Kayserispor tarihinde ilk defa Türkiye Kupasında Yarı final oynadı. Yarı finalde Kayseri’de Adana Demirspor’a 2-0 yenildik. İkinci maç ise Adana’da 0-0 berabere bitti. 1978-1979 sezonu Kayserispor için çok önemli bir sezonda Tesisleşmeyi yapmış ve 1.ligde o tarihte Galatasaray, Fenerbahçe ve Beşiktaş’ın dahi tesisleri bulunmazken harika bir tesis kazandırılmıştı. 1979-1980 sezonunda başarılı olamayarak 15.olarak yine küme düştük.

1984-1985 sezonunda Konyaspor’un önünde tekrar 3.defa 1.lige şampiyon olarak çıktık. Yine aynı hatalar yapılmış ve yanlış transfer politikaları ile 1985-1986 sezonunda son sıraya alarak küme düştük. Yalnız bu düşüş gerçekten çok kötü günlerin geldiğinin habercisi idi. 1986-1987 sezonunda şampiyonluğu Adana Demirspor’a kaptıran Kayserispor kadroyu bozdu. Dönülmez bir hata ile karşı karşıya kaldı. 1987-1988 sezonunda ligi güç bela 7.sırada tamamladı. Takım tamamen gençleştirilmiş ve tecrübesiz bir takım meydana gelmişti. 1988-1989 sezonunda yine hatalar yapıldı. Geçen sezon ligi 7.sırada bitiren takım dağıtıldı. Özkeş ve Recep Aydınspor’a Rıdvan Çeçen Kahramanmaraşspor’a gönderilmiş. Tecrübeli olarak Kaptan Orhan Naci Akyüz ve Mustafa Dil kalmıştı. Bir çok oyuncu ise başka takımlara gitmişti. Bu sezon tam 8 hoca ile çalışarak kırılması zor bir rekora imza attık. Zamanın Belediye Başkanı Hüsamettin Çetinbulut’un Kayserispor’a uzak durması ve desteklememesi,beklenen sonu geciktirmedi. Ligi sonuncu sırada yer alarak Kayseri için kara bir leke olarak 3.Türkiye ligine tarihinde ilk kez düştük. 1989-90 sezonunda Gençlerbirliğinden Halil İbrahim Eren ve Hayrettin Altun transfer edildi. Buna rağmen Hatayspor’un şampiyon olduğu ligde 3.sırayı aldık. 1990-1991 sezonunda başkanlığı, Belediye Başkanı Niyazi Bahçecioğlu geldi. Büyük destekler sağlayarak iyi bir ekip dizdi. Gençlerbirliğinden Şirin, Siirt Köy Hizmetlerinden Ayhan, Antalyaspor’dan eski Gençlerbirliğinde oynamış Ateş Muammer, Sarıyerden Esat, Kırıkkalespor’dan Mustafa Çapanoğlu, Kastamonuspor’dan Necip transfer edildi. Çok rahat bir şekilde Çubukspor’un önünde ligi Şampiyon olarak 2.Türkiye ligine çıktık. 1991-1992 sezonunda Teknik Direktör olarak Nevzat Güzelırmak ile anlaşıldı. Transferler ses getirmeye başladı. Geçen sezon forma giyen Muammer ile anlaşıldı. Beşiktaş’tan Milli Kaleci Fatih Uraz, Bursaspor’dan Beyhan Çalışkan, Fenerbahçe’den Önder, Eskişehirspor’dan Nasır ve Metin gibi oyuncular transfer edildi. Sezon arasında kamp dönüşü gelen trafik kazası haberi ile şehir adeta yıkıldı. Kayserispor Antrönerlerinden Metin Parlaroğlu, Metin ve Nasır hayatlarını kaybettiler. Bu oyuncuların Yerine Galatasaray’dan Metin Yıldız ve 2 oyuncu alındı. Petrolofisi ile yapılan şampiyonluk mücadelesinde tarihi bir puan farkı ile Şampiyon olarak Türkiye 1. ligine 4.defa çıktık. Bu sefer hata yapılmamalı idi. 1992-93 sezonunu 12., 1993-94 sezonunu 12. 1994-1995 sezonunu 11.olarak tamamladık. 1995-1996 sezonunu 17.sırada tamamlayarak küme düştük. Kadro dağıtılmadı ve rahat bir şekilde Samet Aybaba yönetimindeki takım, grubunda 1.olarak Yükselme grubuna kaldı. Karabükspor’un ardından 2.olarak tekrar 1.lige 5.yükseldik. 1997-98 sezonunda yine yanlış transfer politikası ile aynı hatalar yapıldı. Sezona çok iyi başlayan ekibimiz sonraki haftalarda şike maçlarının hortlaması ile bir anda 16.olarak 38 puanla averajla küme düştük.

1998-1999 sezonunda Yükselme Grubu 4.sü ve Antalya’daki maçlarda Y.Yozgatspor’a 1-0 yenilerek elendik. 1999-2000 sezonunda ise Yükselme grubuna çıktık. Ama bu sefer 9.sırada kaldık. 2000-2001 sezonunda ise yükselme grubunda bile çıkamadık. Klasman grubu 1.olarak Antalya’daki maçlara katıldı. Malatyaspor’a 1-0 yenilerek yarı finalde elendik. 2001-2002 seonunda liglerin statüsü değişti ve 20 takımlı 2.Lig A Kategorisi oluşturuldu. Bu ligi Kayserispor 9.sırada tamamladı. 2002-2003 sezonuna büyük umutlar ile başlayan Kayserispor Teknik Direktör olarak Celal Kıbrızlı ile sezona girdi. Rize Maçına kadar iyi götüren hoca Ardı ardına mağlubiyetler sonunda görevine son verildi. Yerine getirilen Reha Kapsal ile takım biraz toparlanır gibi olsada. Mersin ve Erzurum mağlubiyetleri Kayserispor’u hedefinden saptırdı. Sakaryaspor ve Rize beraberliği ile şampiyonluk zora sokuldu. Rize maçından sonra 3 maç saha kapatılması neticesinde Reha Kapsal’ın görevine son verildi. Yerine getirilen Mustafa Çapanoğlu son kurtarıcı olarak başarılı olamadı. Son 6 maçta 18 puan toplaması gereken Kayserispor 13 puan topladı ve ligi 59 puan ile 5.sırada tamamladı. Sezon sonunda Çapanoğlu ile yollarını ayırdı.

2003-2004 sezonuna Kayserispor Önce Yönetime Recep Mamur başkanlığa geldi. Yeni hoca olarak Levent Eriş 2003-2004 sezonu için anlaştı. 2003-2004 Sezonuna büyük ümitler ile giren Kayserispor yine aynı hüsranı yaşadı. Yanlış hoca tercihi yalnış futbolcu transferleri. Yine en kolayı seçildi ve bir çok oyuncu gönderildi. Levent Hocanın yerine Eski Fenerbahçeli Oğuz Çetin Kayserispor ile anlaştı. 5-6 transfer ile ikinci sezona başlayan Kayserispor iyi gitmesine rağmen ligin geresinde kaldığı için başarıya ulaşamadı ve ligi 55 Puan toplayarak 6.sırada tamamladı. Oğuz Çetin ile sezon sonunda yollarını ayırırken. Recep Mamur ve yönedim kurulu istifa etti.

2004-2005 Sezonunda ise Yapılan genel kurul ile Kayserispor ismini Erciyesspor olarak değiştirdi. Kayseri'de önemli olanın takım değil Kayserispor ismi olduğu ve bu yüzden Erciyesspor'un yerine Kayserispor ismi ile devam edilmesine karar verildi.

Başkan olarak Recep Mamur seçildi. Hoca olarakta Hüsnü Özkara getirildi. Hüsnü Özkara ile 7 haftada 2 puan topladı ve bu hoca ile yollar ayrıldı. Hikmet Karaman'ın göreve gelmesi ile Kayserispor büyük bir çıkış yaptı lig sonunda Kayserispor ligde kalmayı başardı.

2005-2006 Sezonu. Recep Mamur ve ekibi göreve devam kararı aldı. Hoca olarak ise Ertuğrul Sağlam getirildi.

2006-2007 sezonu sonrası Teknik Direktör Ertuğrul Sağlam'ın Beşiktaş'a transfer olması sonrasında 2007-2008 sezonunun başında göreve Tolunay Kafkas getirildi.

2009-2010 Sezonu sonrası Teknik Direktör Tolunay Kafkas'ın Gaziantepspor'a transfer olması sonrasında 2010-2011 sezonunun başında göreve Shota Arveladze getirildi.