Karaman kentinin ilk kuruluş tarihi kesin olarak bilinmemekle beraber yapılan arkeolojik kazılar neticesinde, önemli bir yerleşim bölgesi, ticaret ve kültür merkezi olduğuna dair belgeler bulunmuştur.

Karaman ve çevresinin M.Ö.8000 yıllarında yerleşik iskana sahip olduğu ortaya konulmuştur. İl, Hititler zamanında bir askeri ve ticaret merkezi olmuş daha sonra Firigya ve Lidya'lıların egemenliğine geçmiş, M.Ö.322 de Yunan Kralı Perdikkos ve Filippos'un işgaline ve talanına uğramıştır.

Karamanoğulları Anadolu Selçuklu Devletinin zayıflamasından ve yıkılmasından sonra bağımsızlıklarını ilan edip Karamanoğlu Devletini kurmuşlardır. Karamanoğulları OĞUZ'ların SALUR boyuna mensuptur. 24.Oğuz boyu şunlardır. 1.Kayı 2.Bayat 3.Alkaevli 4.Karaevli 5.Yazır 6.Döğer 7.Dondurga 8.Yaparlı 9.Avşar 10.Kızık 11.Beğdili 12.Karkın 13.Bayındır 14.Biçene 15.Çavuldur 16.Çepni 17.Salur l8.Eymür l9.Alayuntlu 20.Üreğir 21.Iğdiz 22.Büğdüz 23.Yuva 24.Kınık. Bu 24 boy 6 ata da birleşir. 1.Günhan 2.Ayhan 3.Yıldızhan 4.Gökhan 5.Dağhan 6.Denizhan.

Şehir Klasik dönemlerde LARENDE olarak bilinir. 1256'da Karamanoğulları devletinin başkenti olan Larende, Cumhuriyetin ilanından sonra Konya iline bağlı olarak KARAMAN adını almıştır