A településen már 1923-ban is játszottak meccseket Pál Sándor és baráti körének jóvoltából, de egyesületté 1927-ben formálódtak, és ekkor beneveztek a járási bajnokságba is, ahol a legelső mérkőzésen Somos csapatával mérkőztek meg, és 8-0 arányban vereséget szenvedtek. Egészen 1945-ig „idegenben”, Baglyasalján (Salgótarján egyik városrészében) játszották hazai mérkőzéseiket is, eddig kellett várni a karancsaljai pálya elkészülésére. A csapat sokáig az első osztályban szerepelt, legutoljára 1966-ban.
1989 előtt hosszú évekig, közel egy évtizedig nem volt aktív labdarúgóélet a községben, és a fiatal tehetségek a környező településeken voltak kénytelenek játszani. Ekkor Lantos Sándor és barátai úgy döntöttek, hogy felélesztik a labdarúgást, és az április 28-án bejegyzett sportegyesület megkezdhette működését. Első vezetősége az alábbi felállásban működött: Lantos Sándor elnök, Ponyi Ferenc elnökhelyettes, Kristóf László szakosztályvezető, Ruskó Mária gazdasági vezető, Fazekas István edző, valamint tag volt még Tóth István, Laurencsik József, Hegedűs Aladár és Szőllős Géza is. A sportkedvelők szintén társadalmi munkában rendbe hozták a sportpályát, és Tóth Imre hathatós közbenjárásával szponzorhoz és felszereléshez jutottak. Az újjászervezett csapat a Tarjánhő ellen játszotta pályaavatóját, és nyert 8-3 arányban. A pénzügyi alapot egy jól sikerült jótékonysági bál biztosította.
A csapatot 1989 őszén nevezték be a Salgótarjáni Városkörzeti bajnokságba, az első mérkőzést az Egyházasgerge ellen 2-1 arányban veszítették el otthon. Rögtön az első szezon végén 53 megszerzett ponttal a második helyet szerezte meg a KMSE, 17 győzelmük mellett 2 döntetlent játszottak, és 5 vereséget szenvedtek. Ez a csapat kezdte meg szereplését a városkörnyéki bajnokságban: Tóth Gábor, Bogár Zsolt, Paulik László, Hegedűs Csaba, Zsíros József, Pál Lajos, Tóth László, Kovács Elemér, Menczel József, Botos László, Békefi István, Földi Gyula, Bize József, Pál László, Mócsány Róbert, Balázs Zoltán, Laurencsik Norbert. A következő szezon negyedik helye egy átszervezés miatt azt jelentette, hogy amennyiben ifjúsági csapatot is ki tudnak állítani, a következő idényben már a megyei másodosztály Zagyvavölgyi csoportjába nevezhettek. Ezt teljesítették, a másodosztály első fordulójában Ludányhalásziban az ifisták győzelemmel mutatkoztak be, míg a felnőttek 1-1-et játszottak.
A megyei II. osztályban eddig hét alkalommal ért el dobogós helyezést a KMSE. Az 1994-95. évi bajnokságban Kajdy Tibor edző irányításával lettek bronzérmesek, majd a 2007-08-as szezon végén is bronzéremnek örülhettek. 2008 és 2013 között zsinórban 5 ezüstérmet ért el a KMSE felnőtt csapata, ebből négy Lantos Zsolt, míg a legutolsó Fodor Zsolt edzősködése alatt.
Az ifjúsági csapat az 1995-96-os, és az 1996-97-es szezon végén is megnyerte a bajnokságot Fekete László, majd Lantos Sándor vezényletével (csapattagok: Varga Tamás, Telek Benjámin, Godó Gyula, Tamás Gábor, Megyeházi Zsolt, Dunai Zsolt, Bogár Szilárd, Bogár Szabolcs, Fekete Attila, Kristóf Gábor, Lantos Zsolt, Siket Zoltán, Báros Norbert, Cseh Richárd, Mihalik Tamás, Cséki Dániel, Illés Norbert), a 2005-06-os (edző: Lantos Zsolt), illetve a 2009-10-es (edző: Csicsman Tamás) szezonban pedig ezüstérmes lett (a 09-10-es csapat tagjai: Henglár Erik, Szemler Dániel, Lenkó Patrik, Breznyánszky Gracián, Henglár Ádám, Teplán Bálint, Bakos Henrik, Fehér Béla, Fehér Kornél, Balázs Dávid, Brezovszky István, Orsós Tamás, Fábián Martin, Gyebnár Bence, Radványi Bence, Cziprok Dániel, Szabó Bence).
2016-ban a KMSE az ifjúsági csapat megszűnése miatt a megyei harmadik osztályba nevezett, ahol egészen 2022-ig szerepelt. A 2017/18-as szezonban az utolsó fordulóban Felsőtoldon szerezte meg a bajnoki címet a csapat, egy hosszabbításban szerezett Nagy Zoltán gólnak köszönhetően. A 2018/19-es bajnokságban bronzérmes lett a Karancsalja. 2022-ben újra a megyei másodosztályba nevezett az egyesület, ahol a 4. helyet érte el.
A csapat a megyei kupában több alkalommal is kiejtett magasabb osztályú ellenfeleket, legnagyobb sikerét 1990-ben érte el, amikor a városkörnyéki bajnokságból feljutottak a Magyar Kupa országos táblájára, ahol az NB III-as Törökszentmiklós ütötte el a csapatot a 64-be jutástól.
forrás: magyarfutball.hu