Cheylade, situé sur les plateaux du versant nord des monts du Cantal, est un village balcon qui surplombe la vallée de la Petite Rhue, bordée à l'est par la planèze du Limon et à l'ouest par celle du Trizac. Le territoire communal est également arrosé par deux affluents de la Petite Rhue : la Petite Rhue d'Eybes et la Véronne.
Au Moyen Âge, Cheylade qui s'appelait Chaszlada était une possession des seigneurs de Nonette, (près d'Issoire). Une église y fut construite et donnée à l'abbaye de Sauxillanges par Étienne I de Cheylade en l'an 1029. Cette église était dédiée à saint Léger, mais laissa place à une nouvelle construction à partir du XIIe siècle.
Au XIIe siècle les descendants des seigneurs de Cheylade prirent le titre de Comtour de Valrus.
La peste noire décima une partie de la population, la guerre de Cent Ans et les guerres de Religion firent aussi payer un lourd tribut aux populations locales.
La seigneurie et les terres resteront sous la juridiction des évêques de Clermont jusqu'en 1592. Elles furent saisies comme bien nationaux sous la Révolution française, le château de Cheylade fut complètement rasé en 1884.
En 1835, une partie du territoire de la commune devint la commune du Claux.