Hij was de tweede zoon van de beruchte Lodewijk XI, die zich niets aantrok van hem en van zijn opvoeding. Toen zijn vader overleed, was hij nog geen 14 jaar oud, en kon hij lezen noch schrijven. Op zijn sterfbed stelde Lodewijk XI zijn oudste dochter Anna van Beaujeu aan tot voogd over haar broertje, tot deze zelfstandig zou kunnen regeren. De jonge prins werd als Karel VIII gekroond te Reims op 14 mei 1484 en had onmiddellijk af te rekenen met het verzet van Lodewijk van Orléans, de echtgenoot van zijn andere zuster Johanna. Deze pikte het niet dat de hoede aan een vrouw werd toevertrouwd. De vete eindigde met de nederlaag en gevangenneming van Lodewijk van Orléans.
Na zijn achtereenvolgende verlovingen met Maria van Bourgondië (1477), dochter van Karel de Stoute, en daarna met Maria's dochter Margaretha van Oostenrijk (1483), trouwde Karel VIII uiteindelijk op 6 december 1491 met hertogin Anna van Bretagne, de enige erfgename van dit vorstendom. Door dit huwelijk werd de eenmaking van het Franse koninkrijk afgerond met Bretagne. Vanaf dit moment begon Karel ook zelfstandig te regeren. Een van zijn eerste autonome beslissingen was de vrijlating van zijn zwager Lodewijk van Orléans, die sindsdien zijn loyale dienaar is gebleven (en die hem ook zou opvolgen!).