Giles znany jest przed wszystkim jako współzałożyciel grupy muzycznej Giles, Giles and Fripp, z której powstał jeden z najsłynniejszych zespołów rockowych – King Crimson. Po odejściu z grupy dołączył do Iana McDonalda i nagrał z nim płytę pt. McDonald and Giles, niedługo potem nagrał również solowy album pt. Progress, wydany dopiero w 2000 r. Później kontynuował działalność jako muzyk sesyjny. Giles jest również pomysłodawcą 21st Century Schizoid Band, grupy skupiającej byłych członków zespołu King Crimson, prezentującej wczesne nagrania wspomnianego zespołu.

Nel suo stile molto fluido e libero è evidente la radice jazz ma anche l'influenza di musicisti come Mitch Mitchell e Ginger Baker. Dal vivo, con i primi King Crimson, era caratterizzato, anche per l'uso della doppia cassa, da un suono potentissimo. Non ha comunque mai amato esibirsi in concerto.

Giles lasciò i Re Cremisi dopo il primo disco, suonando nel secondo come ospite, per formare con Ian McDonald il duo McDonald and Giles, con uno stile più leggero dei King Crimson, ma altrettanto impegnativo musicalmente. Un album solista, Progress, fu registrato alla fine degli anni '70 ma pubblicato solo recentemente. Nel 1983 registrò un disco, Ghost Dance, con Jamie Muir, nei King Crimson tra il '72 e il '73, e David Cunningham, dei The Flying Lizards. Ha comunque una prolifica carriera come session man. Tra gli altri ha suonato con Roger Glover, Graham Bonnet, Penguin Cafe Orchestra, Bryan Ferry, Kevin Ayers.