Era hijo de Muhammad, a su vez hijo de Abd al-Malik, uno de los hijos de Abd al-Rahman III. Por tanto, era bisnieto del célebre primer califa.

Al iniciarse las luchas por el poder en tiempos del califa Hisham II, se retiró de la corte cordobesa. Estando refugiado en Valencia, donde se encontraba al acceder al trono el hammudí Alí ben Hamud al-Nasir, en 1018 fue convencido por los partidarios de la familia de los omeyas para presentarlo como pretendiente legítimo al califato.