Édesapja Mohamed bin Abdullah Al Fihri Al Qarawiyyin nagyon gazdag üzletember volt. Tunéziából, Qayrawan városából származott. Nemesi gyökerű, nagyon magas társadalmi rangú és nagyon sikeres kereskedő volt a IX. században. II. Idris uralkodása alatt – aki egy rendkívüli és istenfélő uralkodó volt - családjával Qayrawanból (a mai Tunéziából) nyugatra Fezbe (a mai Marokkóba) költözött.