La nouvelle vague d'expansion, qui se situe entre le XIe et le XIVe siècle, n'a pas le caractère spectaculaire de conquête territoriale qu'avaient revêtu les deux premières vagues. Mais d'autres caractéristiques y tiennent une place importante. C'est d'abord le rôle des non Arabes - Turcs ou Mongols en Orient, Berbères en Occident -, le plus souvent d'origine nomade, et ces nomades ne sont pas les destructeurs systématiques que l'on a trop souvent dépeints ; ensuite tous sont sunnites, c'est-à-dire qu'ils professent l'islam orthodoxe ; au nom de celui-ci, et en raison de la défaillance des Arabes, ils se proclament les champions de l'islam face à tous ses adversaires extérieurs et intérieurs. Enfin, ils portent l'islam dans des territoires où il n'a pas pu s'établir ou pénétrer : Asie Mineure, Afrique noire. Dans l'Inde, à la suite des Ghaznévides, d'autres dynasties turques trouvent un terrain d'expansion : tels sont les Ghourides à qui l'on doit la grande mosquée de Delhi où se manifestent, dans l'art islamique, les premiers emprunts indiens, et surtout les Khwarezmiens qui, au XIIIe siècle, exercent leur domination depuis les frontières de l'Iraq jusqu'à l'Asie centrale et du Caucase au golfe Persique. Mais les uns et les autres vont devoir affronter la poussée mongole, à laquelle ils résisteront d'autant moins que les États qu'ils ont constitués sont peu ou mal administrés et livrés aux ravages de bandes de Turcomans rétifs à toute autorité gouvernementale.

Plus à l'ouest, les succès des Turcs Seldjoukides en Iran et en Iraq se prolongent en Asie Mineure où une branche cadette pénètre profondément et parvient, non sans difficultés, à s'imposer sur le plateau anatolien, créant ainsi l'État seldjoukide d'Anatolie ou de Roum, point de départ d'une implantation turque permanente. Les Byzantins sont chassés d'un territoire qui appartenait de fondation à leur Empire et ils vont désormais livrer une lutte défensive contre les Turcs. Contrairement aux dynasties d'Asie centrale et de l'Inde, les Seldjoukides sont fortement organisés, leur administration est solide et leur armée redoutable ; ils ont su allier à leur génie propre les qualités administratives des Iraniens (incarnées par le vizir Nizam al-Moulk) et nombre de traditions arabes, si bien que ce n'est pas par hasard que le monde musulman a eu plus tard l'Anatolie turque pour base de départ d'une nouvelle expansion.

Il faut également noter que, pour la première fois, les musulmans sont en contact direct non plus seulement avec les chrétiens de Byzance ou d'Orient, mais aussi avec les chrétiens d'Occident, les " Latins " venus avec les croisades. Certes, les contacts entre Latins d'une part, Seldjoukides, Zengides et Ayyoubides d'autre part, ont été assez limités : ils n'en constituent pas moins un aspect nouveau des relations entre les deux religions et l'amorce du développement commercial entre l'Orient méditerranéen et les pays d'Europe, par l'intermédiaire des cités marchandes italiennes. Il convient cependant de ne pas exagérer la portée de ces contacts, qui sont loin d'avoir eu l'ampleur de ceux qui existaient en Occident, par la voie de la Sicile et de l'Espagne.

En Afrique du Nord, bouleversée par l'invasion hilalienne, apparaît peu après le milieu du XIe siècle une tribu nomade qui, au nom d'un islam rénové et purifié, entreprend de chasser les hérétiques, de refaire l'unité musulmane et d'accroître ensuite la lutte contre les chrétiens d'Espagne : ce sont les Almoravides, nomades berbères qui prennent vite goût à la vie citadine, au luxe et au raffinement espagnols, si bien qu'ils sont à leur tour, au début du XIIe siècle, éliminés par de nouveaux puristes musulmans, les Almohades, au rigorisme religieux beaucoup plus poussé. Almoravides et surtout Almohades ont reconstitué en Afrique du Nord l'unité des musulmans autour d'un islam sunnite rénové qui triomphe du Maroc à l'Ifriqiya et étend momentanément sa domination sur des peuples au sud du Sahara, comme ceux du Ghana. De plus, les Almohades sont les artisans d'un renouveau administratif et artistique ; la sécurité règne et favorise l'essor du commerce depuis l'Espagne jusqu'au Soudan, et c'est par le biais du commerce que, peu à peu, l'islam s'insinue en Afrique noire : au Sénégal, au Mali, à Gao, au Bornou et jusqu'au Tchad. Cette islamisation de l'Afrique noire est encore limitée et ne touche pas la majorité des populations ; toutefois l'élan est donné et la pénétration de l'islam sur ce continent ne fera que s'accentuer aux XIIIe et XIVe siècles.

En revanche, en Espagne, les Almohades ne peuvent contenir la poussée chrétienne et la Reconquista se déroule progressivement ; au milieu du XIIIe siècle, les musulmans ne tiennent plus que le royaume nasride de Grenade, qui résiste jusqu'à la fin du XVe siècle. De même, les souverains normands de l'Italie du Sud et de Sicile portent dès le XIIe siècle le combat en Ifriqiya, en une croisade qui ne remporte pas les succès escomptés, pas plus que n'en remporteront au siècle suivant les entreprises du roi de France, Saint Louis, en Égypte et en Tunisie.

Le principal assaut que l'Islam subit aux XIIIe et XIVe siècles ne vient pas des puissances chrétiennes, mais des Mongols. Les héritiers de Gengis khan, après avoir conquis la haute Asie, l'Asie centrale, la Chine et même l'Europe orientale, s'attaquent au monde musulman : l'Iran tombe entre leurs mains en 1231 ; en 1258, Hulégu détruit Bagdad, ravage l'Iraq, détruit le califat ; deux ans plus tard, c'est le tour de Damas, mais les Mamelouks d'Égypte interviennent et rejettent hors de Syrie les Mongols qui continuent cependant à camper en Anatolie orientale, en Iraq et en Iran. Après quelques décennies de répit, l'attaque mongole reprend avec Tamerlan, et les ravages, les destructions sont encore pires qu'avant. Mais l'offensive n'a plus le même caractère : alors qu'Hulégu s'était montré farouche adversaire de l'islam, ses successeurs, les Ilkhans de Perse, ont finalement adopté cette religion et ont contribué à la diffuser dans les territoires au nord de la mer Noire et du Caucase, chez les Mongols du Qiptchaq. Cependant la pression mongole connaît des obstacles, du fait notamment des Turcomans, des Turcs d'Asie Mineure et des Mamelouks d'Égypte. En fait, l'islam des Mongols a été peu profond, et surtout il a varié du sunnisme au shi'isme, montrant ainsi qu'il n'était qu'une attitude d'opportunité. Le shi'isme n'a finalement prévalu qu'en Iran, alors que partout ailleurs en Orient le sunnisme triomphait : l'Iran devait désormais occuper une place à part dans le monde musulman.

Ce qui apparaît comme important, dans cette période mongole de l'Islam, c'est l'essor nouveau que connaissent les routes commerciales du Proche-Orient contrôlées par les Mongols : celle du nord par la Russie et le Turkestan, celle du centre nord par l'Asie Mineure, l'Iran et le Khorassan, celle du centre sud par la Cilicie, l'Iraq et le golfe Persique ; seule leur échappe la voie du sud aux mains des Mamelouks d'Égypte. Enfin, il faut bien constater que la domination mongole n'a pas eu de conséquences durables pour les populations musulmanes conquises ou soumises qui, au contraire, ont réussi à exercer une influence culturelle, intellectuelle et artistique, de l'Asie Mineure à l'Inde.

Une partie du monde musulman oriental demeure hors de l'orbite mongole : le territoire des Mamelouks, qui comprend l'Égypte et la Syrie. Ces Mamelouks - d'origine circassienne, géorgienne ou turque - n'ont pas cherché à étendre leur domaine ; en revanche, ils ont contribué à contenir les Mongols et, surtout, ils ont été les agents d'une remarquable expansion commerciale qui a conduit les marchands arabes des rives de la Méditerranée orientale et de la mer Rouge vers le Yémen, les côtes orientales de l'Afrique, les comptoirs de l'océan Indien, et aussi Byzance et la mer Noire, à la recherche des esclaves, des matières premières qui font défaut aux Mamelouks ; ils sont en outre des intermédiaires bien placés dans le commerce des produits asiatiques - indiens et chinois - recherchés maintenant par les Européens. C'est en grande partie par les marchands que l'Islam a conquis peu à peu l'Afrique orientale, l'Inde méridionale et commencé à pénétrer en Indonésie, à partir des comptoirs côtiers ; certes, à cette époque, la pénétration musulmane est encore limitée, mais elle est en route et ne pourra plus être arrêtée. En Afrique, où le phénomène est beaucoup plus vivace, les voies d'expansion de l'Islam, qui ont été à l'origine dirigées du nord vers le sud, à partir des villes du Maghreb, de Tripolitaine et d'Égypte, vers les royaumes du Ghana, du Mali, des Songhaï ou de la Nubie, tendent à prendre des directions ouest-est, et, finalement, par le Tchad et le Soudan vers le Nil, entrent en contact les unes avec les autres, tissant ainsi un réseau que parcourent marchands et propagateurs musulmans : l'Islam d'Afrique noire est désormais une réalité.

L'expansion au temps des Ottomans

La domination mongole sur le monde musulman oriental s'atténue au XVe siècle et trouve alors dans l'Inde son terrain d'application ; à la même époque, les Mamelouks connaissent une anarchie gouvernementale qui annihile toute activité autre que commerciale. L'Afrique du Nord se scinde en plusieurs États sans grande influence. On pourrait parler d'un assoupissement, d'une stagnation politique de l'Islam si n'apparaissait, dans la seconde moitié du XIVe siècle, une puissance nouvelle qui, à son tour, reprend à son compte la grande épopée musulmane et, pour la première fois, va faire trembler l'Europe en portant la guerre sur son sol : il s'agit de la dynastie ottomane.

Les Ottomans (ou Osmanlis, du nom de leur éponyme, Osman) étaient à l'origine une petite tribu turque établie, vers la fin de l'État seldjoukide de Roum, en Anatolie occidentale. Progressivement, en profitant de la disparition des Seldjoukides, de l'éloignement des Mongols, des rivalités entre tribus turques et turcomanes d'Asie Mineure, du recours par les Byzantins à des mercenaires, les Ottomans ont su constituer un domaine de plus en plus vaste qui, à la fin du XIVe siècle, comprend toute l'Asie Mineure occidentale et, après leur venue sur le continent européen en 1354, une bonne partie de l'Europe balkanique d'où ils menacent directement Byzance. Cette expansion ottomane revêt, dès ses débuts, des caractères nouveaux. Tout d'abord la conquête est menée au nom de la propagation de l'islam en territoire infidèle, non pas dans un esprit de conversion, de prosélytisme, mais de supériorité des musulmans turcs sur les chrétiens, que l'on ne cherche pas à convertir ; ensuite, cette conquête est organisée : les Ottomans n'ont pas été les barbares qu'une certaine propagande européenne s'est plu à représenter ; soldats rudes, ils l'ont été, mais aussi administrateurs avisés, qui ont tenu compte largement de la situation préexistante dans les pays conquis pour mettre au point un système nouveau ne défavorisant ni le vainqueur, ni le vaincu : cadres, notables, religions, langues, rien, dans une première phase, n'a été bouleversé, ce qui a facilité une certaine adhésion des populations aux nouveaux maîtres. Ceux-ci disposent d'ailleurs d'une armée solide, recrutée à l'origine uniquement parmi les Turcs et animée de l'esprit ghazi  (la conquête religieuse), ensuite constituée au moyen de la devchirmè  (le ramassage) de jeunes chrétiens des Balkans arrachés à leurs familles puis islamisés et turquisés : ce sont les janissaires (yéni tchéri  - la nouvelle troupe) qui, durant plus de deux siècles, ont assuré la suprématie des armées ottomanes. Enfin, il faut bien noter que, pour la première fois, la conquête touche l'Europe continentale byzantine ou sous influence byzantine, jusqu'alors à l'abri des entreprises musulmanes : Grecs, Bulgares, Macédoniens, Serbes passent sous la domination ottomane et, à la fin du XIVe siècle, le sort de Constantinople paraît devoir suivre celui du reste de l'Empire. Mais l'arrivée soudaine de Tamerlan en Asie Mineure détourne les Ottomans de leur objectif : la défaite subie par le sultan Bayézid à Ankara en 1402 sauve la capitale grecque, mais ne compromet que momentanément la situation de l'Empire ottoman en Asie Mineure ; il est à remarquer qu'alors les populations européennes soumises n'ont pas bougé ni cherché à recouvrer leur indépendance, ce qui témoigne en faveur des Ottomans et de leur système de gouvernement. Après la parenthèse d'Ankara, l'essor reprend, et cette fois c'est la chute de Constantinople, la fin de l'Empire byzantin, la constitution d'un grand empire musulman à cheval sur l'Europe et l'Asie, les Européens convaincus de la supériorité ottomane par trois graves défaites subies lors des croisades antiturques à Kos sovo (1389), Nicopolis (1396) et Varna (1444).

Il est plus important de noter que le système gouvernemental ottoman a, d'une part, apporté des satisfactions aux Turcs victorieux et, d'autre part, su ménager les particularismes des peuples soumis, sous réserve que l'ordre soit maintenu, que les impôts rentrent et que le recrutement de l'armée s'effectue régulièrement ; pas de persécution religieuse, de conversion forcée : au contraire, une grande tolérance - qui contraste avec l'autoritarisme religieux des Byzantins - allant jusqu'à accueillir dans l'empire, à Salonique et à Istanbul (nouveau nom de Constantinople) les Juifs chassés d'Espagne ou d'Europe centrale. L'Empire ottoman constitue, dès le XVe siècle, un État remarquablement organisé : à la personnalité de sultans hors de pair s'ajoute une administration policée dont les règles sont tirées à la fois du fonds musulman et du fonds byzantin ou slave, mais où les traditions turques tiennent une large place : les qanounnamès  (règlements) édictés à partir du milieu du XVe siècle sont un reflet de cette organisation administrative.