Am 28. März 2007 wurde in Köln der Koordinierungsrat der Muslime in Deutschland (KRM) mit der Unterzeichnung einer Geschäftsordnung offiziell gegründet.

Der erste turnusgemäße Sprecher des KRM, der für jedes halbe Jahr bestimmt wird, war der Vorsitzende des Zentralrats der Muslime, Herr Dr. Ayyub A. Köhler. Die Sprecherfunktion wechselt alle sechs Monate zwischen den vier Religionsgemeinschaften. Sprecher des KRM waren neben Herrn Dr. Köhler bislang Herr Dr. Bekir Alboğa, Herr Ali Kızılkaya, Herr Erol Pürlü, Herr Aiman Mazyek, Herr Burhan Kesici und Frau Nurhan Soykan.

Die Gründungsmitglieder sind die vier großen muslimische Religionsgemeinschaften: die Türkisch-Islamische Union der Anstalt für Religion (DITIB), der Islamrat für die Bundesrepublik Deutschland (IRD), der Zentralrat der Muslime (ZMD) und der Verband der Islamischen Kulturzentren (VIKZ).

Am 2. Juli 2019 wurde der KRM um zwei neue Mitglieder erweitert. Die Union der Islamisch-Albanischer Zentren in Deutschland und Zentralrat der Marokkaner in Deutschland traten dem Koordinationsrat bei. Diese Religionsgemeinschaften repräsentieren die absolute Mehrheit der Moscheegemeinden, in denen das islamische Gemeindeleben stattfindet.

Im KRM werden Themen, welche die Muslime und den Islam in Deutschland betreffen, evaluiert, erörtert und bei Bedarf gemeinsame Schritte eingeleitet.