Der Name geht direkt auf das altgriechische Wort marmaros = (glänzendes) Gestein zurück. Bereits in der Antike war damit Marmor gemeint. Die eigentliche Wurzel ist das Verb marmaroi = glänzen. Die Gesteinsbezeichnung leitet sich aus dem starken Glanz der Kristallflächen in grobkörnigen Marmoren ab.

Wichtig ist, dass der Begriff Marmor in den Geowissenschaften anders verwendet wird als in der Werksteinindustrie. Für Geowissenschaftler ergibt sich der Name aus dem Modalbestand und der metamorphen Überprägung. Techniker verwenden den Begriff aber für jedes polierfähige karbonatische Gestein. Bestes Beispiel ist der unmetamorphe Treuchtlinger Marmor (Fensterbänke).