方解石在自然界分布极广 。
在浅海或湖泊中常常沉积形成广大的石灰岩层。
地下水可溶蚀石灰岩，也可以重新形成方解石，如石钟乳、石笋、石灰华等。在土壤中活动的地下水在潜水面附近，常形成沿一定水平面分布的方解石结核，地质工作者习惯称为钙质结核。
在热液活动中常形成含矿或不含矿的方解石脉。在晶洞中，常有良好晶体。
在岩浆作用形成的碳酸盐中，方解石常占80%左右。
此外，方解石还作为碎屑沉积岩的胶结物，基性岩浆岩蚀变后的矿物等参加到各种岩石中去。由于地下水活动，各种岩石的裂隙中也经常充填有方解石脉。
由沉积作用形成的石灰岩，在区域变质或接触变质作用中，其中的方解石常常再结晶形成晶粒比较粗大的方解石集合体——大理岩。