馬爾巴譯師最早的主寺在南藏洛札 ( Lhodrak ) 區。在此區附近仍可看到他弟子密勒日巴為他建造的九層塔。大瑜伽士密勒日巴的修行道場在喜瑪拉雅山脈的很多山洞中。密勒日巴心子岡波巴大師在南藏達波區興建了達拉岡波寺 ( Dhaklha Gampo ) 是噶舉傳承的第一個主寺。以上都是噶舉傳承上師所留下最珍貴的寺院和道場。

岡波巴大師的弟子和帕莫竹巴的弟子都普遍在西藏建立寺院。其中最重要的是第一世噶瑪巴杜松虔巴在中藏吐龍峽谷創建的楚布寺，此寺幾世紀以來，是所有噶瑪噶舉傳承的主寺。在西藏境外，第十六世噶瑪巴在印度錫金建立了隆德寺，它是噶舉在西藏境外最重要的主寺。

八邦寺在東藏德格區，是第八世大司徒仁波切確吉 穹乃 ( Chökyi Jungney 1700-1774 ) 於1727年創建，它是噶瑪噶舉在康區最重要的主寺。( 在印度喜馬偕爾邦比爾城之八邦學院是尊貴的第十二世大司徒仁波切所創立 ) 察卓仁千札克寺 ( Tsandra Rinchen Drak ) 在東藏德格區，是蔣貢康楚 ( Jamgon Kongtrul 1813-1899 ) 創建。尊貴的第三世蔣貢康楚仁波切 ( 1954-1992 ) 在尼泊爾，加德滿都興建普拉哈里寺 ( Pullhahari Monastery )。確嘎岡寺 ( Chögar Gong ) 在中藏楚布區是國師嘉察巴 ( Goshir Gyaltsaba ) 的轉世創建。

1959年中國軍隊進入西藏，及文化大革命時，大部份寺院都被毀壞。由於中國內外佛教徒的支持和藏人的努力，大部份已經修復。各寺院的上師、仁波切們也紛紛在印度、尼泊爾、不丹等地興建境外主寺，以維護傳承的延續及培養教育青年的僧眾和轉世的仁波切。