早期的克里姆林宫（防御城墙）为木制，建于12世纪。在河道的交汇处，一个小商镇从其中分离发展起来。1238年，俄罗斯各公国被金帐汗国征服，莫斯科成为蒙古帝国入侵的牺牲品。克里姆林宫遭到严重破坏，但很快获得重建。在伊万的统治下，莫斯科大公国于14世纪初建立。克里姆林宫成为公侯的住地和宗教中心。其木制围栅在14世纪末被石墙取代，到15世纪末，砖墙又取代了石墙。伊凡三世于1480年结束了蒙古帝国达三个世纪的统治，并努力实现俄国的统一。克里姆林宫建筑群是当时这一新的政教结合的反映。最初在15世纪是一个集贸市场的红场成为首都的主要广场。在伊凡四世棗即雷帝（1547?584）的统治下，国家的统一得以巩固。1543年君士坦丁堡，即拜占庭失陷落入土耳其人之手，标志着东罗马帝国和作为第二罗马的拜占庭帝国精神继承人和东正教的保护者，并以莫斯科为第三罗马的首都。推动这项行为实施的是令人畏惧的伊凡。俄语中称他“Grozjyi”，即“令人畏惧的”，西方作家把它译成“恐怖的”。他在3岁时继承父位成为大公，14岁执政，16岁加冕为沙皇，征战的胜利使他建立了一个俄罗斯王国，由他在莫斯科进行统治。他生性残暴，1583年一怒之下杀了自己的儿子，3年后他自己也死了，据说在圣巴西勒教堂竣工后，沙皇命人把建筑师眼睛弄瞎，为的是使他永远无法再造奇迹与之匹敌。

    1555年，他在红场上修建了瓦西里布拉仁教堂，以纪念俄罗斯对喀山汗国的征服。公元16?7世纪，克里姆林宫成为沙皇的住地。随着1703年政治权力向圣彼得堡的转移，克里姆林宫继续保持了宗教中心的地位。当1918年莫斯科再次成为首都后，克里姆林宫重新成为苏维埃政权政府部门的所在地。此后克里姆林宫统治着苏联。弗拉基米尔·伊里奇·列宁迁入18世纪参议员大楼办公。他在大楼顶楼过着俭朴的生活。他书房墙上的钟一直停在8点15分，这是他病重无望时最后一次离开房间的时间。他于1924年逝世，经过防腐处理的遗体陈放在红场上一个木制的方尖塔中。1930年改建成花岗石陵墓。伊凡雷帝是第一个能真正称得上全俄沙皇的人，他于1547年在莫斯科克里姆林宫加冕。克里姆林宫里“城垒”或“内城”的意思，俄罗斯的一些大城市都有古老的“克里姆林”。但从1547年后只有在莫斯科的城堡才称“克里姆林”。12世纪这个城堡最初建立时，莫斯科就以它为核心发展起来。起堡呈三角形，位于莫斯科河畔，占地28公亩，内部有沙皇的宫殿和不少教堂。1917年十月革命后，克里姆林宫成为前苏联政府的所在地。