亨利四世被刺杀后，王后玛丽·德·美迪西斯摄政，希望在巴黎建造一座有花园围绕的宫殿。她选择了一处巴黎城门附近正在开发的区，圣-日尔曼-德-普雷区
(Faubourg Saint-Germain-des-Prés)，那里已有许多她的意大利同胞居住。她特别被坐落在市郊沃日拉尔街(rue de Vaugirard)比内公爵(duc de Piney)的弗朗索瓦·卢森堡公馆所吸引。这里还仍然是一片田野风光，周围是葡萄园和果园、女修院及有产者的住宅，还仍有很大的建筑空间。

玛丽·德·美迪西斯于1612年购下了卢森堡公馆以及周围八公顷的花园。1615年，她将这一改建项目交给建筑师萨洛蒙·德·布罗斯(Salomon de Brosse)，请他仿照其童年的皮迪宫(palais Pitti)改建。但是，改建后卢森堡宫的建筑风格更接近传统的法国城堡，而不似弗罗伦萨的风格。建筑师仅仅采用了托斯卡纳柱型的«凸雕饰»来装饰建筑正面的石材。工程进行了10年，直至1625年，王后才得以为装饰有二十四幅向画家吕本斯(Rubens)定购的表现王后荣光的宫殿西廊剪彩。新的宫殿引起世人的赞叹，王后的套房当时«被认为是人们见过的最为豪华、最为富丽堂皇的套房»。

她只在那里居住了很短的一段时间。1630年在卢森堡宫发生了«受骗日»事件，她被她的儿子、信赖黎塞留红衣主教的路易十三驱逐。

1642年，玛丽·德·美迪西斯在科隆去世后，卢森堡宫仍然作为王族的府第直至法国大革命的到来。但是由于远离凡尔赛宫的盛大排场，卢森堡宫渐渐失去了最初的辉煌。到了十八世纪中期，由于首次向公众开放东廊绘画博物馆，这座建筑又重获了她的某些魅力。一百多幅绘画展现在参观者面前，他们在欣赏过这些绘画之后又转到西廊,去赞叹吕本斯的杰作。1780年，普罗望斯伯爵从其兄弟路易十六国王手中得到卢森堡宫及其花园，即下令关闭了博物馆。

法国大革命掀开了卢森堡宫历史新的一页

往日的王宫及王族的府第于1791年被宣布为国有财产。1793年变成一所监狱。在«恐怖时代»统治时期，有近千名贵族及政治名人被关押在这里。大革命后，被毁坏的宫殿呈现出«一幅忧伤的画面»。

从1795年起，卢森堡宫开始了它新的命运，成为法国督政府所在地。修缮工程开始，并于1799年拿破仑·波拿巴雾月政变(1799年11月9日)后改卢森堡宫为保守参议院院所时，修缮工程大规模展开。

建筑师让·弗朗所瓦·夏尔格兰(Jean-François Chalgrin)是将王宫改建成政治议会所在地的主创人。内部的工程更加可观。在西翼打造出一座大型的主楼梯，四十八级台阶一个整体，独一的歇步楼梯平台，整体看上去非常壮观。在二层腾出来的空间可用于建造大会厅，即参议院机构的心脏。1804年，正是在这间装饰豪华的大厅中宣布了帝国的成立。

在法国王朝复辟时期，卢森堡宫成为法国议院中第二个议会贵族院的所在地。贵族院还同时赋有特别最高法庭的使命，负责受理叛国罪或者妨害国家安全罪。就这样，贵族院于1815年判处了内易(Ney)元帅的死刑。
七月王朝时期，此宫经历了其最重大的改建工程。1835年，最初按八十个参议员席位设计的大会厅对于二百七十个议员来说显得过于狭小。新建筑师阿尔封斯·德·基所尔(Alphonse de Gisors)为获得足够的空间以适应议院工作的要求，将朝向花园的建筑正面前移了三十一米，在二层布置出大会厅、图书馆以及几个工作室。花园也得到了改造，二十位法国王后及杰出女性的雕像矗立在新建的露台上。

宫殿的最后一项重大改建工程是为帝国参议院增建了一个神妙的御座廊(现为报告会会议厅)。1853年2月，拿破仑三世与欧仁妮的结婚典礼招待会即在这里举行。

第二帝国崩溃后，卢森堡宫经历了悲剧性的时刻。在1870年围攻巴黎时，这座建筑改为医院。在1871年巴黎公社时又改为法院，许多被判处死刑的囚犯即在花园中被执行枪决。

这些事件过后，因塞纳省行政公署在巴黎的办公大楼毁于火灾，此宫曾在数年中作为其公署所在地。而后，1879年7 月22日的法律恢复了卢森堡宫传统的议会用途，重新确定了两院院址在巴黎，并将卢森堡宫定为第三共和国参议院所在地。

上议院位于卢森堡宫直至1940年，这所宫殿被德国空军总参谋部占领为止。1944年8月，这里是巴黎最后解放的建筑物之一，也是战斗最为激烈的地方之一。

解放后，这座宫殿成为临时咨询议会所在地。其后，于1946年7至10月间，此宫迎接了有四个战胜国出席的和平大会。1946年底，这座宫殿成为共和国参议院。1958年成为第五共和国的参议院。

最后一次世界大战结束后，卢森堡宫经历了多次整修以适应现代议会机构的需要，同时又保持了其建筑风格和历史特色。