憲法之父為國奠基
36歲的麥迪遜作為制憲會議代表出席在費城召開的制憲大會,在大會中,他所起的作用是不可替代的,當時的大會主席就是美國第一任總統華盛頓,雖然那時的華盛頓還不是總統。麥迪遜在會議期間靠近了華盛頓,而且記錄了所有秘密會議的討論情況,給後人留下一份寶貴的資料。他為建立新的聯邦政府起草了一項完整的計劃——「弗吉尼亞方案」。麥迪遜曾多次提出必須由人民自己直接產生眾議員,因為這是建立民主政府的首要條件。他還是憲法起草委員會的成員,麥迪遜參與了《憲法》的起草和定稿工作。這部《憲法》定於9月17日公布。在會議即將閉幕時,麥迪遜和他的朋友為了聯邦撰寫了許多文章,在當時,有許多人並不贊成聯邦制。麥迪遜的這些文章先刊登在紐約的幾家報紙上,後來在1788年彙集成書出版,這就是著名的《聯邦主義擁護者》。他的文章對爭取民眾起了極為重要的作用。華盛頓對麥迪遜寄予了很大希望,他在要求麥迪遜參加該州批准《憲法》大會代表競選的信上,信任而又充滿希望地寫道:「新《憲法》必須進行解釋,而只有你能作出最準確、最適當的解釋。」在這次會議上,麥迪遜以美國的現實為出發點精彩地擊敗了對手,並促成新憲法得到批准。由於麥迪遜的出色表現,使他遭到了反對聯邦制的政敵的攻擊,並多次為他在政壇仕途上設置障礙。當麥迪遜被提名為參議員時,他的政敵甚至誇張地宣稱,如果麥迪遜當選就會引起一場革命,而且美國整個國土血流成河。麥迪遜對《憲法》的解釋和辯論也確實傷到了他政敵的痛處,以至他的政敵——那些反對聯邦制的傢伙想盡辦法要在各種場合下挫敗他。因為他們知道,華盛頓的威望實在太高了,削掉他的左右可能容易些。但對麥迪遜來說,僅用夸夸其談和漂亮的臉蛋是無法挫敗的,他的確是個具有真才實學的人。同樣,麥迪遜的對手實力也是強大的,他們曾成功地使麥迪遜當選參議員的願望落空,接著又搬出另一位具有實力的對手和他競選眾議員,經過艱苦鬥爭,麥迪遜以微弱的多數使政敵的陰謀落空,成功地當選了眾議員。他的競爭對手也是實力不凡的人物,在當時也深受廣大民眾的喜歡,他就是麥迪遜後來的繼任者——詹姆斯·門羅。麥迪遜創立了一種偉大思想,而這一思想的具體實施,則建立了美國(包括現在)的政壇模式。這個思想的核心就是建議政府應由立法、行政和司法三大部分組成,它為美利堅合眾國憲法的最終通過奠定了基礎。麥迪遜和傑斐遜一起創立了那個時期的共和黨,而這個政黨則是以後民主黨的前身。其實從某種意義來說,麥迪遜的《聯邦憲法》的確保證了總統制的實施及延續,也從而使美國成為全世界第一個施行總統制的國家。這使那些封建帝國和喜歡國王統治的人很難理解,人們按常規總是固執地認為擁有無限權力的個人是不會主動交出權力的,除非被他的人民趕下台。正是基於這種思想,麥迪遜為未來政府設計了三權分立的藍圖,而當時的世界很多國家還在尋找他們心中的明君和一個好國王,麥迪遜的思想智慧不是一般人的高大身材所能比擬的,他被稱為「憲法之父」也就不足為怪了。