James Madison’ın siyasi ofisinde geçirdiği süre, Batı Florida’yı İspanyol’dan satın alamama, bir dizi eylemle huzursuzluk ve yıkıcı kısıtlamalara neden olmak, 1812 Savaşından Kanada’ya toprak elde edememek ve iki başarısız olmak gibi birkaç başarısızlık gördü. ABD Anayasası'nda yapılan değişiklikler. Madison, 5 Mart 1801'de Cumhurbaşkanı Thomas Jefferson tarafından devlet sekreteri seçildi ve 1809'da başkanlık ederek iki dönem görev yaptı.
Madison, 1789’da Temsilciler Meclisi’nde görev yaparken Anayasa’ya 12 değişiklik teklif etti. Bunlardan on tanesi devletler tarafından onaylandı, ancak ne yazık ki ilk ikisi yoktu. Bunlardan ilki, Temsilciler Meclisi üyelerinin paylaştırılması ile ilgilidir. ancak oylar, yasa çıkarmak için neyin gerekli olduğu konusunda yetersiz kaldı. Kongreye ilişkin ikinci değişiklik, maaş zammıyla kendisini düzenleyememek. 1982 yılında bir üniversite öğrencisinin beklenmedik bir keşfi, değişikliğin son kullanma tarihi olmadığını ve şimdi Anayasa'nın 27. maddesi olduğunu vurguladı. Madison'ın onaylanan 10 Değişikliği, Haklar Yasası oldu.
Madison, 1803’te Louisiana Jefferson’taki Başkan Jefferson ile işbirliği yaptı, ancak anlaşmada West Florida’yı güvenceye alamadılar. Madison nihayet 1810’da başkanlığı sırasında Batı Florida’yı zorla ekleyebildi.
1807 tarihli Ambargo Yasası ve 1809'daki Cinsel Olmayan Yasa, ABD ekonomisine yardımcı olmak için geçen yasalar arasındaydı. Ancak, bunlar yalnızca ABD ticaretini aksatmaya ve ABD tüccarlarını kaçakçılığa teşvik etmeye neden oldu. Ticari yaptırımlar Avrupa ülkeleri tarafından kabul edildi. Macon'un 2 No'lu Bill'i bu kesintileri durdurmak için 1810'da imzalandı, ancak Fransa şartlara katılırken, İngiltere bunu kabul etmedi. Madison, 1812'de İngilizlere karşı savaş ilan etti.