杜鲁门人称“意外总统”，因为他是在1945年罗斯福总统突然去世后，才继任总统职务的。在1948年总统大选中，杜鲁门当选连任，击败了共和党候选人——纽约州州长杜威，杜鲁门所在的民主党也夺回了国会参众两院的多数席位。
按说，民主党控制的国会应该让杜鲁门的政策畅通无阻，但实际情况并非如此。国会里的南方民主党人一次又一次联合保守派共和党人，挫败了杜鲁门很多最重要的提案，其中包括全民医保提案。
杜鲁门第二个任期内最重要的问题之一是对共产主义的担忧。第二次世界大战后，美国人眼睁睁看着东欧一个又一个国家加入苏联阵营，苏联领导人斯大林希望将共产主义推广到世界上的每一个角落。
美国人也清楚地看到，经过十多年内战，毛泽东领导的武装力量最终打败了国民党，1949年在中国建立了共产党政权。这段时期内，有人指责说，美国政府里一些重要职务也被共产党人所控制。这些或真或假的恐惧，就是所谓的“红色恐慌”。
美国来自威斯康辛州的共和党参议员约瑟夫.麦卡锡带头在美国搜查共产党份子。麦卡锡参议员曾说过：“就算国务院里只有一个共产党人，也是太多了。”
麦卡锡在国会讲话和听证会上，先后指责几百个人是共产党或是共产党的支持者，被他攻击的对象包括美国国务院、美国陆军和美国的影视娱乐行业。
麦卡锡参议员的指控往往是没有事实根据的。如果是在法庭上，这些指控根本站不住脚，但国会听证规矩不一样，他因此可以随心所欲地指责某某人是共产党人。
很多被麦卡锡说成是共产党份子的人，都因此失去了工作，有些人不得不隐藏真实身份，用假名字找工作，还有一些人因为拒绝跟麦卡锡合作而被投入大牢。
麦卡锡反共的调查行动持续了几年的时间。五十年代初，越来越多的人开始对他的做法提出质疑，批评者说，他这样做违背了民主传统。1954年，美国国会参议院终于投票，对麦卡锡的行动表示谴责，三年过后，麦卡锡离开了人世。
对共产党人的恐惧在美国国内造成了问题。与此同时，杜鲁门总统还要面对其他国家共产浪潮所带来的威胁。
杜鲁门同意向希腊和土耳其提供援助，并支持推行马歇尔计划，帮助西欧战后重建。很多历史学家都说，正是因为马歇尔计划，西欧才没被共产力量所控制。
为帮助西欧抵御苏联，在杜鲁门的支持下，1949年成立了北大西洋公约组织，成员国包括美国、英国、加拿大、法国和另外八个国家。北大西洋公约规定，对一个成员国的攻击，就是对所有成员国的攻击。杜鲁门任命曾任二战欧洲盟军总指挥的艾森豪威尔将军担任北约最高司令。
杜鲁门在1949年的宣誓就职演说中，敦促美国借钱给别的国家，支援它们的发展，他还希望分享美国的先进科学和技术。
1951年，杜鲁门要求国会建立一个新的外援项目，援助对象是欧洲、中东，北非、东亚、南亚和拉丁美洲地区受到共产力量威胁的国家。杜鲁门相信，盟国的强大会让美国更加强大。
杜鲁门觉得，国际社会中的很多问题都可以通过武力以外的方式解决，但是他在担任总统期间，一直支持使用武力。
1950年6月25号，朝鲜进攻韩国。两天过后，联合国安理会通过决议，敦促联合国成员国帮助韩国抵抗侵略。杜鲁门总统起初只同意派遣美国战斗机和战舰，但是后来又同意派遣美国地面部队。
杜鲁门很明白，如果苏联也加入这场冲突，站在朝鲜一边，那么他的决定就可能会引发第三次世界大战。然而，杜鲁门认为美国必须采取行动。他后来曾表示，这是他当总统所做出的最艰难的决定。
杜鲁门任命麦克阿瑟将军为驻韩国的联合国部队总指挥官。韩战主要沿南北韩分界处的三八线展开，交战双方势均力敌，一方抢占一个山头，不久又会被对方夺走。1950年9月，麦克阿瑟在仁川发动水陆进攻，迫使朝鲜退回到三八线另一端。大家本希望，这场战争能在圣诞节前结束。
然而，中国11月底出兵帮助朝鲜，数以万计的中国士兵将联合国部队向南推。麦克阿瑟将军想攻打中国东北，但是杜鲁门不同意，他不希望让战火烧到朝鲜半岛以外，担心会引发又一场世界大战。
麦克阿瑟坚信，把战场扩大到中国，就一定能速战速决。他公开反驳杜鲁门的政策，说“胜利是无可取代的”。杜鲁门没办法，1951年4月解除了麦克阿瑟的职务。
杜鲁门说：“带着深切的遗憾，我不得不采取这一行动。麦克阿瑟将军是最伟大的军事领导人之一，但是世界和平比任何一个个人都重要得多。”
在美国，军方将领必须听从总统的命令，因为总统是国家最高军事统帅。虽然有些美国人赞成解除麦克阿瑟的职务，但是另外一些人却站在他的一边。麦克阿瑟返回美国时，受到数百万人的欢迎，旧金山和纽约等城市还为他举行了盛大游行。
事实上，美国20世纪没有几位领导人的呼声能跟麦克阿瑟相提并论。纽约市为麦克阿瑟举行的大游行有将近七百万人参加，是为二战英雄艾森豪威尔举行的大游行参加人数的近两倍。麦克阿瑟1951年4月19号在国会联席会议上发表告别讲话。
麦克阿瑟说：“我即将结束我52年的军旅生涯。我是上个世纪参军的，参军实现了我儿时的梦想和愿望。从我在西点军校宣誓至今，世界已经历了多次变化，童年的希望和梦想也早已消失，但我依然记得当年流行的一首军歌，歌词自豪地反复唱道，老兵永远不死，他们只会淡出舞台。我就是歌词里说的老兵，即将结束我的军旅生涯，即将淡出舞台，我就是个老兵，通过上帝赐予的光芒，看到了自己的职责，并努力去完成自己的职责。再见了。”
朝鲜半岛上的战火继续燃烧。停火谈判从1951年7月开始，但是冲突又持续了整整两年，朝鲜半岛停火协定是1953年7月27号签署的。
1952年是美国大选年。韩战和国内经济问题的继续，使杜鲁门的民众支持率下降。与此同时，二战英雄艾森豪威尔将军也在考虑参加共和党总统候选人的角逐。做为总统，杜鲁门做出过很多艰难的决策，其中之一是，1952年3月，杜鲁门宣布，他不准备参加1952年的总统选举。
