约翰·肯尼迪刚步入政坛时，还是个极不成熟的政客。也许他因病在棕榈滩休养时，正好可以静静地思考一番他政治生涯中走错的第一步棋。这一着棋，就是约翰·肯尼迪对麦卡锡的态度。
经过二战以后，当美国人迎来50年代的时候，美国正处在所谓的“红色恐怖”时期。全国上下，在参议员麦卡锡的煽动下，正发着反共的歇斯底里症。
由于第二次世界大战辉煌胜利的得意劲儿还没有消失，美国人对于共产主义在世界某些地区的循序渐进的胜利感到恼火，对于国内主张遏制——鼓吹有限的目标以避免无限的战争——感到难以接受，听来令人生厌。1951年元月《生活》周刊的一篇社论拒绝接受与苏联共产主义共存那种“政治哄骗”和“有害谬论”。
在蒋介石领导的国民党从大陆崩溃后，国务卿艾奇逊决定把全部真相向美国人披露。1949年8月5日，国务院发表了一份长达1054页的《白皮书》，承认这个世界人口最多的国家已经由共产党领导，并宣布停止援助国民党，并一一列举导致这个悲惨结局的一系列事件经过。美国三位将军史迪威、赫尔利和马歇尔都曾劝说蒋介石削弱国民党军阀的权力，肃清国民党军队内部的贪污腐败和失败情绪，但结果无一成功。对日战争以来，美国援助蒋介石的数额已超过20亿元。但是送给国民党的美国武器，有75％最后落在毛泽东领导的军队手中。
艾奇逊的白皮书导言中，直截了当地指出：“中国内战的不祥结局绝非美国政府所能控制，这是一件不幸的事，但也是无可避免的。我国在合理的能力范围内已做的和可做的一切都无法改变这个结局。”
在美国人对《白皮书》还议论纷纷时，国民党最后一批残部从大陆港口坐上轮船逃到台湾，一架B－29轰炸机从亚洲飞行回来，该飞机的飞行实验室带来一批令人十分惊慌失措的照片。本来B—29轰炸机属常规飞行，其使命是搜集气体应力材料，它的照片本来只有低级技术人员有兴趣。可是，照片冲洗出来以后，却显示出清晰的放射性物质迹象。这一切表明在苏联某地发生过原子爆炸。这个震动太大了，他们过去对美国人说苏联如果能搞成核武器的话，要在50年代末期。杜鲁门总统听到这个消息时，一再摇头道：“真的吗？真的吗？”当他知道真有其事时，他沉重地说：“这就是说我们一刻也不能耽误了。”
美国人毫不留情地谴责这一届政府，亚洲危机和美国失却核垄断都是要害问题。蒋介石逃到台湾后，杜鲁门在国内反共右翼势力的压力下，曾经公开宣布：
“共产党军队对台湾的最后占领，将成为对太平洋地区安全的直接威胁。为此，我已命令第七舰队阻止对台湾的一切进攻，同时要求台湾的蒋介石停止在空中和海上对大陆作战。第七舰队要负责使上述要求得以实现。”
把第七舰队像楔子一样塞在台湾海峡不让共产党解放台湾，也不许国民党反攻大陆，从而给美国添麻烦。
但是，共和党的极端保守派认定当时可以很容易就打败毛泽东的军队，右翼参议员约瑟夫·麦卡锡亲自到国民党驻华盛顿“大使馆”，和主人一起喝得醉醺醺后高呼“反攻大陆”，他们压迫艾森豪威尔取消杜鲁门当初的命令，让第七舰队站一边去，要把蒋介石放出笼子，让他能够放手对大陆采取行动。
由于1950年朝鲜战争的爆发，中国30个师越过麦克马洪线，美国国内的反共态度更加激化，麦卡锡也就变得炙手可热。许多政客惟恐背上“赤色”或“亲共”的黑锅而害怕与这位威斯康星州参议员正面交锋，就连俄亥俄州参议员塔夫脱一类正直之士，也出于党派利益的需要，甘愿支持麦卡锡妖言惑众。
麦卡锡这个名字，代表了美国政治生活中最黑暗的一个时期。1951—1954年间，麦卡锡一手遮天，操纵参议院设调查委员会，大肆搜集黑名单，大搞非法审讯，以法西斯手段迫害民主和进步人士，红帽子满天飞。麦卡锡肆意践踏宪法规定的权利，严重损害美国在国外的声誉和形象，使一些德高望重的知名人士，举凡马歇尔将军和迪安·艾奇逊等人，都遭到了最下流的辱骂，无数科学家、政治家、学者横遭不白之冤，这种思潮被称为麦卡锡主义。
参议员约翰·肯尼迪在一次集会上公开宣称他对参议员麦卡锡有好感。肯尼迪称麦卡锡为“伟大的爱国者”。
尽管这样公开的表态并不太多，但在以后的政治生活中，他一直后悔得要命。在1960年的总统竞选中他险些因此败北。
似乎很难说清在当时肯尼迪是以一种什么心态支持麦卡锡的。但有几点也许值得注意：第一，由于麦卡锡的一手遮天，肯尼迪也不愿在这场是非难辨的运动中背上黑锅。由于麦卡锡的法西斯式的做法，美国的政治生活中缺乏民主，对麦卡锡的支持是对自己的保护。第二，当时美国相当数量的选民被麦卡锡所迷惑，他们相信美国只有全面遏制共产主义才能够得以生存，他们对美国国内存在赤化分子深信不疑，一句话，他们深信麦卡锡的妖言，如果约翰·肯尼迪要争取选民的话，他自然会站到麦卡锡的一边去。在某种程度上，约翰·肯尼迪经常是为了赢得选民不惜改变立场的。第三，从思想史的角度看，肯尼迪属于美国战后“新的一代”，是坚决主张冷战，主张美国以国际领袖的身份到处伸手的一代人，他们与约瑟夫·肯尼迪作为战前孤立主义的一代人有着明显的思想分歧。所以他才会以一个爱国者的名义来理解麦卡锡的疯狂行为。
无论如何，约翰·肯尼迪在麦卡锡主义问题上留下了洗不清的污点。但是这对他的影响暂时还无法觉察。
麦卡锡对美国一代人甚至都产生了极为不良的影响。但在很长一段时期，美国人并没有发现。艾森豪威尔在1952年竞选美国总统，他到威斯康星州时，有摄影师要求他和麦卡锡俩人合拍一张照片，但是艾森豪威尔拒绝了，他告诉听众说：“我和麦卡锡参议员的分歧，我们彼此都清楚，我们已讨论过了。”
但是艾森豪威尔也错过了处理麦卡锡政治迫害运动的好时机。1954年春，陆军部长罗伯特·史蒂文森在麦卡锡的一个叫沙因的小伙计身上找到机会。沙因由于麦卡锡变相干涉免除了兵役，但取得了军官头衔。陆军将这些材料披露给新闻界。麦卡锡一跳八丈高，大吵大嚷。随后在麦卡锡委员会就陆军对麦卡锡一案的控告与反控告举行的正式听证会上，出现了十多年来最荒诞可笑的戏剧性插曲。这时，电视的日间实况转播达35天，估计吸引了2000万观众。这不仅是美国历史上前所未有的奇特的政治把戏，而且麦卡锡当场的所作所为给公众的感情以极大的震动。尽管过去曾一度对麦卡锡有过同情，但大多数观众在电视上见到这个家伙的卑俗粗鲁、暴戾恣睢、举止不端和缺乏公共态度的那副架势，实在不堪入目，不能不表示出强烈反感。不久，参议院通过一个谴责麦卡锡的报告。大学教授也早在反对麦卡锡主义。从此麦卡锡主义声名狼藉，成为法西斯主义的同义词。1957年5月，麦卡锡悄然死于不明之症。
由于约翰·肯尼迪对麦卡锡的态度，自由派人士有理由不信任这位年轻的参议员。
很有些意思的是，在这个对每一个正直的美国人都是一次严峻考验的关头，没有勇气面对国内不公正狂潮的肯尼迪，却出版了一本歌颂勇气和独立精神的书。
这就是1956年在美国出版的《勇者之像》，在疾病缠身的那段时间里，肯尼迪阅读了大量作品，思考了民主政治的若干问题，尤其对民主党的发展史进行了思索。杰奎琳在写作方面帮了肯尼迪的忙，她帮助肯尼迪构想了书的主题，为最初的研究工作做了大量事情。肯尼迪在书的前言中说：“如果没有我的妻子杰奎琳从最初就给予鼓励、支持和批评，这本书是根本不可能写成的。她在我整个康复期中所给予的帮助，我是怎么感谢也不够的。”肯尼迪的特别顾问西奥多·索伦森也整理了这本书的基础材料。
参议员约翰·肯尼迪因为《勇者之像》一书的出版而闻名全国。这是一本可读性很强的传记作品，写的是那些显示政治胆略的美国历史上重要的政治人物。
在《勇者之像》中，肯尼迪将重建时代描绘成“南方始终不会忘记的一个十足的噩梦”。这句话反映了内战后南方的这个历史性看法，这个看法在50年代仍然广泛地为人们所持有。民权运动只是刚刚开始，大多数美国历史学家还没有完全发现种族主义的前提，过去对重建时代所作的解释就是建立在这个前提之上。
参议员约翰·肯尼迪对于民权的记录反映了他对这个问题不存在特殊的看法。他在竞选总统的运动中会争取种族隔离主义者的选票。50年代参议院进行的四次主要的民权投票，他两次都站在自由派人士一边，而在更为重要的问题上，他两次站在南方一边。他投票要求陪审团对被控破坏1957年民权法的分子进行审判，当时南方的白人陪审团几乎没有人尊重黑人的法定权利。
肯尼迪的记录是否是冷漠的反映呢？约翰·肯尼迪早期在众议院委员会上对哥伦比亚特区做出了贡献，其中包括反对可能对贫穷的黑人失之公平的销售税。他强烈支持地方自治，保守分子却加以反对，因为特区的人口大部分是黑人。1952年，他主张参议院应该通过一项规定，反对使用阻挠手段（南方人曾使用这种手段来阻挠民权法案的通过），但未获成功。他要求仅仅以多数票使提付表决成为可能。1953年，他挑选内布拉斯加州的西奥多·索伦森作为自己的主要顾问，他喜欢索伦森，因为他喜欢重实际的自由派人士而不喜欢重感情的自由派人士。但是索伦森早期的民权活动有一个显著的、给人以深刻印象的记录，包括在其家乡成立一个种族平等大会分会。在第二次世界大战期间，索伦森还是一个拒服兵役者。选择索伦森证明了肯尼迪的开通。因此，肯尼迪在民权问题上的保守的投票，并不说明道义上的冷漠。实际上，它们意味着这些问题对他并不是最主要的，他还不是坚定的自由主义拥护者，这种自由主义将从他总统职位的意料不到的运气中获益不少。
肯尼迪在民权问题上的投票记录前后矛盾，不管其原因何在，他作为一个潜在的总统候选人需要得到更多的拥护者，而不只是罗马天主教徒和东北部的城市居民。在1928年的选举中，赫伯特·胡佛与纽约州的罗马天主教徒州长艾尔弗雷德·E·史密斯竞选，冲破了传统上一贯投票赞成民主党的南部各州，除了南部四个州外，赢得了南部所有其他州。在战后年代，反天主教教义有所复活，反天主教教义的增强是由于红衣主教弗朗西斯·斯佩尔曼攻击埃莉诺·罗斯福写的一篇只不过是赞扬政教分开的专栏文章。反动的斯佩尔曼还说服纽约的政治家禁止在纽约市的公立学校里阅读《民族》杂志——它在大部分天主教学校的图书馆里早已查禁——因为它发表了一系列文章谴责天主教会的等级权力。1950年，肯尼迪本人犯了错误，他支持给予天主教教区学校以联邦资助，他的强烈支持对一个全国性的政治家是无益的。对于肯尼迪，幸运的是，最高法院后来以五比四作出赞成的决议，体面地提供了这种援助。其他富有经验的民主党人，最主要的是富兰克林·罗斯福和哈里·杜鲁门，能够不太费力地消除了自由派北方与主要是保守主义的南方之间的分歧。但他们都是新教徒。
肯尼迪深入到南部并深入到非天主教徒中间。他与保守的南方人结成私人朋友，主要是密西西比州的众议员约翰·兰金以及参议员理查德·拉塞尔、斯佩萨德·霍兰和乔治·斯马瑟斯。即使在提出新英格兰的经济计划时，他也力图不去疏远南部那些经济上互相竞争的各州。同时，他的战略旨在利用自己的天主教教义。在民主党1956年代表大会召开前，索伦森透露了以康涅狄格州民主党领袖命名的贝利备忘录，认为一位天主教候选人将会加强全国的候选人名单。备忘录认为：艾尔·史密斯值得引起注意的一点是他损害了城市男女天主教徒，而不是1928年他的选举失败；那年经济非常繁荣，这自然使他的共和党对手赢得了胜利。1928年和1956年之间的巨大不同在于天主教人口的大幅度增加，而且其中大部分集中在拥有大量选举人票的州里。备忘录还认为，那些选区的一个危险信号是1952年艾森豪威尔总统在天主教徒选民中间有强有力的显示。
《勇者之像》一书的出版，引起了好莱坞摄制人多尔·沙里的注意，他给民主党全国委员会摄制了一部关于民主党历史的彩色影片。肯尼迪作为一部关于政治廉正的畅销书的作者，在电视屏幕上出现，给人以深刻的印象，日益受到人们的关注。还有谁比约翰·肯尼迪更适合讲述呢？肯尼迪出色地叙述了民主党的由来，从杰斐逊和杰克逊起一直叙述到它战后与共产主义的冲突。接着他为艾德莱·史蒂文森发表了一篇激动人心的总统提名演说，更增添了他自己的光辉。《纽约时报》称肯尼迪为“电影明星”，使人们对他惊人的崭露头角有了重要而深入的了解。
《勇者之像》于1957年获普利策奖的人物传记奖。哥伦比亚大学的理事们认为，对于那些也许有志于成为政治家的男孩们来说，它是一本极好的书，因而排除了学术顾问委员会的其他选择。
1956年，由于《勇者之像》的畅销和一系列越来越精彩的演说，约翰·肯尼迪比大多数民主党官员更有名声。他的朝气勃勃、风度翩翩、坦率耿直、处事稳重，以及在第二次世界大战中国战功而获得的勋章，使他对一些新的和不抱成见的投票人具有极大的吸引力。
1956年亦是美国选举年。民主党最有希望的史蒂文森组成了竞选阵营，并且透露正在考虑的副总统人选有两个南方人，即戈尔和克莱门特；两个天主教徒，即肯尼迪和瓦格纳。这样，一批崇拜肯尼迪的人就开始活跃起来，康涅狄格州州长亚伯拉罕·里比科夫第一个支持他，接着是罗德岛州州长丹尼斯·罗伯茨。北卡罗来纳州州长卢瑟·霍奇斯说，肯尼迪在南方也是可以接受的。当参议员继续以好奇甚于关切的心情观察整个问题时，报纸和杂志上的一阵暴风骤雨式的报道和社论都热情洋溢地宣传他的可贵的特点。
但是日渐明显的是，肯尼迪的宗教问题不是一个有利条件。史蒂文森本人也对此有些疑问，因副总统人选问题而递交到史蒂文森办公室的信件中有很大一批是反对罗马天主教和肯尼迪的。肯尼迪在此时感到非常苦恼，他也许是不太在乎副总统这个位置，但是如果因为自己的宗教问题而被否定他就不甘心。
史蒂文森最后赢得了总统提名，与艾森豪威尔的共和党角逐。然而此时他戏剧性地宣布，将把选择副总统竞选伙伴问题交民主党代表大会公开做决定。好几个民主党领导人认为这是一项危险的试验，肯定会帮了凯弗维尔的忙。尽管他们进行了激烈的辩论，可史蒂文森却认为这对沉闷的民主党代表大会是一种刺激，是同共和党选择尼克松的一种对照，也是对那些友好的候选人之间的矛盾对他形成的政治压力的一个解决办法。
史蒂文森宣布，在他赢得民主党总统候选人提名的第二天，副总统的人选将举行一次真正的投票。这样就掀起了12小时的狂热的政治活动。肯尼迪家族针对这一情况马上进行了一次闹哄哄的会议。但这次活动大半是在混乱和无知的状态中进行的，没有计划，没有准备，没有多少窍门，也没有几个熟人，肯尼迪家族全部出动了。
约翰·肯尼迪尽快地会见了各州的领袖，访问了几个州的核心小组。他对于这次争取提名是否可取仍然有些疑虑，但战斗正在这里进行着，他的战斗精神不容他逃避战斗。罗伯特·肯尼迪和尤妮斯·肯尼迪到别的代表团去替杰克游说。
投票紧接着开始。凯弗维尔、肯尼迪、汉弗莱、瓦格纳、戈尔参加了副总统提名竞选。约翰·肯尼迪在民主党代表大会大厅后边的斯托克耶茨旅馆里躺在床上从电视中观看这场角逐，当他看到自己在佐治亚州、路易斯安那州、内华达州和弗吉尼亚州的意想不到的实力，不禁惊讶地摇摇头。他说：“这件事现在真成了一件值得争取的事啦。”
接下来，拥有64票投票权的伊利诺斯州中的46票给了约翰·肯尼迪，这使他非常高兴。缅因州的14票出现了分裂，这又使他很失望。俄亥俄州的迈克·迪萨尔和宾夕法尼亚州的戴维·劳伦斯都担心候选人名单上会出现一个天主教教友，所以把他们两州合起来132票中的100票全给了凯弗维尔。
第一轮投票结束后，汉弗莱、戈尔和瓦格纳的票数看来都不够，虽然头两个人还希望会出现僵局。在下一轮投票中，他们所得的选票，以及其他一些候选人的选票，大有可能转到领先的两个人手中——不是转向凯弗维尔，就是转向肯尼迪。凯弗维尔这时以超过三比二的比数领先于肯尼迪。电视机上传来消息说，汉弗莱正在向斯托克耶茨旅馆凯弗维尔的一套房间走去，大概预备把他的选票转向田纳西州的凯弗维尔。
约翰·肯尼迪马上告诉身边的特别顾问西奥多·索伦森：“快上那儿去，截住汉弗莱，告诉他我也想同他谈谈。”
在凯弗维尔的门外，除了乱成一团、互相竞争的摄影师和新闻记者外，什么人也看不清。没有人知道谁在房间里，谁要进去或谁要出去。索伦森好不容易见到了汉弗莱的竞选经理尤金·麦卡锡，于是转达了肯尼迪发出的邀请。尤金·麦卡锡否定了联合的任何可能。
这时候，第二轮投票已在进行，对肯尼迪有利的趋势开始了。南方急于遏制住凯弗维尔，所以肯尼迪正在赢得戈尔和南方其他候选人的大部分选票。此外，肯尼迪也赢得了瓦格纳的选票。凯弗维尔的进展比较缓慢，不过他的代表几乎没有几个背离他的。罗伯特·肯尼迪、约翰·贝利和他们的助手们分布在大厅各处，叫唤代表团站到肯尼迪这边来。
当新泽西州和纽约州很快地把在第一轮投票中没有得到的126票全部交给了约翰·肯尼迪后，新闻记者们的纷乱喧嚣声，便从凯弗维尔的走廊里转移到约翰·肯尼迪的走廊里来了。约翰·肯尼迪躺在沙发上，眼睛盯着电视，电视里正显示出大会会场里一片混乱和肯尼迪的总票数不断上升的情景，肯尼迪不动声色地看着。从内心里，他也许有了一丝轻松，他起来洗了一个澡，又到床上躺着。然后，他带着助手穿过后门转移到一间僻静的房间，躲避记者们的纠缠。
这场角逐仍然不分高低。约翰·肯尼迪知道，如果不能取得大多数，光领先是不够的。俄克拉荷马州仍然支持戈尔。有人请求俄克拉荷马州州长支持肯尼迪，但州长说：“他不是我们这样的人。”他这一句话也许极好地概括了肯尼迪无法打进美国西部新教徒农牧场区的这一事实。瓦格纳在宾夕法尼亚州的选票转到了凯弗维尔那边而不是肯尼迪这边。
接着，林登·约翰逊代表得克萨斯州站起来讲话，他在几个众议员的帮助下，已经消除了包括萨姆·雷伯恩在内的他的代表团里的反天主教徒的情绪。他宣布得克萨斯州的56票全部支持“那位带着战争伤痕的战斗的参议员……下一任合众国的副总统，马萨诸塞州的约翰·肯尼迪。”
这时他身边的人伸手向他祝贺。约翰·肯尼迪冷静地回答：“还没有定呢。”但他的票数不断在增长，他的信心又不自觉地流露出来，约翰·肯尼迪一边看电视，一边与索伦森讨论如果被提名，他应对代表大会说些什么话。北卡罗来纳州在第二轮投票中弃权，现在把半数的选票全部投给肯尼迪。肯塔基州的主席宣布，他的代表团“在这次代表大会期间一直站到少数派一边，现在热情地加入多数派，并将选票投给肯尼迪。”
但是最后肯尼迪未能如愿以偿，他已接近半数，但毕竟还差一点。在伊利诺斯州和加利福尼亚州之间的西部—中西部地区全部19个州中，肯尼迪只能取得它们384张选票中的20张选票。突然间风向又变了。
最后，电视屏上显示出凯弗维尔取得半数以上选票。约翰·肯尼迪失望地站起来，对身边的人说：“我们走吧。”于是他冲过门外的人群，把那些希望他等到一切结束后再上台的办事人员推到一边，带着疲倦的微笑大步走上了主席台。他没带讲稿，讲话简短而动人。他对支持他的人表示了感谢，对史蒂文森作出的由代表大会公开决定提名的办法表示祝贺，他并且提议全体一致同意凯弗维尔的提名。
约翰·肯尼迪迈着沉稳而缓慢的步子走回旅馆，同杰奎琳和家庭成员团聚在一起。那天晚上，他同家人和朋友们举行了一次说笑话的晚餐会。这样一来，他的烦恼和失落的情绪似乎烟消云散了。
1957年，约翰·肯尼迪回到华盛顿，担任参议院关于劳工管理方面不适当活动的特别委员会的委员。肯尼迪当众议员和参议员时，都曾坚决拥护民权。他支持一个强有力的公平就业委员会，支持取消人头税，支持反对私刑的立法，并支持修订关于妨碍议事活动的规则。在来自新英格兰的众议员中，他是第一个任命一位黑人做他的工作人员的官员。
1957年，约翰·肯尼迪支持行政部门提出的温和的、但是创先例的选举权法案。根据正常的表决程序，向国会两院提出的议案均先送交有关的常设委员会，在委员会里进行讨论表决，做出通过、修改或否决的决定，然后再向两院提出，供两院全体会议审议。从程序上讲，赞成绕过委员会审议法案的做法，是没有法律依据的。从深层讲，这也会使保守的参议员们在工作权和众议院的其他法案上耍花招。约翰·肯尼迪坚持，民权法案应按正常程序送交委员会，并须在一星期内审议完毕。
许多维护民权的民主党人私下也同意他的意见，认为放弃传统程序所引起的恶果会使一个强有力的议案更难获通过。但是由于他们担心在政治上被尼克松和共和党人的策略击败，他们大多数人全投票支持尼克松的裁定，即不经过委员会而批准民权法案。约翰·肯尼迪支持按正常程序的投票，则被民权派的领袖们谴责为企图争取南方的支持。在全国有色人种协进会的一次代表大会上，在波士顿的黑人领袖们的信件中，在报刊社论和专栏文章里，肯尼迪的投票都受到攻击。
肯尼迪喜欢引用一首诗：
在生命行将熄灭的余烬里
我感到遗憾的是：
我做“对”时，没有人会记住
我做“错”时，没有人会忘记
不过他在参议院里冒着风险去得罪的对象，在传统的民主党联盟的成员中还不止是黑人和南方人。有组织的劳工长期以来一直是肯尼迪强有力的同盟者。肯尼迪在参众两院任职期间，始终都在两院的劳工委员会内工作。劳工领袖们赞赏他在众议院反对塔夫脱——哈特莱法案，在参议院带头争取提高最低工资、改善社会保险，其中包括医疗照顾、支援经济萧条地区，以及确定全国失业补助金的标准。马萨诸塞州的卡车司机工会一贯是拥护肯尼迪的，但在1957—1959年间，肯尼迪同他的劳工界朋友之间的关系却变得十分紧张起来。
当时由约翰·麦克莱伦为主席，罗伯特·肯尼迪为总顾问的常设调查小组委员会揭发了工会贪污的材料。为进一步深入调查，参议院在1957年成立了一个调查工会舞弊行为的专门调查委员会，由麦克莱伦小组委员会和参议院劳工委员会抽调人员组成。约翰·肯尼迪应邀参加。
肯尼迪知道这意味着要拿他同有组织的劳工的良好关系冒险，当时至少有两个想担当国家重任的参议员亨利·杰克逊和斯图尔特·赛明顿都拒绝参加。当时还有暗示，说只要罗伯特·肯尼迪“做得漂亮”，全国卡车司机工会就支持约翰·肯尼迪当总统候选人。
但是不管这里面有什么政治陷阱，肯尼迪对这个调查委员会很感兴趣。作为参议院劳工委员会劳工立法小组委员会主席，肯尼迪知道他不可避免地会被卷入听证会上所提出的任何立法建议。很多已被挑选出来的、具有人所共知的反劳工观点的工会舞弊调查委员会委员们，很想在肯尼迪谢绝当委员的情况下，接替他的位置。这着重地说明了肯尼迪接受这个职务的艰巨性和必要性。
约翰·肯尼迪决定参加这个委员会，他主持委员会作出有关劳工改革的立法。在他的国会生涯中，他第一次以几年的时间，几乎排除一切杂务地专搞一项立法。据《基督教科学箴言报》说，他是“破釜沉舟”，不争取劳工支持他竞选总统了。劳工领袖们对他先是冷淡、猜疑，后来则是激烈地反对了。劳联—产联主席乔治在肯尼迪为他提出的改革法案召开的一次听证会上大声嚷道：“愿上帝把我们从我们朋友的手中拯救出来吧！”——对此，肯尼迪冷静地回答说：“米尼先生，我也要说这句话。”机械工人工会主席艾尔·海斯把肯尼迪比作阿根廷独裁者庇隆。其他人则试图在他们的全国代表大会上谴责他。但是这时参议院共和党领袖威廉·诺兰就一项福利及养老金法案提出并几乎要通过一批反劳工的修正案。米尼和工会的大多数高级领导人才逐渐勉强地认识到，通过某种立法是不可避免的了——而可供选择的对象是：要么通过肯尼迪的劳—资改革法案，以铲除他们既不能否认也不能宽恕的舞弊行为；要么就通过诺兰的劳—资关系法案，以限制他们工会谈判的权利。
在随后发生的斗争中，多数劳联—产联领袖既支持建设性的法案，也支持他们自己志愿的法规。这次斗争使约翰·肯尼迪极为深刻地看到了劳工领袖们的本质。像贝克、霍德以及他们的流氓朋友这样一伙人很快便从其他人中孤立出来。
企业界的人也怨恨肯尼迪兄弟，因为他们揭露了资方同舞弊分子的勾结。美国律师公会主席也怨恨肯尼迪，因为他发表声明，指责有组织的律师对于其会员同舞弊分子勾结，侵吞工会经费的事“显然漠不关心”，而肯尼迪对此深为关切。各种各样的民主党政客也对肯尼迪兄弟施加压力。当那个以伊利诺斯州民主党全国委员会委员和史蒂文森密友身份闻名的杰克·阿维代表一个当事人要求约翰·肯尼迪进行调解时，约翰·肯尼迪告诉他，只有总顾问罗伯特·肯尼迪能制止调查。等阿维和他的同事离开以后，约翰·肯尼迪对他的弟弟说，他认为这个请求令人作呕。
随着这些反对者的压力增大，约翰·肯尼迪的决心也增大了。在拉尔夫·邓根、哈佛大学劳工法专家阿奇博尔德·考克斯，以及由其他六位学者组成的一个小组的帮助下，他起草了一份劳工改革法案，掌握了劳工法的错综复杂的细节，并且第一次真正掌握了立法的程序。1958年，肯尼迪—艾夫斯法案在参议院以88票对一票获得通过，结果在众议院却被葬送了。1959年，经过在院内长期艰巨的斗争，肯尼迪—欧文法案以90票对一票获得通过。
这个法案于是同众议院所通过的兰德勒姆—格里芬法案一起提交会议进行协商。肯尼迪宁肯通过一项折衷方案而不愿什么法案也不通过，他终于能从众议院通过的法案中删去了15项限制工会正常活动的条款。虽然最后的文本总的来说更接近于参议院的法案，但约翰·肯尼迪却认为，这个法案不冠上他的姓名是更为策略的。
在整个这项长时期立法努力中，贯串了调查性的探索工作。当他签署麦克莱伦委员会报告时，一些全国性的和马萨诸塞州的工会领袖们被激怒了。他回答说，如果他不签字，他在参议院里关于这个问题的威信就丧失殆尽了。但是这使他在政治上既有损失，也有收获。电视观众们对肯尼迪兄弟越来越熟悉了，他们看到肯尼迪兄弟严厉地盘问那些不诚实的工会领袖，并教训那些滥用诚实会员基金的骗子。同麦卡锡的作风不一样，这个委员会给一切证人以提出事先准备好了的声明的权利；给予提出问题进行盘问的权利和获得证词文本的权利，反对一人作证，完全防止自证其罪。
1958年，约翰·肯尼迪再次竞选参议员。事实上，从1952年他35岁进入参议院以来，他从未容许任何其他问题阻止他在政治上的前程，也不容许轻易取胜的预测来干扰他1958年的行动。事实上，1958年的肯尼迪无疑具有更大的优势在比参议员职位更重要的位置上取胜，他在竞选副总统提名时，已被广大美国人认识其才华。他的青春形象刷新了美国人对政治的偏见。
但是，在1958年，约翰·肯尼迪对再次竞选仍然是非常谨慎而严密的。他以更为熟稔的手段运筹这次竞选活动。
肯尼迪在这个平静的年头里同他在马萨诸塞州每个角落用心培育起来的个人组织保持接触。关于约翰·肯尼迪“为马萨诸塞州多做一些工作”而谋求提出立法和行政行动的详细报告遍寄到本州的各个地方。约翰·肯尼迪也越来越多地利用周末时间到州内各地去发表演说。他的大部分演讲，特别是在小市镇上发表的，都是超党派的，而且口气相当温和。他还仔细培育马萨诸塞州各种报纸对他的好感，因为这些报纸大都是共和党的，而且在1952年几乎全部拥护洛奇。那些记者、编辑和报刊发行人到参议员的办公室去，总是大受欢迎的。报社经理凡是需要一个代言人，一篇社外人士撰写的社论，或是在某一个与政府有关问题上需要人帮忙时，总发现参议员是乐于效劳的。结果，同1952年形成鲜明对照的是，没有一份马萨诸塞州的报纸在1958年反对肯尼迪再次当选为参议员。
约翰·肯尼迪不但永远争取他的支持者，还经常争取他的反对者。他总是愿意忘掉分歧，宽恕诋毁他的人。并且认为在政治问题上不应提倡报复。他经常提醒共和党人，他同索顿斯托尔合作，他支持艾森豪威尔的外交政策措施以及他的独立投票纪录。他经常使工商界人士知道，他努力繁荣马萨诸塞州经济和制止工会的不法行为。他告诉主张削减预算的人们，他对参议院“第二胡佛委员会报告”起着领导作用，并且向他们散发他父亲的另一个老朋友赫伯特·胡佛的热情洋溢的感谢信的翻印本。意裔美国人为他同弗科洛的不和而激怒，码头工人因为他支持圣劳伦斯航道而怨恨他，卡车司机工会和其他工会会员被他的劳工改革工作搞得不安。而黑人又因为他投票赞成陪审团审判问题修正案而对他有所疑忌——所有这些人以及其他一些人都收到他寄去的材料，强调他为他们利益所做的工作，他对他们事业的友好态度以及他对他们的领导人的支持。此外，他保证做到对一切来信立即回复，对所有来访者都表示亲切的欢迎，并尽量亲自处理州里的问题。
肯尼迪竞选做法的许多方面是独一无二的。这些做法后来也应用到总统竞选的预选中去，然后又在全国范围内加以应用。
在1958年，马萨诸塞州的共和党人找不出一个愿意对抗肯尼迪的重要候选人。有些共和党战略家建议不反对肯尼迪，以便抑制民主党人出动对他投票的热潮。波士顿《先驱报》的一个专栏作家甚至建议两党都支持他。有人还说，共和党人不可能战胜他。他们不能借用一个更好的人，他们自己肯定没有一个像他这样的人……为什么不一致推举他呢？
约翰·肯尼迪比对手多得了八十七万三千余张选票，以创纪录的三与一之比赢得了连续第五次的政治胜利。
