新中国成立前，李克农是中央社会部的部长，主要负责内保、内卫、策反等任务。原本新中国成立后，他有可能成为首任公安部长，但中央最终却选择了罗瑞卿。1949年6月，罗瑞卿在太原前线总前委指挥完太原战役，准备向大西北挺进时，接到了周恩来副主席的通知，要他到中央谈话。罗瑞卿对这个安排很不情愿，因为他一心想继续投入解放战争。他和周恩来见面后，委婉地表达了自己的想法，说还想上战场打仗，觉得自己不适合公安部长这个岗位。周恩来理解他的想法，但告诉他新中国成立后，公安部是全国的大管家，非常重要。罗瑞卿想再争取一下，建议李克农更适合这个职位。周恩来表示中央确实考虑过让李克农出任公安部长，但经过充分权衡后还是决定放弃。原来党中央已经发过电报，准备取消社会部，把社会部分成情报部和公安部。李克农是我党隐蔽战线的专家，从红军时期开始就一直主导这方面的工作，所以中央决定让他出任情报部部长。另外公安部还要领导一支规模近20万的公安部队，而且内部治安、平息叛乱等任务繁杂。罗瑞卿有丰富的保卫经验和前线作战经验，更适合领导这支庞大的集体。还有一个原因是李克农在革命战争年代身体一直不好，心脏也有问题，无法承受公安部高强度的工作压力。周恩来鼓励罗瑞卿去干好公安工作后就把他送到了毛主席那里。毛主席直接问起他为什么不愿意干公安部长？罗瑞卿只好服从安排上任公安部长，而李克农也就错过了这一岗位。