1950年3月10日，刘建修因“邮电案”被捕，押入台湾保密局看守所“南所”。刚入狱时，他被关进一间狭小、阴暗的牢房，里面已有两名囚犯。其中一位年纪较大、体型略胖、圆脸、几乎剃成光头的中年人，正是后来被他确认的吴石将军。起初，刘建修并不知道对方的身份，只觉得此人沉默寡言、举止斯文。
随着日子推移，刘建修渐渐注意到吴石与一般囚犯不同。他极为安静，白天大多时候都坐在靠窗的光线处看书。据刘建修回忆，吴石常读的书有《中国文学史》《中国史纲》《世界史纲》等，显得学识深厚、思虑深远。在那样压抑的环境中，他仍然保持着一种儒雅的气质，待人谦和，从不随意发言，对人礼貌而有分寸。
然而，外表的平静掩盖不了狱中的残酷现实。吴石经常被带去审讯，常是一整夜未归。刘建修记得，有一次吴石被押出后，直到第二天下午才被抬回牢房，浑身是伤，皮肤青紫、双腿肿胀。据说他在刑讯中被打瞎了一只眼睛。即便如此，他从未向人诉苦，也没有表现出屈服的迹象，只是静静地靠墙坐着，继续翻阅手中的书本。
在面对审讯时，吴石展现出非凡的镇定与节制。根据刘建修的回忆和后来侦讯人员的记述，吴石起初曾试图以“参谋次长”的身份显示威严，但当意识到局势已无转圜后，他转为平和而诚恳地说明自己的经历。他在被问及他人时极为谨慎，从不轻易牵连别人，甚至常替他人辩解，试图减轻他人的牵连。侦讯官员称，他是“最难审的一个人”，即使严刑逼供，也无法让他彻底开口。
