在1905年，美国政府经过调查，发现本国原索赔额度虚高，认为“除确实费用及一切损失赔偿1165万美元，所余1200余万元其实是多余的赔款”。梁诚闻讯后，他立即抓住机会向美方提出了降低赔款数额的要求，并多次向时任美国国务卿的海约翰交涉，提出：“各国若将赔款核减，于我财政殊有补益，贵国如能倡首，义声所播，兴起闻风矣。”海约翰则答曰：“贵大臣所言确有至理，自当极力代谋。”表示了对梁诚倡议的支持。次日，海约翰便让驻华大使柔克义起草了关于退还部分庚子赔款的备忘录，该备忘录指出：“经调查，美国公民在义和团运动时期所遭受的损失以及美国军队的开支并非最初估计的那么多，鉴于这一事实，我建议授权行政部门通知中国政府，此后美国只要求赔款总数的一半。”得到海约翰的首肯后，梁诚遂电告外务部，建议清政府将对美的外交重点放在争取赔款核减上。
事已至此，似乎退还赔款已经顺理成章，可怎料风云突变，中国发生了粤汉铁路收回路权事件和广东美国传教士被杀事件，美国也同时爆发了排华运动，引发了中国国内声势浩大的抵制美货运动，这使得中美关系急转直下，美方开始以各种理由拖延讨论退还赔款事宜。
据理力争
梁诚则顶住压力，决定用事实说话。在接下来的日子里，他频繁地前往美国国务院、国会图书馆等处查阅各种档案，从资料中他证实了美国在庚子赔款中所提在北京等处所受义和团焚杀劫掠之损失，与事实有很大出入，由此推算出赔款数目确实是虚高的。他还多次走访参与赔款的美国当事官员，查出中国实际应赔付给美国的只有200多万美元。
梁诚在美多年，深知美国政治运行模式，因此，他通过多种渠道争取美国各界的支持，频频招待记者，四处奔走演说，游说国会议员，请求他们支持中国的退款要求，利用报刊舆论对美国政府和时任美国总统的老罗斯福施压。梁诚还采取灵活的外交方式，绕过顽固的国务卿鲁特，找到与他关系较好的新任内务部大臣和工商部大臣向老罗斯福陈述重核美国损失的必要。梁诚甚至还通过私人关系直接向老罗斯福施压，在安多弗学校的一次毕业典礼上，他曾告诉聚会的校友们他与罗斯福之间的一段交情：“当时我跟（老罗斯福）总统说我就是那个人，那个在1881年用三垒打击败菲力普埃克塞特学校，而使安多弗获胜的人，从那时起，总统和我的关系增强和接近了十倍。”在多方压力下，老罗斯福终于让步，当年5月2日，他正式通知梁诚同意重新对美国的庚子赔款数目进行核实，退款数目最终定为1000多万美元。
庚款兴学
梁诚本人曾为留美幼童，对教育事业有着特殊的感情，早在1903年他出任美国公使之时，同行学生就有26人。同年，他还选送了7人到阿姆赫斯特读预科。此后，梁诚多次出席美国东部中国学生会大会，向中国留学生讲述他早年在美国的留学经历。这些经历无疑在他心里种下了兴办教育的种子。
早在1905年4月梁诚与即将赴中国的驻华大使柔克义商讨退款数额时，柔克义就曾以美国总统的名义提出中国将如何使用这笔退款，当时梁诚虽回答说，中国不可预先对外宣布如何处理内政，但他已意识到美国有意干涉的意向。出于中国可能会失去对这笔钱的掌控，梁诚建议外务部在接见柔克义时事先准备好应对之策，同时也提出了自己的想法：办学堂、派遣留学生。
