1919年，卢瑟福用加速了的高能α粒子轰击氮原子，结果发现有质子从氮原子核中被打出，而氮原子也变成了氧原子。这可能是人类第一次真正将一种元素变成另一种元素，但是，这种元素的嬗变暂还没的衫价值，因为几十万个粒子中才有一个被高能粒子打中。到1924年，卢瑟福已经从许多轻元素的原子核中打出了质子，进一步证实了质子的存在。
卢瑟福在实验基础上建立了原子的核模型，提示了原子核这一物质更深层次的存在，他和他直接或间接指导过的许多世界各地的物理学家形成了一个大的学派，一切从实际出发了几十年原子核物理研究和核技术应用的兴旺发达局面。他是原子核物理的开拓者，也是探索原子核奥秘的带头人。
发现了电子和质子之后，人们一开始猜测原子核由电子和质子组成，因为α粒子和β粒子都是从原子核里放射出来的。但卢瑟福的学生莫塞莱注意到，原子核所带正电数与原子序数相等，但原子量却比原子序数大，这说明，如果原子核光由质子和电子组成，它的质量是不够的，因为电子的质量可忽略不计。在此基础上，卢瑟福早在1920年就猜测可能还有一种电中性的粒子。
