Han genomförde det berömda guldfolieexperimentet 1911, som visade att:
* De flesta alfapartiklar passerade rakt genom guldfolien, vilket tyder på att atomer mestadels är tomma utrymme.
* Ett litet antal alfapartiklar avleddes i stora vinklar, vilket indikerar närvaron av en tät, positivt laddad kärna i atomen.
Detta experiment ledde till att Rutherford föreslår kärnmodellen för atomen , som säger att atomer består av en liten, tät, positivt laddad kärna omgiven av negativt laddade elektroner.