Его основателями стали Натаниэль Кресвик и Уильям Прест, сыгравшие важную роль в становлении организованного футбола.
До появления единых правил в Англии существовали различные варианты игры с мячом. Они отличались в зависимости от школы, университета или местности. В 1855 году участники местного крикетного клуба в Шеффилде начали собираться для неформальных футбольных матчей. Вскоре Кресвик и Прест решили создать отдельную организацию, которая позволила бы регулярно проводить игры.
Первоначально «Шеффилд» состоял преимущественно из любителей. Игроки устраивали матчи между собой, разделяясь, например, на женатых и холостых. Клуб постепенно выработал собственные правила, известные как Sheffield Rules. Они были оформлены в 1858 году и опубликованы в следующем году.
Эти правила сыграли заметную роль в развитии футбола. В частности, они предусматривали угловые удары и свободные удары за нарушения. В последующие годы в Шеффилде возникли другие команды, а местные правила стали использоваться за пределами города. В 1863 году была основана Футбольная ассоциация Англии, а в 1877 году правила Шеффилда были объединены с правилами ассоциации.
Несмотря на то, что «Шеффилд» не стал одним из ведущих клубов английского профессионального футбола, его историческое значение получило международное признание. ФИФА отметила вклад клуба в развитие игры, вручив ему орден «За заслуги» к столетию организации.
Сегодня «Шеффилд» продолжает существовать, хоть и выступает всего лишь в восьмом дивизионе Англии.