Руфаи внес значительный вклад в историю нигерийского футбола. В составе сборной он стал обладателем Кубка африканских наций в 1994 году и завоевал серебро на турнире четырьмя годами позже. Кроме того, вратарь защищал цвета своей страны на двух чемпионатах мира в 1994 и 1998 годах.
Одним из ярких моментов в его карьере стал гол в матче отборочного этапа Кубка Африки 1994 года против сборной Эфиопии: тогда Нигерия одержала убедительную победу со счетом 6:0, а Руфаи отличился забитым мячом, что редкость для игроков его амплуа.
