Fate/Zero se déroule dix ans avant les évènements de Fate/stay Night qui raconte en détails ce qui s'est passé lors de la quatrième guerre du Saint Graal dans la ville de Fuyuki. À la suite de trois guerres sans vainqueurs, la quatrième guerre débute enfin... Cette guerre se fait affronter par les familles Einzbern, Mat?, et T?saka depuis des siècles. Bien que Kiritsugu qui est au côté de Saber, ait longtemps désiré être un héros aux yeux de tous, il a définitivement abandonné le Saint Graal lorsqu'il a réalisé que ceci entraînait forcément la mort d'une autre vie. Pour le bien de l'humanité, il sera prêt à détruire quiconque se mettra en travers de la paix.

Emiya Shirô a tout perdu lors d'un immense incendie : sa famille, sa maison, ses repères. Il est alors adopté par Emiya Kiritsugu. Quelques années plus tard, alors que son père est décédé, Shirô participe à un important tournoi, réunissant 7 magiciens, dont l'enjeu est le Saint Graal. Chaque mage invoque pour le tournoi un "Servant", un héros ancien qui lui prête sa force durant le tournoi. Shirô invoque une guerrière de la classe la plus puissante : Saber.

Les événements de Fate/Zero se passent 10 ans avant l'histoire de Fate/Stay Night. Il y a de cela plusieurs siècles, trois grandes familles de mages nommées Einzbern, Tohsaka et Matô, s'allièrent pour invoquer le Saint Graal, relique pouvant accorder n'importe quel vœux. Mais les familles découvrirent qu'un seul individu pourrait en profiter et elles décidèrent donc de briser leur alliance. Aujourd'hui, la quatrième guerre est sur le point de débuter dans la ville de Fuyuki, après 60 ans de trêve. Kiritsugu Emiya, au service de la famille Einzbern, invoque le servant de classe Saber. Aidés de Irisviel von Einzbern, il va se battre contre les six autres servants et leurs maîtres, pour tenter d'obtenir le premier la relique sacrée et maintenir la paix.