Еще со времен раннего христианства напротив крепости Эребуни действовал монастырь, обширный комплекс которого включал в себя церкви Святого Саргиса, Святого Геворка и Святого Акопа. Церковь Святого Саргиса, как и весь монастырский комплекс, полностью была разрушена во время землетрясения в 1679 году и заново восстановлена на том же месте в конце XVII - начале XVIII. Однако нынешняя церковь Святого Саргиса была построена заново в 1835-1842 годах. По своему архитектурному решению церковь была самой неприглядной среди церквей Еревана.
Ее внешний вид и внутреннее убранство не соответствовали ее назначению - как Викариальной церкви Араратской Патриаршеской епархии. И в 1972 году начались работы по ее фундаментальной реконструкции. Старое здание церкви почти полностью сохранилось, но все фасады были покрыты оранжевым туфом, отделаны на современный лад. В 1971-76 гг. полностью был отреставрирован интерьер, в 2000 г. завершилось строительство высочайшей колокольни. Работы по восстановлению и реконструкции церкви Святого Саргиса были проделаны на пожертвования армянских благотворителей из Лондона, о чем имеется надпись на одной из стен церкви.
