Am 21. März des Jahres 1519 wurde der neu angelegte Friedhof, der zunächst einfach der „neue gotsacker beym Gostenhof“ hieß, durch den Bamberger Bischof Georg III. Schenk von Limburg (1505-22) oder dessen Weihbischof geweiht und ist seitdem ununterbrochen in Betrieb. Bereits seit dem Beschluss der Anlage dieses außerstädtischen Begräbnisplatzes 1517/18 hatte die Patrizierfamilie Imhoff mit dem Rat der Stadt verhandelt, eine Kapelle auf dem neuen Friedhof errichten zu dürfen. Diese Stiftung Conrads IV. Imhoff wurde nach seinem 1519 erfolgten Tod durch seinen Bruder Peter I. Imhoff realisiert, die Ausführung besorgte Stadtwerkmeister Hans Beheim d. Ä. (um 1455-vor 26. August 1538). Schon während der Planungsphase der Kapelle hatte der Rat beschlossen, den Friedhof nach dem Pestheiligen Rochus zu benennen, der ja auch Namenspatron der Imhoffkapelle ist.
Der Kernbereich mit den ältesten Gräbern liegt im Bereich der Imhoffkapelle, beispielweise das Grab des berühmten Erzgießers Peter Vischer d. Ä. (um 1455-1529). Für die Jahre 1562/63 und 1592 sind Erweiterungen des Friedhofs belegt, seine heutige Ausdehnung erhielt er im Wesentlichen im Jahre 1599. Zu dieser Erweiterung hat sich im Landeskirchlichen Archiv der Evangelisch-Lutherischen Kirche Bayern die Planungszeichnung von 1598 erhalten, von der Pilz (St. Johannis und St. Rochus in Nürnberg, Nürnberg 1984, S. 155) aussagte, sie zeige schon den geplanten Soldatenfriedhof. Dieser wurde jedoch erst im späten 17. Jahrhundert geplant. Wie die Projektion des Plans von 1598 in einen Grundriss des Friedhofs von 1811 beweist, ist tatsächlich der Zustand von 1592 gezeigt, die nach Westen anschließenden Felder sollten für die Erweiterung von 1599 herangezogen werden (vgl. ausführlicher dazu im Katalog „Hingeht die Zeit, herkommt der Todt – 500 Jahre Johannis- und Rochusfriedhof 1518-2018“, hrsg. von Michael Diefenbacher und Antonia Landois, Neustadt/Aisch 2018, Katalog Nr. 6).
Zur Ausstattung des Friedhofs gehörte auch das so genannte Hofmeisterhaus, das um 1520 nördlich der Kapelle errichtet wurde. Es fiel dem Zweiten Weltkrieg zum Opfer. An seiner Stelle wurden Gräber angelegt. Der Hofmeister der Imhoff-Stiftung fungierte zugleich als Steinschreiber, d.h. als Verwaltungsbeamter des Friedhofs, der über die Belegung der Gräber Buch führte. Wie schon auf dem Johannisfriedhof geschehen, wurden auch auf dem Rochusfriedhof die Gräber seit dem späten 16. Jahrhundert mit Nummern versehen. Eine besondere Leistung stellt die Arbeit des Steinschreibers Leonhard Hammerbach dar, der 1684 die Gräber des Rochusfriedhofs in ein alphabetisch geordnetes Verzeichnis brachte, indem er jedem Namen die Nummer des betreffenden Grabes gegenüberstellte. Er verzeichnete schon damals 1706 einzelne Nummern.
Der Rochusfriedhof stand und steht bis heute im Schatten seines berühmteren Pendants, des Johannisfriedhofs. Dies zeigt sich schon anhand der ungleich geringeren Anzahl von historischen Abbildungen des Rochusfriedhofs im Vergleich zu St. Johannis. Auch kann der Johannisfriedhof mit einer Vielzahl von Prominentengräbern prunken – allen voran Albrecht Dürer. Dessen Grab war freilich immer bekannt geblieben, während die Gräber anderer Berühmtheiten erst wiederentdeckt werden mussten. Zum Dürer-Jubiläum 1828 waren immerhin die Grabsteine von Zeitgenossen mit dem bekrönten Stadtwappen, das von zwei Kränzen flankiert wurde, ausgestattet: so das Grab Lazarus Spenglers mit der Nr. 1319 in Johannis sowie das Grab Willibald Pirckheimers mit der Nr. 1414. Diese Auflagen besitzen aber keinerlei Text, der das Andenken des Prominenten feierte, sondern wurden anlässlich der Grundsteinlegung für das Dürerdenkmal angefertigt (Siehe hierzu Helge Weingärtner: Ein Besuch auf dem Johannisfriedhof mit Georg Christoph Wilder. In: Norica 13/2017, S. 39-41, hier S. 41). So war es tatsächlich ein Grab auf dem Rochusfriedhof, von dem der Brauch ausging, Prominentengräber von Seiten der Stadt mit einer ehrenden Inschrift zu versehen. Im Jahre 1830 schlug Albert Reindel, als Vorstand der hiesigen Kunstschule vor, das Grab Peter Vischers mit einem zusätzlichen Messingepitaph zu versehen, auf dem die Stadt Nürnberg das Andenken des Meisters feiern sollte. Zu diesem Zweck musste das Grab erst einmal ausfindig gemacht werden, was auch gelang: Es trägt die Nr. 90 auf dem Rochusfriedhof. Die Ausführung des Gedenkepitaphs übertrug man Jakob Daniel Burgschmiet, der allerdings infolge Überlastung seiner Gießerei erst 1834 das fertige Produkt ausliefern konnte.