Cmentarz na Rossie jest jedną z czterech wileńskich nekropolii, którą obowiązkowo należy zwiedzić podczas wycieczki po Wilnie. W skład zespołu cmentarnego wchodzi Stara Rossa, Nowa Rossa, Cmentarz Wojskowy - Mauzoleum Matka i Serce Syna.
Rossę założono na początku XIX w. Czymy, że dla parafii misjonarzy przydzielono z gruntów miejskich działkę o powierzchni 16 kwadratowych sznurów i 16 łokci (3.51 ha) na przedmieściu Rossa na założenie cmentarza.
W dokumencie tym jest powiedziane, że cmentarz zostaje założony przy drodze z Popławów do Hrybiszek i obejmuje dolinkę i trzy zadrzewione wzgórza
Pierwszy pochowany na cmentarzu był burmistrz wileński Jan Miller. W centrum cmentarza zbudowano neogotycką murowaną kaplicę, oraz dwa murowane 3-5 piętrowe kolumbaria (katakumby). Na każdym z pięter znajdowały się 20-22 nisze grzebalne. W kolumbariach chowano najbardziej zamożnych i zasłużonych dla miasta obywateli. Niestety kolumbaria nie zachowały się. W 1937 roku kolumbarium południowe uległo zniszczeniu. Szczątki pochowanych tam osób przeniesiono w sierpniu 1937 roku do dwóch dołów: Z nisz, w których tablice epitafijne zachowały się, szczątki złożono do dołu przy południowej ścianie kaplicy, zaś z nisz, w których tablic już nie było – szczątki złożono do dołu, wykopanego w części wschodniej cmentarza, za grobem Izy Salmonowiczówny. Północne kolumbarium zostało zniszczone dopiero w latach pięćdziesiątych naszego stulecia.
W ówczesnych źródłach cmentarz ten figuruje jako Misjonarski lub na Rossie. Po zamknięciu kościoła Misjonarzy przez rząd rosyjski w 1844 roku cmentarz ten nazywano wyłącznie „cmentarzem na Rossie”. W tymże roku cmentarz przeszedł pod opiekę parafii św. Jana. W końcu pierwszego dziesięciolecia XIX wieku obszar cmentarza okazał się za mały, wobec czego postanowiono go poszerzyć. W 1814 roku proboszcz parafii nabył część działki należącej do mieszczki Rozalii Sutockiej, położonej na północ od cmentarza. Obejmowała ona dolinkę i wzgórze, które poźniej nazwano „Górką Literacką”.
W 1863 roku podczas powstania na Litwie, na cmentarzu na Rossie powstańcy ukrywali broń
Zachowały się informacje, że 17 października 1863 roku na rozkaz policmajstra 60-osobowy oddział żołnierzy rosyjskich przeszukiwał cmentarz. Znaleziono wtedy strzelbę, szablę, dwa kurki do strzelby, pokrowce od lanc oraz proch myśliwski.
Obecnie cała Rossa zajmuje prawie 12 ha
Cmentarz na Rossie został zamknięty dla pochówków w 1965 roku (za wyjątkiem grobów rodzinnych). Dokonano inwentaryzacji nagrobków, pomników, grobowców. Ogólem na Rossie jest ich około 26 tysięcy. Nekropolia jest wpisana na rejester zabytków narodowych Republiki Litewskiej. Grupy z Polski zwiedzające z przewodnikiem Wilno, zazwyczaj odwiedzają Starą Rossę oraz Mauzoleum Serca Marszałka i Matki.