ciao,
no, non c'è bisogno di installare Visual Studio nel server.
Dal "Server Manager" (dovresti trovare un'icona sul desktop) installa giusto il ruolo del web server IIS, ammesso che non sia già installato. Poi da lì clicca il link per aggiungere i servizi del ruolo. Finirai in una schermata da cui potrai selezionare "ASP.NET" (o "ASP", se la tua è un'applicazione ASP classico). Trovi la procedura riepilogata qui:
https://www.blackbaud.com/files/support/infinityinstaller/content/installermaster/tkaddaspdotnetroleservice.htm

Poi ovviamente dovrai installare Sql Express, configurare il sito, consentirti di pubblicare via FTP o Web Deploy, aprire le porte nel firewall, configurare il natting nel router, e così via.

Tieni presente che mantenere un server in azienda, specie se non hai specifiche competenze sistemistiche, ti porterà via molto più tempo e soldi che se l'avessi ospitato nel cloud, dove la banda è abbondante e la disponibilità garantita dal contratto di servizio.

ciao,
Moreno