Personalmente credo che il server di stampa, con i prezzi molto + bassi rispetto a prima sia meglio comperarlo (magari anche usato). Io dopo che code di stampa grandicelle (tipo foto, documenti grandi ecc.) piantavano il server ho fatto così.
Per il sistema operativo, dipende cosa deve fare il server, usa linux, magari con samba (per reperire documentazione in italiano, se non come fare vai su appuntilinux.it). Ci puoi istallare un mail server, un router con firewall e altro ancora, e poi in rete ce tanta di quella documentazione da leccarsi i baffi
p.s. su linux ci gira anche emule ed è molto + stabile della corrispettiva versione win32.
Ciao