Anche a me all'inizio il client testuale 3.08 dava il tuo stesso errore (This program cannot be run in Dos Mode).
Uso Win 98 e ho risolto il problema semplicemente riscaricando il file dal sito di berkeley (
http://setiathome.ssl.berkeley.edu/unix.html).
Non sono riuscito a capire però se il problema fosse dovuto a un file sbagliato o a qualcos'altro.