Запустите 16-битную программу на 64-битной машине без dosbox

Это наверняка не возможно на Windows, см. В следующей статье MSDN: http://support.microsoft.com/kb/896458

любой инструмент, который позволит вам запускать 16-битный prog на 64-битной системе Windows, должен эмулировать систему, что и делает DOSbox.

следующие работы:

public class DosBoxCaller {
    public static void main(String[] args) {
        ProcessBuilder pb = new ProcessBuilder(
                "C:\Program Files\DOSBox-0.74\DOSBox.exe",
                "-conf C:\Users\Y\dosbox.conf");
        pb.directory(new File("C:\Users\Y"));
        pb.redirectErrorStream(true);
        try {
            Process p = pb.start();
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

Если это не вызывает DOSBox для вас, то вы, вероятно, получаете неправильный путь и просто игнорируете исключение, которое выбрасывается. Также дважды проверьте, что ваша опция conf действительна, и используйте модифицированную копию полной конфигурации dosbox (чтобы найти ее в папке пользователя\Application Data\Local\DosBox, скопируйте ее в свою любимую папку, а затем отредактируйте autoexec).