Есть одна мысль, возможно причины не в 3d max, а не хватка оперативной, а за ней и виртуальной памяти и операционка закрывает программу и выдает ошибку. Осмелюсь предположить, что вероятно у тебя 500Мб ОЗУ и 1,5Гб - файл подкачки. Если позволяю параметры МАМЫ, попробуй увеличить файл подкачки.
Если не знаешь как, то:
Щелкни значок "Мой компьютер" правой кнопкой > а далее выбери Свойства > вкладка Дополнительно > группа Быстродействие > Параметры.
А дальше по справке:
На вкладке Дополнительно нажмите кнопку Параметры быстродействия и в группе Виртуальная память нажмите кнопку Изменить.
В списке Диск выберите диск, содержащий файл подкачки, размер которого необходимо изменить.
В группе Размер файла подкачки для выбранного диска введите новые значения (в мегабайтах) в поле Исходный размер (МБ) или в поле Максимальный размер (Мб), а затем нажмите кнопку Установить.
При уменьшении максимального или минимального размера файла подкачки необходимо перезагрузить компьютер, чтобы изменения вступили в силу. При увеличении размера перезагрузка, обычно, не требуется.
Там два значения - текущий и максимальный, если максимальный позволяет, то попробуй увеличить, может поможет.