Это случается, когда система выполнеля слишком много операциё ввода/вывода ( I/O ), что приводит к фрагментации виртуальной памяти.
В общем, ошибка говорит о нехватке РТЕ (page file entries), но на самом деле из-за фрагментации не возможно выделить драйверу целый кусок запрашиваемого количества памяти.
Часто видео драйвера пытаются получить большие каски виртуальной памяти. Так же программы делающие бэкап.
Так же причиной может являться драйвер, который плохо вычищает файл подкачки (swap).
Решения:
1. Увеличите объем виртуальной памяти.
2. Если отладчик ядра (kernel debugger) доступен проследите, где система запнулась и введите следующую команду:
!sysptes 3