Dizem as más línguas que é um vírus chamado Microsoft Windows... mas, pensando mais seriamente a respeito, vc precisa descrever quando isso acontece...
Se for assim que vc carrega o R, pode ser que vc tenha um arquivo .RData bastante grande que e' carregado assim que vc abre o R.. Algumas vezes esse arquivo acaba corrompido e causa esse tipo de problema. A solucao e' achar o arquivo e remove-lo.
Se for ao executar alguma coisa, precisa-se saber o que e' este "alguma coisa"... Em geral, trata-se mesmo de processos que usam bastante RAM... e, como o Win (32bits) nao gosta de processos grandes, ele mata qualquer coisa que tente usar mais que 1.5GB de RAM.
b