Primeiro verifique a codificação de caracteres do seu arquivo. No linux tem um comando no terminal que faz isso. No entando, se estiver no Windows, e no Linux, abra o arquivo com o Geany (editor de texto). Caso não tenha instale-o. Vá no menu 'arquivo > propriedades'. Vai abrir uma janela e veja o que aparece no campo 'codificação'. Nos meus arquivos aparece UTF-8. Para arquivos que recebo de usuários windows aparece ISO-8859-1. No R você vai especificar a codificação ao ler o arquivo com a função read.table() ou equivalente. Eu uso encoding="utf-8" e encoding="latin1" para os casos mencionados. Veja a documentação da read.table().