Caso você quira fazer um recorte no mapa, faça uma máscara
Criar uma matriz de zero e um (onde zero é o que você quer omitir e 1 os seus dados), através de uma equação da forma geométrica que você deseja
 
multiplique essa máscara pelos seus dados, e plote novamente
segue um exemplo abaixo de função que remove as bordas de um circulo
mask <- function (dados){
  # tamanho da coluna
  Y=c(1:dim(dados)[1])
  # calcular o raio
  r=floor(length(Y)/2)
  # centro do círculo
  cp = round(length(Y)/2,0) 
  # matriz com zeros
  TT=matrix(0,nrow=dim(dados)[1],ncol=dim(dados)[2])
  # fazer uma máscara de um e zero
  for(X in c(1:dim(dados)[2])){
    # calcula o raio de todos os Y e X com dados
    R=sqrt((X-cp)^2+(Y-cp)^2)
    #o maior valor do raio do circulo
    zeros=which(R>=r)
    # remove os pontos de fora do circulo
    TT[X,-zeros]=1
  }
  return(TT)
}
aplicando aos meus dados fica
dados.recortados<-dados*mask(dados)
espero ter ajudado