제가 보기에는요...

1. Rstudio 삭제, R 삭제 -> 재설치
2. Rstudio 안에서 tinytex 설치 (install.packages && tinytix::install_tinytex() )

이렇게 아예 근본적으로 시스템을 재구축해보시는 것을 추천합니다. (그리고 넷상이나 다른 커뮤니티에서 cjk를 이용해서 한글을 처리하라는 솔루션이 있는 모양인데, 그러지 마시고 kotex을 이용하는 쪽을 생각해보심이 좋을 듯합니다.)

R 작업이 중요하고 tex 문서를 단독으로 만드는 일이 거의 없다면, miktex이나 texlive를 별도로 설치하지 마세요. (ktug에서 소개하는 tinytex은 R 없이 tex을 활용하는 문제에 특화되어 있어서 참고하려면 숙고가 필요합니다.)