이 글이 처음 게시되었을 때, 답변하신 분들 가운데 스핑크스를 충분히 경험해보신 분들이 드물어서 적절한 답변을 드리지 못했습니다. 새로 질문을 게시하는 것이 (이 글타래에서 벗어나기 위해) 좋겠습니다. 제가 아는 범위에서 말씀드리자면, conf.py에서 

latex_engine = 'xelatex'
latex_elements = { 'preamble': '\\usepackage{kotex}' }

latex 파일을 빌드한 다음에  _build/latex 디렉토리로 가서 다음과 같이 명령하여 컴파일하십시오.

#>xelatex foo.tex

추가 질문을 여기에 덧붙이지 마시고 새로 올리십시오.