ibooks는 매스작스뿐만 아니라 SVG도 지원하지 않네요. SVG를 PNG로 바꾸어 넣어봤는데, 썩 깔끔하지 않습니다. 수식이 포함된 문서는 PDF로 만드는 게 답인 것 같습니다.