kotex 패키지 사용하고 정의화일 수정하지 않고 몇 가지 테스트 해보았습니다.

\baselinestretch를 사용하지 않은 세 번재 연분수식이 그래도 좀 나아 보이네요.

그냥 참고만 하시기 바랍니다.