"이유가 무엇인가"만을 질문하셨고 해결책을 요구하신 게 아니므로 

간단히 "이유"에 대해서만 말씀드리겠습니다.

HLaTeX 이래 장 표제의 한글화는 오로지 report와 book 클래스에 대해서만 이루어져 왔습니다. 

amsbook이 고려사항이었던 적은 없습니다. 

(따라서 예전에 만약 amsbook에서 문제없이 되었다면(그럴 리가 없습니다만) 뭔가 버그였을 것입니다.)

amsbook.cls는 book.cls와는 다른 클래스이므로, book.cls의 장 표제를 kotex이 수정하는 보조스타일 ​kosections-utf.sty를 참조하여 수정하시면 되겠습니다. 이 kosections-utf.sty는 HLaTeX의 것을 거의 그대로 계승한 것입니다.

이것은 문제가 아닙니다. kotex이 amsbook의 장 표제 스타일이나 목차 스타일을 수정해야 할 이유가 전혀 없습니다.

만약 그런 것을 원한다면 사용자가 직접 해결하면 되는 것이고요,

어떻게 할 것인지를 토론하려면, 위의 Dennis 님 말씀대로 뭔가 토론할 거리(샘플 파일)와 수정하고자 하는 방향이 제시되어야 하겠지요.