설명서를 기준으로 몇가지 고치셨으면 하는 부분만을 말씀드립니다.

 

oblivoir 설명서를 보면, oblivoir에서 kotex을 불러오기 때문에 kotex 패키지를 다시 부르실 필요가 없습니다. 또한 amsmath 옵션을 주시면 amsmath와 amssymb를 불러 준다고 합니다.

 

oblivoir에서 스스로 불러오는 kotex설명서를 보시면 figurename을 "그림"으로 바꾸어 준다고 합니다. 그러므로 Figure를 그림으로 바꾸시려고 하실 필요가 없습니다. kotex을 다른 옵션과 함께 부르신 것이 아니라면요.

 

\defaultfontfeatures 를 쓰신 것으로 볼 때 xelatex이나 lualatex등의 unicode환경을 쓰신다고 보고, unicode환경에서는 babel 패키지가 어울리지 않는다고 합니다.

hoze님이 올리신 188900번 글을 보세요.

꼭 Babel 패키지가 필요하신 지 다시 한 번 검토하여 보시는 것이 좋으실 듯 합니다. 필요하다면 kotex설명서의 kotex-utf 부분과 oblivoir 설명서의 옵션에서 원하시는 것을 찾으시는 편이 좋으실 듯 합니다. babel 패키지를 빼면 figure 가 그림으로 잘 나옵니다.

 

남은 것은 그림 1.1을 그림 1-2로 바꾸는 것인데, 이는 \thefigure를 재정의하면 됩니다.

\renewcommand{\thefigure}{\arabic{section}-\arabic{figure}}

 

추가로 oblivoir를 이용하여 memoir 패키지를 쓰시는 김에 그림 \fig{fig1} 처럼 쓰지 않고 \fref{fig1} 와 같이 쓰셔도 됩니다.

 

 

\documentclass[nanum, 12pt, chapter,amsmath]{oblivoir}
%\usepackage{amsmath,amssymb,amsthm}
%\usepackage[hangul]{kotex}
%\usepackage{graphicx}
\usepackage{colortbl}
\usepackage{xcolor}
%\usepackage{sidecap}
\allowdisplaybreaks
\defaultfontfeatures{Mapping=tex-text}
%\usepackage[english]{babel}
\renewcommand{\thefigure}{\arabic{section}-\arabic{figure}}
\begin{document}

\chapter{벡터해석}
\section{스칼라장과\, 벡터장}
\section{벡터대수}
\begin{figure}[h]
%\includegraphics[width=1\textwidth]{56.jpg}
\caption{AAA}\label{fig1}
\end{figure}
\begin{equation}
bbb\label{ccc}
\end{equation}

\fref{fig1}에서

\end{document}

oblivoir 설명서 : 
http://ftp.ktug.org/tex-archive/language/korean/kotex-oblivoir/doc/oblivoir-simpledoc.pdf
kotex 설명서
http://ftp.ktug.org/tex-archive/language/korean/kotex-utf/doc/kotexdoc.pdf
https://tex.stackexchange.com/questions/44115/how-can-i-change-figure-caption-label/
https://tex.stackexchange.com/questions/344471/how-to-change-figure-1-to-1-figure/