28. 두 상수 $a, b \; (a \lt b)$ 에 대하여 함수 $f(x)$ 를
이라 하자. 함수 $g(x) = x^3 + x + 1$ 의 역함수 $g^{-1}(x)$ 에 대하여 합성함수 $h(x) = (f \circ g^{-1})(x)$ 가 다음 조건을 만족시킬 때, $f(8)$ 의 값을 구하시오. [4점]
(가) 함수 $(x-1)|h(x)|$ 가 실수 전체의 집합에서 미분가능하다.
(나) $h'(3) = 2$
이 문항은 고등학교 미적분 교과목의 역함수의 미분법과 합성함수의 미분법을 완벽하게 숙지하고 있는지를 평가합니다. 또한, 수능 수학의 핵심 빈출 주제인 절댓값 기호를 포함한 함수의 미분가능성 조건을 대수적 식의 인수를 통하여 논리적으로 해석해 내는 고도의 추론 능력을 묻고 있습니다.
주어진 합성함수 $h(x) = f(g^{-1}(x))$ 에 대하여 조건 (가)를 해석하기 위해서는 먼저 $h(x) = 0$ 이 되는 지점을 파악해야 합니다.
위 식을 만족하려면 $g^{-1}(x) = a$ 또는 $g^{-1}(x) = b$ 이어야 합니다. 역함수의 정의에 의해 이는 $x = g(a)$ 또는 $x = g(b)$ 임을 의미합니다. 편의상 $x = \alpha = g(a)$, $x = \beta = g(b)$ 라고 둡시다.
또한, 합성함수의 미분법에 의해 $h(x)$ 의 도함수는 다음과 같습니다.
(단, $g'(t) = 3t^2 + 1 \gt 0$ 이므로 분모는 0이 되지 않습니다.)
새로운 함수 $H(x) = (x-1)|h(x)|$ 가 실수 전체에서 미분가능해야 합니다. $h(x)$ 는 $x = \alpha$ 와 $x = \beta$ 에서 $0$ 이 되므로 이 두 지점에서의 미분가능성을 확인해야 합니다.
이러한 미분불가능성을 해소하기 위해 앞에 곱해진 인수 $(x-1)$ 이 결정적인 역할을 합니다. $(x-1)$ 이 $x = \alpha$ 에서 $0$ 의 값을 가져야만 곱해진 전체 함수 $H(x)$ 가 미분가능해집니다. 우측 시뮬레이터에서 일차식이 곱해짐에 따라 뾰족점이 어떻게 부드러워지는지 직관적으로 확인할 수 있습니다.
$g(a) = a^3 + a + 1 = 1$ 을 풀면 $a^3 + a = a(a^2 + 1) = 0$ 이 됩니다. $a$ 는 실수이므로 \(a = 0\) 입니다.
이제 $a = 0$ 을 대입하면 $f(x) = x(x-b)^2$ 이고, $f'(x) = (x-b)^2 + 2x(x-b) = (x-b)(3x-b)$ 입니다.
조건 (나)에서 $h'(3) = 2$ 이 주어졌습니다. Step 1 에서 유도한 도함수 식을 활용합니다.
먼저 $g^{-1}(3)$ 의 값을 구하기 위해 $g(t) = 3$ 인 $t$ 를 찾습니다.
실수 $t = 1$ 이 유일한 해이므로 $g^{-1}(3) = 1$ 입니다.
이를 도함수 식에 대입하면 다음과 같습니다. (단, $g'(x) = 3x^2 + 1$ 이므로 $g'(1) = 4$)
$f'(1)$ 의 식에 대입하여 $b$ 를 구합니다.
문제의 조건에서 $a \lt b$ 이고 $a = 0$ 이므로 $b \gt 0$ 이어야 합니다. 따라서 \(b = 5\) 입니다.
함수 $f(x)$ 가 완벽하게 결정되었습니다. $f(x) = x(x-5)^2$ 이고, 구하고자 하는 $f(8)$ 의 값을 계산합니다.
참고 : '절댓값 기호를 포함한 함수의 미분가능성'은 교과서에 단독 명칭으로 존재하지는 않으나, 고등학교 미분법 단원의 기본 정의(좌미분계수와 우미분계수의 일치)로부터 파생되는 수능 수학의 대표적인 실전 심화 개념(테마)입니다.
학생들이 흔히 $|h(x)|$ 를 다룰 때, $h(x) = 0$ 이 되는 지점인 $x = \alpha$ 와 $x = \beta$ 모두에서 뾰족점이 발생하여 미분불가능하다고 성급히 결론을 내립니다.
수학적 교정 : 함수가 0이 되더라도, 그 지점에서의 원래 함수의 미분계수(접선의 기울기)가 0이라면 절댓값을 씌워도 부드럽게 이어져 미분이 가능합니다. 본 문제에서는 $h(\beta)=0$ 임과 동시에 $h'(\beta)=0$ 이었기 때문에 $x=\beta$ 에서는 애초에 미분불가능성이 발생하지 않았습니다.
$h(x) = f(g^{-1}(x))$ 를 미분할 때, 역함수 기호의 헷갈림으로 인해 $h'(x) = f'(g^{-1}(x)) \cdot g'(x)$ 와 같이 잘못 미분하거나 역함수를 직접 구하려고 시도하는 실수가 잦습니다. 3차 함수의 역함수는 대수적으로 구하기 매우 어렵습니다.
수학적 교정 : 역함수를 직접 구하는 것이 아니라, 역함수의 미분법 공식 $(g^{-1})'(x) = \frac{1}{g'(g^{-1}(x))}$ 을 정확히 암기하고 합성함수 미분 시 체인 룰(Chain Rule)에 맞게 적용해야 합니다.
본 문제 해결의 핵심 도구인 역함수의 미분법 공식이 어떻게 유도되는지 합성함수의 미분법을 통하여 논리적으로 증명합니다.
증명 과정 :
미분가능한 함수 $g(x)$ 의 역함수 $g^{-1}(x)$ 가 존재하고 미분가능하다고 가정합시다. 역함수의 정의에 의해 다음의 합성함수 항등식이 성립합니다.
위 등식의 양변을 $x$ 에 대하여 미분합니다. 이때 좌변은 합성함수의 미분법(Chain Rule)을 적용합니다.
우리가 구하고자 하는 역함수의 도함수 $\frac{d}{dx} \left[ g^{-1}(x) \right]$, 즉 $(g^{-1})'(x)$ 에 대하여 식을 정리합니다. (단, $g'(g^{-1}(x)) \neq 0$ 일 때)
이 식을 통해 역함수를 직접 구하지 않고도, 원함수 $g(x)$ 의 도함수만으로 특정 점에서의 역함수의 미분계수를 정확히 구해낼 수 있습니다.
상호작용 가이드