単位ベクトル3本のなす四面体の体積の最大化

原点をOとする座標空間において、点A, B, Cは $|\vec{OA}|=|\vec{OB}|=|\vec{OC}|=1$ を満たし、さらに $\vec{OA}\cdot\vec{OB}=\vec{OB}\cdot\vec{OC}=\vec{OC}\cdot\vec{OA}=t$ を満たすとする（tは実数の定数）。

(1) O, A, B, Cが同一平面上にない四面体OABCを作るような実数tの範囲を求めよ。

(2) (1)の範囲のtに対して、四面体OABCの体積をV(t)とする。V(t)をtの式で表せ。

(3) V(t)を最大にするtの値と、そのときのV(t)の最大値を求めよ。

(1) $-\dfrac12<t<1$

(2) $V(t)=\dfrac16(1-t)\sqrt{1+2t}\quad\left(-\dfrac12<t<1\right)$

(3) $t=0$ のとき最大値 $V=\dfrac16$

座標を設定する。 $\vec a=(1,0,0)$ とおいてよい。$|\vec b|=1,\ \vec a\cdot\vec b=t$ より $\vec b=(t,s,0),\quad s=\sqrt{1-t^2}\ (>0,\ -1<t<1)$ とできる（$s=0$すなわち$t=\pm1$は $\vec a,\vec b$ が平行になり四面体を作れないため除く）。

$\vec c=(x,y,z)$ とし、$|\vec c|=1,\ \vec a\cdot\vec c=t,\ \vec b\cdot\vec c=t$ を用いる。

$\vec a\cdot\vec c=t \Rightarrow x=t$

$\vec b\cdot\vec c=t \Rightarrow tx+sy=t \Rightarrow t^2+sy=t \Rightarrow y=\dfrac{t(1-t)}{s}$

$|\vec c|^2=1$ より $z^2=1-x^2-y^2=1-t^2-\frac{t^2(1-t)^2}{1-t^2}=\frac{(1-t^2)^2-t^2(1-t)^2}{1-t^2}$ 分子は $(1-t)^2\{(1+t)^2-t^2\}=(1-t)^2(1+2t)$ なので $z^2=\frac{(1-t)^2(1+2t)}{1-t^2}=\frac{(1-t)(1+2t)}{1+t}\quad(-1<t<1)$

(1) 範囲の決定

$-1<t<1$ では $1+t>0$、また $1-t>0$ なので、$z^2\ge 0$ となる条件は $1+2t\ge 0 \iff t\ge -\frac12$ $z=0$（$t=-\frac12$）のときは $\vec c$ が $xy$平面上に来て O,A,B,Cは同一平面上（四面体が潰れる）。よって非退化な四面体ができる条件は $-\frac12<t<1$

(2) V(t) の計算

四面体OABCの体積は $V=\frac16\left|\det\begin{pmatrix}1&0&0\\ t&s&0\\ t&y&z\end{pmatrix}\right|=\frac16|sz|$ ここで $s^2z^2=(1-t^2)\cdot\frac{(1-t)(1+2t)}{1+t}=(1-t)^2(1+2t)$ $-\frac12<t<1$ で $1-t>0,\ 1+2t>0$ なので $|sz|=(1-t)\sqrt{1+2t}$ よって $V(t)=\frac16(1-t)\sqrt{1+2t}\qquad\left(-\frac12<t<1\right)$

(3) 最大値

$V(t)\ge0$ なので $V(t)$ の最大化は $f(t):=36V(t)^2=(1-t)^2(1+2t)=2t^3-3t^2+1$ の最大化と同値。 $f'(t)=6t^2-6t=6t(t-1)$ 定義域 $-\frac12<t<1$ 内での符号を調べると、

• $-\frac12<t<0$ のとき $t<0,\ t-1<0$ なので $f'(t)>0$（増加）
• $0<t<1$ のとき $t>0,\ t-1<0$ なので $f'(t)<0$（減少）

したがって $t=0$ で $f(t)$ は極大かつ最大となる。 $f(0)=1$ よって $V(0)=\frac16\sqrt{1}=\frac16$

（これは $\vec a,\vec b,\vec c$ が互いに直交する単位ベクトルのとき、四面体OABCが単位立方体の頂点をなす三角錐であることに対応し、体積 $\frac16$ と一致して妥当である。）

以上より、$t=0$ のとき最大値 $V=\dfrac16$。