なるほど、直線ℓと直線mが同じ平面上にある場合について確認したいんだね。
同一平面上の場合には主に次の２つのケースが考えられるよね。
1. ℓとmが交わる場合
2. ℓとmが平行な場合

今、君が特に想定しているのはどちらのケースかな？教えてくれる？

いいね！！では現状理解度確認フェーズだよ。
直線ℓとmが交わる場合、線分PQの長さの最小値はどうなる？以下から選んでくれる？

(1) 最短距離は0で、P=Q=ℓ∩m
(2) PQとℓが垂直になるとき
(3) PQとmが垂直になるとき

いいね！！1番が正解だよ。
直線ℓとmが交わる場合、PとQを交点ℓ∩mにとれば
$$PQ=0$$
となって、これが最小値になるわけ。

このとき線分PQの長さがゼロなので、 “PQ⊥ℓ” や “PQ⊥m” と言おうが無理やり言えてしまうんだけど、実質的には最小距離は0で決まりだよ。

わかった？

いいね！！まさにそのとおり。直線ℓとmの最短距離を考えるときには、次の３つの場合に分ける必要があるわけです。

１．ℓとmが交わる場合
　→ 最短距離は当然０（交点をP＝Qとすればいい）。

２．ℓとmが平行な場合（同一平面上か空間上かは関係なく平行）
　→ 一方の直線上の任意の点から他方へ下ろした垂線の長さが最短距離になる。
　　たとえばℓ上の点Pからmに下ろした垂線PQ（PQ⊥m）を考えれば、
　　　$$\min|PQ|=\frac{|(\bm{a}-\bm{b})\times\bm{d}|}{|\bm{d}|}$$
　　のようにベクトルを使って求められる。

３．ℓとmが交わらず平行でもない（いわゆるスキュー：空間内で同一平面上にない）場合
　→ 最短距離を与えるPQは「PQ⊥ℓ かつ PQ⊥m」となる。
　　この２つの直線にともに垂直なベクトル方向を取ることで最短のセグメントが定まる。
　　ベクトルで書くと、ℓの方向ベクトルを$\bm{u}$、mの方向ベクトルを$\bm{v}$、
　　ℓ上の点を$\bm{a}$、m上の点を$\bm{b}$とすると、
　　　$$\min|PQ|=\frac{|(\bm{b}-\bm{a})\cdot(\bm{u}\times\bm{v})|}{|\bm{u}\times\bm{v}|}$$

このように、「同一平面上にあるか（＝交わる／平行）、空間上でスキューか」で場合分けすると整理しやすいというわけです。

わかった？

いいね！！スキュー直線間の最短区間を外積を使わずに求めるには、パラメータ表示と最小化法を使うんだ。手順はこんな感じ：

1. 直線ℓを $P=a+tu$、直線mを $Q=b+sv$ とパラメータ $t,s$ で表す。
2. 区間長の二乗を関数とみなす：
$f(t,s)=|P-Q|^2 = |\,a-b + t\,u - s\,v\,|^2.$
3. 最小になるのは $\partial f/\partial t=0$ かつ $\partial f/\partial s=0$ のとき。
これを分かりやすくドット積で書くと、
$u\cdot(a-b + tu - sv)=0, \quad v\cdot(a-b + tu - sv)=0.$
4. これが２元１次連立方程式になるから、
$\begin{cases} (u\cdot u)\,t - (u\cdot v)\,s = -\,u\cdot (a-b),\\ (u\cdot v)\,t - (v\cdot v)\,s = -\,v\cdot (a-b). \end{cases}$
を解けば、最短区間のパラメータ $t,s$ が得られる。
5. その $t,s$ を $P,Q$ に戻し、$|P-Q|$ を計算すれば、求める最小距離になるというわけです。

具体的には計算量は少し多いけれど、すべてドット積と連立方程式の解法だけで完結するよ。

ここまでOK？

じゃあ具体的に連立方程式を解いて、パラメータ $t,s$ を求めよう。

1. まず係数行列の行列式（≒判別式）を
$\Delta = (u\cdot u)(v\cdot v) - (u\cdot v)^2$
とおく。ここが 0 でないこと（＝スキューであること）の確認もできるね。

2. 次に、
$\begin{cases} (u\cdot u)\,t - (u\cdot v)\,s = -\,u\cdot (a-b),\\ (u\cdot v)\,t - (v\cdot v)\,s = -\,v\cdot (a-b) \end{cases}$
をクラメールの公式で解くと、
$t = \frac{-(u\cdot(a-b))\,(v\cdot v) + (v\cdot(a-b))\,(u\cdot v)}{\Delta},$
$s = \frac{-(v\cdot(a-b))\,(u\cdot u) + (u\cdot(a-b))\,(u\cdot v)}{\Delta}.$

3. これで最短区間の端点は
$P = a + t\,u,\quad Q = b + s\,v$
となるから、求める最小距離は
$|P - Q| = \bigl|(a-b) + t\,u - s\,v\bigr|.$
ベクトルの成分を代入して計算すれば、外積を使わずに最小距離が得られるわけです。

わかった？やったぜ！

いいね！！じゃあ具体的に数字を当てはめてみよう。
――――――
直線ℓ：P=a+tu, a=(0,0,0), u=(1,2,3)
直線m：Q=b+sv, b=(1,0,1), v=(2,1,0)

1. 内積を計算
u·u=1+4+9=14
v·v=4+1+0=5
u·v=2+2+0=4
a−b=(−1,0,−1)
u·(a−b)=−1+0−3=−4
v·(a−b)=−2+0+0=−2

2. 判別式 Δ=14×5−4²=70−16=54

3. クラメールの公式で t,s を求める
t=[−(u·(a−b))·(v·v)+(v·(a−b))·(u·v)]/Δ
=[−(−4)·5+(−2)·4]/54=(20−8)/54=2/9
s=[−(v·(a−b))·(u·u)+(u·(a−b))·(u·v)]/Δ
=[−(−2)·14+(−4)·4]/54=(28−16)/54=2/9

4. 最短区間の端点
P=(2/9,4/9,6/9),
Q=(1,0,1)+ (2/9)(2,1,0)=(13/9,2/9,1)

5. 距離
P−Q=(−11/9,2/9,−1/3)
|P−Q|=√[ (−11/9)²+(2/9)²+(−1/3)² ]
=√(121/81+4/81+9/81)
=√(134/81)=√134/9

これで数字例を通して外積を使わずに解けたね。
わかった？やったぜ！

やったぜ！他に質問ある？