你原来想用海伦公式求三角形面积再乘1/3高的思路没问题，但难点确实在于原点到平面ABC的距离很难直接求，换个坐标法的思路会更顺畅：

• 先设三个顶点的坐标：因为A在x轴正半轴，B在y轴正半轴，C在z轴正半轴，所以可以设：

  • A(a, 0, 0)，其中a>0
  • B(0, b, 0)，其中b>0
  • C(0, 0, c)，其中c>0

• 接下来根据三角形ABC的边长写出坐标对应的距离方程：
  三角形的三边长度分别是5、6、7，对应坐标轴上两点间的距离公式（比如AB的长度是$\sqrt{a^2 + b^2}$），我们可以列出三个方程：

  √(a² + b²) = 5  →  a² + b² = 25  （1）
  √(b² + c²) = 6  →  b² + c² = 36  （2）
  √(a² + c²) = 7  →  a² + c² = 49  （3）
  

  （注：这里的边长对应关系不影响最终结果，不管哪条边对应哪个距离，计算出的体积都是一样的）

• 解这个方程组求a、b、c的值：
  把三个方程相加，得到：

  2(a² + b² + c²) = 25 + 36 + 49 = 110
  

  所以 a² + b² + c² = 55

  然后用这个式子分别减去原来的三个方程：

  • 减去（1）式：c² = 55 - 25 = 30 → c = √30
  • 减去（2）式：a² = 55 - 36 = 19 → a = √19
  • 减去（3）式：b² = 55 - 49 = 6 → b = √6

• 最后计算四面体体积：
  对于原点O和三个坐标轴上点构成的四面体，体积公式是 V = (1/6)abc（本质是底面积为$\frac{1}{2}ab$，高为c，体积=$\frac{1}{3}×$底面积×高=$\frac{1}{3}×\frac{1}{2}ab×c=\frac{1}{6}abc$）

  代入a、b、c的值：

  abc = √19 × √6 × √30 = √(19×6×30) = √(19×180) = √(36×95) = 6√95
  

  所以体积 V = (1/6)×6√95 = √95 ≈ 9.75

如果一定要用你最初的思路验证的话，也可以：先用海伦公式算出三角形ABC的面积，再用平面ABC的方程求原点到平面的距离h，体积=$\frac{1}{3}×S×h$。比如平面ABC的方程是$\frac{x}{a} + \frac{y}{b} + \frac{z}{c}=1$，原点到平面的距离$h=\frac{1}{\sqrt{\frac{1}{a^{2}+\frac{1}{b}2}+\frac{1}{c^{2}}}$，代入$a}2=19,b^2=6,c2=30$，计算$\frac{1}{a^{2}+\frac{1}{b}2}+\frac{1}{c^2}=\frac{1}{19}+\frac{1}{6}+\frac{1}{30}=\frac{30+95+19}{19×30}=\frac{144}{570}=\frac{24}{95}$，所以$h=\sqrt{\frac{95}{24}}$。然后海伦公式算ABC的面积：半周长$s=\frac{5+6+7}{2}=9$，面积$S=\sqrt{9×(9-5)×(9-6)×(9-7)}=\sqrt{9×4×3×2}=6\sqrt{6}$。最后$\frac{1}{3}×S×h=\frac{1}{3}×6\sqrt{6}×\sqrt{\frac{95}{24}}=\sqrt{95}$，结果完全一致。

内容的提问来源于stack exchange，提问作者K. King