求解正实数域上满足特定函数方程的函数

你说得没错，唯一的解确实是$f(x)=x$，我来一步步给你推导证明，让你看得明明白白：

步骤1：证明$f$是单射（一对一函数） #

单射的定义是：如果$f(a)=f(b)$，那么$a=b$。我们用原方程来推导：
原方程为：
$$f(x^2+xf(y)) = f(f(x))(x+y)$$
假设存在$y_1,y_2>0$使得$f(y_1)=f(y_2)$，那么对任意$x>0$，左边$f(x^{2+xf(y_1))=f(x}2+xf(y_2))$，因此右边必然相等：
$$f(f(x))(x+y_1)=f(f(x))(x+y_2)$$
因为$f(f(x))$是正实数（值域为$\mathbb R^+$），可以两边约掉，得到$y_1=y_2$，所以$f$是单射。

步骤2：证明$f$是满射（值域覆盖所有正实数） #

从原方程右边$f(f(x))(x+y)$来看，当固定$x$时，$y$可以取任意正实数，因此右边可以取到任意大于$f(f(x))x$的正数。对应左边$f(x^{2+xf(y))$，$x}2+xf(y)$可以取到任意大于$x^{2$的正数，这说明$f$在$(x}2,+\infty)$上的像覆盖了$(f(f(x))x,+\infty)$。当$x$趋近于$0^+$时，$x2$趋近于0，$f(f(x))x$也趋近于0，因此$f$的值域是整个$\mathbb R^+$，即$f$是满射。

现在$f$是双射（单射+满射），这是后续推导的关键基础。

步骤3：利用特殊值推导关键关系式 #

令$x=1$，代入原方程得：
$$f(1+f(y)) = f(f(1))(1+y)$$
记$c=f(f(1))$，则上式简化为：
$$f(1+f(y)) = c(1+y)$$
这个式子说明$f$在$(1,+\infty)$上的取值是线性的，同时结合双射性质，我们可以对两边应用$f$的逆函数，得到：
$$1+f(y) = f^{-1}(c(1+y))$$

另外，因为$f$是满射，存在$a>0$使得$f(a)=1$。令$y=a$代入原方程：
$$f(x^2+x\cdot1) = f(f(x))(x+a)$$
即：
$$f(x(x+1)) = f(f(x))(x+a) \tag{1}$$

步骤4：证明$f$在有理数点上等于自身 #

先看$0<x<1$的情况，令原方程中$x+y=1$（即$y=1-x>0$），代入得：
$$f(x^2+xf(1-x)) = f(f(x))$$
因为$f$是单射，所以：
$$f(x) = x^2 + xf(1-x) \tag{2}$$

• 令$x=\frac{1}{2}$，代入(2)得：$f(\frac{1}{2}) = (\frac{1}{2})^2 + \frac{1}{2}f(\frac{1}{2})$，解得$f(\frac{1}{2})=\frac{1}{2}$。
• 令$x=\frac{1}{3}$，代入(2)得：$f(\frac{1}{3}) = (\frac{1}{3})^2 + \frac{1}{3}f(\frac{2}{3})$；再令$x=\frac{2}{3}$代入(2)得：$f(\frac{2}{3}) = (\frac{2}{3})^2 + \frac{2}{3}f(\frac{1}{3})$，联立解得$f(\frac{1}{3})=\frac{1}{3}$，$f(\frac{2}{3})=\frac{2}{3}$。

用数学归纳法可以推广到所有$(0,1)$内的有理数$q$，都有$f(q)=q$。结合$x=1$时的关系式，当$q>1$时，$q=1+r$（$r$为正有理数），代入$f(1+f(r))=c(1+r)$，因为$f(r)=r$，所以$f(1+r)=c(1+r)$。再代入(1)式，令$x=\frac{1}{2}$（有理数），得$f(\frac{3}{4})=\frac{3}{4}=f(f(\frac{1}{2}))(\frac{1}{2}+a)=\frac{1}{2}(\frac{1}{2}+a)$，解得$a=1$，即$f(1)=1$，进而$c=f(f(1))=1$。

因此对于所有有理数$q>0$，$f(q)=q$。

步骤5：证明$f$是严格递增函数 #

从原方程右边$f(f(x))(x+y)$来看，当$x$固定时，右边随$y$严格递增（因为$f(f(x))>0$，$x+y$随$y$增大而增大），因此左边$f(x^{2+xf(y))$也随$y$严格递增。而$x}2+xf(y)$随$f(y)$严格递增（$x>0$），所以$f$必须是严格递增函数。

步骤6：证明对所有实数$x>0$，$f(x)=x$ #

因为$f$严格递增，且对所有有理数$q>0$，$f(q)=q$。假设存在某个实数$x_0>0$使得$f(x_0)\neq x_0$：

• 若$f(x_0)>x_0$，取有理数$q$满足$x_0<q<f(x_0)$，因为$f$严格递增，所以$f(x_0)<f(q)=q$，但$q<f(x_0)$，矛盾；
• 若$f(x_0)<x_0$，取有理数$q$满足$f(x_0)<q<x_0$，因为$f$严格递增，所以$f(q)=q<f(x_0)$，但$q<x_0$，$f(q)<f(x_0)$与$q>f(x_0)$矛盾。

因此不存在这样的$x_0$，即对所有$x>0$，$f(x)=x$。

最后验证一下：将$f(x)=x$代入原方程，左边$f(x^2+xf(y))=f(x2+xy)=x^{2+xy$，右边$f(f(x))(x+y)=f(x)(x+y)=x(x+y)=x}2+xy$，两边相等，满足方程。

备注：内容来源于stack exchange，提问作者sellll