嗨，我来帮你一步步拆解这个不定积分的求解思路～

首先你提到定积分在$0$到$\frac{\pi}{2}$区间容易计算，但不定积分的话，因为它的原函数无法用初等函数表示，所以必须借助特殊函数（比如二重对数函数$\text{Li}_2$）来表达，这也是Wolfram Alpha给出的结果里出现复指数和$\text{Li}_2$的原因。

下面是具体的推导步骤：

步骤1：将$\cot x$转化为指数形式 #

我们可以利用三角函数的复指数表示：
$$\cot x = \frac{\cos x}{\sin x} = i \cdot \frac{e^{ix} + e^{-ix}}{e{ix} - e^{-ix}} = i + \frac{2i}{e^{2ix} - 1}$$
这样原积分就可以拆成两个部分：
$$\int x \cot x , dx = i\int x , dx + 2i\int \frac{x}{e^{2ix} - 1} dx$$

步骤2：计算第一部分积分 #

第一个积分很简单：
$$i\int x , dx = \frac{i}{2}x^2 + C_1$$

步骤3：处理第二部分积分 #

先对第二部分的分母变形，提取负号：
$$\int \frac{x}{e^{2ix} - 1} dx = -\int \frac{x}{1 - e^{2ix}} dx$$
然后利用等比级数展开（注意收敛条件）：
$$\frac{1}{1 - e^{2ix}} = \sum_{n=0}^{\infty} e^{2inx}$$
交换积分与求和顺序（需要验证一致收敛性，这里省略验证步骤）：
$$-\int \frac{x}{1 - e^{2ix}} dx = -\left( \int x , dx + \sum_{n=1}^{\infty} \int x e^{2inx} dx \right)$$

对$\int x e^{2inx} dx$用分部积分法：设$u=x$，$dv=e^{{2inx}dx$，则$du=dx$，$v=\frac{e}{2inx}}{2in}$，代入得：
$$\int x e^{2inx} dx = \frac{x e^{2inx}}{2in} - \frac{1}{2in}\int e^{2inx} dx = \frac{x e^{2inx}}{2in} - \frac{e^{{2inx}}{(2in)}2} + C_n$$

把这个结果代回求和式：
$$-\left( \frac{x^2}{2} + \sum_{n=1}^{\infty} \left( \frac{x e^{2inx}}{2in} - \frac{e^{2inx}}{-4n2} \right) \right) = -\frac{x^2}{2} - \sum_{n=1}^{\infty} \frac{x e^{2inx}}{2in} - \sum_{n=1}^{\infty} \frac{e^{2inx}}{4n2}$$

步骤4：合并所有项并化简 #

把第二部分的结果代入原积分表达式，再结合第一部分的积分结果，逐步化简：
$$\int x \cot x , dx = \frac{i}{2}x^2 + 2i\left( -\frac{x^2}{2} - \sum_{n=1}^{\infty} \frac{x e^{2inx}}{2in} - \sum_{n=1}^{\infty} \frac{e^{2inx}}{4n2} \right) + C$$

利用对数函数的级数展开$\ln(1 - z) = -\sum_{n=1}^{\infty} \frac{z^{n}{n}$（这里$z=e}{2ix}$），以及二重对数函数的定义$\text{Li}2(z) = \sum{n=1}^{\infty} \frac{z^n}{n2}$，替换求和项后，最终可以得到：
$$\int x \cot x , dx = x \log\left(1 - e^{2 i x}\right) - \frac{1}{2} i\left(x^2 + \text{Li}_2(e^{2 i x})\right) + \text{constant}$$

这个结果和Wolfram Alpha给出的完全一致～

另外补充一点：也可以先尝试用分部积分法（设$u=x$，$dv=\cot x dx$），得到$\int x \cot x dx = x \ln|\sin x| - \int \ln|\sin x| dx$，但$\int \ln|\sin x| dx$的不定积分同样需要用到二重对数函数，最终推导结果是一样的。

备注：内容来源于stack exchange，提问作者Bikram Kumar