关于连续函数的argmax集合的闭性与紧性的疑问

嘿，我来帮你理清这里的问题点，你已经有了不错的思路，但可能在拓扑的细节上没注意到～

首先看第一个命题：当$X$是非空闭集时，$A ={x \in X|f(x)\geq f(y) \forall y \in X}$是闭集。你的分情况讨论是对的，但你忽略了闭集是在哪个拓扑空间下的定义——命题里的“A是闭集”指的是在$\mathbb{R}^k$这个原空间中的闭集，而不仅仅是$X$的子空间拓扑里的闭集。

• 当$f$在$X$上能取到最大值$M$时，$A = f^{{-1}({M})$，因为$f$连续，${M}$是$\mathbb{R}$中的闭集，所以$A$在$X$的子空间拓扑下是闭集。但要让$A$在$\mathbb{R}}k$中也是闭集，就需要$X$本身是$\mathbb{R}^{k$中的闭集——因为子空间拓扑里的闭集是$\mathbb{R}}k$中闭集与$X$的交集，若$X$是$\mathbb{R}^{k$的闭子集，那么$A$作为$X$的闭子集，自然也是$\mathbb{R}}k$中的闭集。
• 当$f$在$X$上取不到最大值时，$A$是空集，而空集在任何拓扑空间里都是闭集，这部分你的结论没问题。

举个反例就能看出$X$闭性的作用：如果取$X=\mathbb{Q}$（$\mathbb{R}$中的有理数集，不是闭集），定义$f(x)=0$对所有$x\in\mathbb{Q}$，那么$A=\mathbb{Q}$，而$\mathbb{Q}$在$\mathbb{R}$中不是闭集——这就说明当$X$不闭时，$A$可能不是原空间的闭集，而$X$的闭性是保证$A$在$\mathbb{R}^k$中闭的充分条件。

接下来看第二个命题：当$X$是紧集时，$A$是紧集。这里可以结合紧集的性质和极值定理来推导：

• 首先，紧集上的连续函数一定能取到最大值（极值定理），所以$M=\max_{x\in X}f(x)$一定存在，$A=f^{-1}({M})$。
• 因为$f$连续，${M}$是$\mathbb{R}$中的闭集，所以$A$是$X$的闭子集。
• 而紧集的闭子集一定是紧集，所以$A$作为紧集$X$的闭子集，自然也是紧集。

这样就完整覆盖了两个命题的证明逻辑啦～

备注：内容来源于stack exchange，提问作者Chang Henry