Arch系统全局关闭Vim语法高亮失效的问题求助

刚折腾完Arch系统的全新安装，紧接着就装了Vim来用。我在全局配置文件/etc/vimrc里加了两行设置：

syntax off
inoremap jk <Esc>

重启系统之后，按键映射那部分倒是正常工作了——按jk就能快速回到普通模式，但语法高亮完全没被关掉，还是照常显示。我记得之前在老Ubuntu机器上也碰到过一模一样的问题，想请教下各位大佬，怎么才能全局默认关闭Vim的语法高亮？

更新：之前我以为创建用户目录下的~/.vimrc并添加syntax off只能给单个用户生效，但其实我搞错了，具体解决方案看我下面的回答。

备注：内容来源于stack exchange，提问作者zeroclaim