一份名为《壮丽人性》的宣言，炸锅了科技圈

教皇利奥最近搞了个大新闻。在一份关乎人类未来安全的重量级宣言——《壮丽人性》（Magnifica Humanitas）里，他直接向全球政府喊话：是时候给狂飙突进的生成式AI踩一脚刹车了！ 老爷子不仅呼吁赶紧出台监管规则，防止虚假信息满天飞，还特别点名批评了AI在战争中的应用。在他看来，让武器系统脱离人类控制，会让所谓的'正义战争'变得越来越像个笑话。他更是警告，千万别搞什么AI军备竞赛，那玩意儿太危险。

利奥教皇早就把AI称作'当今人类面临的最大挑战'。在这份文件里，他更是把话说得很重：把那些不可逆转的、要命的决定权交给AI系统，这事儿'绝对不能允许'。

神引用！教皇搬出甘道夫金句

最让人拍案叫绝的是，在《壮丽人性》里一个叫'我们都能尽一份力'的章节中，教皇利奥直接'召唤'了《指环王》里的甘道夫来帮他论证观点。这波文化跨界，属实玩得溜。

那句台词出自《指环王：王者归来》，当时那位著名的巫师正在米那斯提力斯城门口，对着一众盟军领主发表讲话。背景是迪耐瑟和希优顿王都已经战死，法拉米尔还在治疗院养伤，而阿拉贡就在听众席里。甘道夫的原话是这么说的：

问题来了，那些对AI痴迷到让它几乎主宰了西方经济的科技界大佬们，会听教皇的话吗？有意思的是，在周一梵蒂冈发布这份文件的现场，还真来了一位重量级听众——Anthropic公司的联合创始人克里斯·奥拉（Chris Olah），他们公司就是那个做出了Claude系列AI工具的背后金主。所以，至少我们知道，有一个关键玩家确实把教皇的话听进去了。

教皇的深层忧虑：谁来定义AI的道德？

教皇利奥在文中继续输出他的观点，一针见血地指出：'我们不能满足于仅仅呼吁让机器变得有道德——也就是所谓的让AI与人类价值观对齐——却没有勇气坚持一个更根本的条件：我们必须能公开讨论其中涉及的伦理框架，并让它们接受社会正义的共同标准检验。'

这话说白了就是，如果只是少数人关起门来决定AI的道德标准，那这种'更道德的AI'本身就是个伪命题。他进一步警告：'否则，那些控制AI的人就会把他们自己的道德观强加给所有人，这将成为这些系统看不见的底层架构。当一切都加速狂奔时，我们更需要一种积极的政治参与，有能力把事情慢下来，保护好那些社群依然能够参与和提问的机会。' 这番话，放在今天科技巨头们疯狂内卷的背景下，确实让人捏一把汗。

导演有不同看法：AI只是特效？

不过，也不是所有人都这么紧张。就在本月，深受大家喜爱的《指环王》三部曲和《霍比特人》三部曲的传奇导演彼得·杰克逊，就公开表示对AI影响电影制作这事儿不太担心。他轻描淡写地说：'我一点也不讨厌它。对我来说，它就是个特效而已。' 他的《指环王》系列之旅还在继续，明年就有新片《追捕咕噜》要上映了。看来，在导演眼里，AI这头'猛兽'，跟索伦的魔眼比起来，似乎也没那么可怕？