
法新社5月25日消息,在梵蒂冈周一发布文件中,教皇良十四呼吁“解除”人工智能(AI)的“武装”,以“防止其统治人类,并要求对算法进行规范和监管,并谴责了其迅猛发展背后所隐藏的“新型奴役”。
在这篇题为《Magnifica Humanitas》(伟大的人类)的130页文本中,美籍教皇良十四以数字革命时代人类尊严的捍卫者的姿态,回应了当今时代的诸多挑战:生态问题、多边主义危机、经济垄断。
在这份致全体信徒的通谕中,他就社会、道德或神学问题阐明了立场,呼吁超越“正义战争”的概念,并谴责将致命决策权移交给技术的做法。
教皇本人于周一上午亲自出席了发布会,与他一同出席发布会的还有圣座的高级官员以及人工智能专家,其中包括美国人工智能初创公司Anthropic的联合创始人克里斯托弗·奥拉。
良十四指出,鉴于人工智能“不能被视为道德中立”,有必要对其进行“解除武装”,以“防止其支配人类”。他强调,必须制定关于人工智能的共同伦理准则,并强调教育在学习如何掌控人工智能风险方面发挥着关键作用。
他遗憾地指出,如今,“对平台、基础设施、数据和计算能力的控制权并不掌握在国家手中,而是掌握在大型经济和科技企业手中”,这些企业“制定了访问条件、可见性规则和参与机会”。
“奴役”
良十四援引柏拉图、J·R·R·托尔金、毕加索和贝多芬对“反非人化”所作出的贡献,谴责为攫取人工智能(AI)的应用所需资源而创造的“新型奴役”,并呼吁“采用更可持续的技术解决方案来减少对环境的影响”。
他谴责道,“在世界某些地区,青少年和儿童在危险的环境下工作,研磨用于提取稀土元素的原材料。他们的身体被标记、残害、磨损,只为保证计算流程的畅通”。
这位美籍教皇借此机会,就教会历史上迟迟未能谴责“奴隶制的祸害”请求“真诚的宽恕”,并首次承认圣座在奴隶制合法化过程中扮演了直接角色。
除了技术挑战之外,良十四还表达了对“非人化”风险的担忧,他警告人们不要将人性简化为机器的绩效或数据。
法新社说,自一年前当选以来,良十四已多次警告人工智能的危险,强调“数字扫盲”的必要性。
多边主义危机
在谈及多边主义危机时,这位天主教会领袖再次谴责在军事领域使用人工智能。他写道:“没有任何算法能使战争在道德上变得可以接受。”
他遗憾地指出,“人类正滑向一种以暴力为特征的权力文化”,这种文化将战争视为“国际政治工具”并使其常态化。
法新社该稿的作者将教皇的批评矛头转向特朗普说,尽管教皇良十四没点名,但他呼吁摒弃的‘正义战争概念,尤其受到特朗普领导的美国政府推崇。
良十四本人在周一的新闻发布会上解释说,这份文件源于“倾听”,此前他与科学家、工程师、政界人士、家长和教师进行了交流,这些人都对年轻一代“深感忧虑”。
美国人工智能公司Anthropic的联合创始人克里斯托弗·奥拉则表示:“我们需要世界上更多的参与者——宗教团体、公民社会、研究人员、政府——像教皇陛下在此所做的那样:认真对待此事,仔细观察,并引导事态朝着更好的方向发展。”