人工智能正以威胁人类基本尊严的速度重塑法律、伦理与社会。查尔斯·达尔文大学的玛丽亚·兰达佐博士警告称，现行法规未能有效保护隐私、自主权及反歧视等权利。"黑箱问题"导致人们无法追溯或质疑可能对其造成伤害的人工智能决策。
该研究的主要作者、CDU法学院学者玛丽亚·兰达佐博士发现，这项技术正以前所未有的速度重塑西方法律与伦理格局，但同时也在削弱民主价值观，并加剧系统性偏见。
兰达佐博士表示，当前的监管未能优先保护隐私、反歧视、用户自主权和知识产权等基本人权与自由——这主要归因于许多算法模型具有不可追溯的特性。
兰达佐博士将这种缺乏透明度的现象称为"黑箱问题"。她指出，通过深度学习或机器学习过程做出的决策，人类无法追溯其路径，这使得用户难以确定人工智能模型是否及为何侵犯了他们的权利与尊严，并在必要时寻求公正。
"这是一个非常重大的问题，若无有效的监管，情况只会恶化。"兰达佐博士说。
"人工智能在任何人类意义上都不具备智能。它是工程学上的胜利，而非认知行为上的胜利。"
"它完全不知道自己在做什么，也不知道为什么这么做——没有人类所能理解的思考过程，只有剥离了具身体验、记忆、共情和智慧的模式识别。"
目前，全球三大数字主导力量——美国、中国和欧盟——正采取截然不同的人工智能发展路径，分别倾向于以市场为中心、以国家为中心和以人为本的模式。
兰达佐博士表示，欧盟以人为本的路径是保护人类尊严的首选方式，但如果没有全球对这一目标的共同承诺，即使是这种方式也存在不足。
"在全球范围内，如果我们不将人工智能的发展与使我们成为人的本质——我们选择、感受、审慎推理、共情和 compassion 的能力——紧密相连，我们就有可能创造出将人性贬低并扁平化为数据点的系统，而非改善人类处境。"她说。
"人类绝不能被视为达成目的的手段。"
这篇题为《人工智能时代的人类尊严：法律问题与监管制度概述》的论文发表在《澳大利亚人权杂志》上。
该论文是兰达佐博士将就该主题撰写的三部曲中的第一部。