人工智能监管的未来：为何约束优于护栏

宾夕法尼亚大学监管项目主任兼凯里法学院教授卡里·科格利亚尼斯与圣母大学计算机科学博士生科尔顿·R·克鲁姆指出，基于管理的监管（灵活的"牵绳"策略）将比规定性的护栏方法更有效，因为人工智能具有高度异质性和动态性，无法在固定轨道内运行。作者写道："牵绳具有灵活性和适应性——就像在社区遛狗时使用的物理牵绳允许一定范围的移动和探索"。牵绳"允许人工智能工具探索新领域，而不会受到监管障碍的阻碍"。

人工智能的多样化应用包括社交媒体、聊天机器人、自动驾驶汽车、精准医疗、金融科技投资顾问等诸多领域。虽然人工智能为社会带来诸多益处——例如能够发现训练有素的放射科医生可能遗漏的肿瘤证据——但它也可能带来风险。

科格利亚尼斯和克鲁姆在论文中列举了人工智能风险的三个典型案例：自动驾驶车辆碰撞事故、社交媒体相关的自杀事件，以及通过文本/图像/视频等多种数字形式的人工智能应用引发的偏见与歧视问题。

通过灵活的基于管理式监管，在这些及其他存在风险的场景中使用人工智能工具的企业，需要为其AI系统"系上牵绳"——即建立内部机制来预判并降低工具使用过程中可能产生的各类危害。

科格利亚尼斯和克鲁姆认为，基于管理的监管能灵活应对"人工智能的新用途与新问题，更有利于技术探索、发现与变革"。同时它提供了"类似牵绳的约束结构，可防止人工智能'失控'"。