许多关于人工智能安全监管的政策讨论都集中在建立监管“护栏”以保护公众免受人工智能技术风险的必要性上。专家们现在认为,政策制定者不应该设置护栏,而应该要求配备“牵引绳”。
宾夕法尼亚大学监管项目主任、宾夕法尼亚大学凯瑞法学院教授卡里·科利亚尼斯与圣母大学计算机科学博士生科尔顿·R·克拉姆解释称,基于管理的监管(一种灵活的"缰绳"策略)将比规定性的护栏方法更有效,因为人工智能具有高度异质性和动态性,无法在固定轨道内运行。作者写道,缰绳"灵活且适应性强——就像在社区遛狗时使用的物理缰绳允许一定范围的活动和探索一样"。缰绳"允许人工智能工具探索新领域,而不会受到监管障碍的阻碍"。
人工智能的应用多种多样,包括社交媒体、聊天机器人、自动驾驶汽车、精准医疗、金融科技投资顾问等等。虽然人工智能为社会带来益处,例如仅举一例,能够发现训练有素的放射科医生可能漏诊的癌症肿瘤证据,但它也可能带来风险。
科利亚尼斯和克拉姆在他们的论文中提出了人工智能风险的三个例子:自动驾驶汽车碰撞、与社交媒体相关的自杀,以及人工智能通过各种应用和数字格式(例如人工智能生成的文本、图像和视频)带来的偏见和歧视。
通过灵活的基于管理的监管,在上述每种场景及其他场景中使用存在风险的人工智能工具的公司,将被要求通过创建内部系统来预测和减少因其工具使用而可能产生的各种危害,从而为其人工智能工具套上缰绳。
科利亚尼斯和克拉姆写道,基于管理的监管可以灵活地应对"人工智能的新颖用途和问题,并更好地允许技术探索、发现和变革"。同时,它提供"一种受约束的结构,就像缰绳一样,有助于防止人工智能'失控'。"