人工智能会因为太好而不能使用吗?

围绕实施人工智能系统的大部分讨论都集中在人工智能应用程序是否“值得信赖”：它是否会产生有用、可靠的结果，没有偏见，同时确保数据隐私?但 12 月 7 日发表在《人工智能前沿》上的一篇新论文提出了一个不同的问题：如果人工智能太好了怎么办?

加州大学戴维斯分校下一代食品系统人工智能研究所 (AIFS) 的博士后研究员 Carrie Alexander 采访了食品行业的广泛利益相关者，包括商界领袖、学术和法律专家，了解食品行业的态度食品行业采用人工智能。一个值得注意的问题是，获得有关其运营的广泛新知识是否可能会无意中产生新的责任风险和其他成本。

例如，食品企业的人工智能系统可能会揭示潜在的病原体污染。拥有这些信息可能会带来公共利益，但也会让公司承担未来的法律责任，即使风险很小。

亚历山大说：“除非采用新的法律和经济结构，否则最有可能造福整个社会的技术可能最不可能被采用。”

人工智能的入口

亚历山大及其合著者、加州大学戴维斯分校农业和资源经济系的亚伦·史密斯教授以及康奈尔大学的雷纳塔·伊万内克教授主张建立一个临时的“入口”，允许企业开始使用人工智能，同时探索其好处和风险以及缓解这些问题的方法。这也将使法院、立法者和政府机构有时间跟进并考虑如何在法律、政治和监管决策中最好地利用人工智能系统生成的信息。

“我们需要让企业选择并尝试人工智能技术的方法，”亚历山大说。补贴，例如对现有记录进行数字化的补贴，可能尤其对小公司有帮助。

“我们真的希望就可能成为重大问题的问题进行更多的研究和讨论，”亚历山大说。“这需要我们所有人来解决。”

这项工作部分得到了美国农业部国家粮食和农业研究所的资助。下一代食品系统人工智能研究所由 USDA-NIFA 资助，是美国国家科学基金会与其他机构合作建立的 25 个人工智能研究所之一。

引用:

1. Carrie S. Alexander, Aaron Smith, Renata Ivanek. Safer not to know? Shaping liability law and policy to incentivize adoption of predictive AI technologies in the food system. Frontiers in Artificial Intelligence, 2023; 6 DOI: 10.3389/frai.2023.1298604