院况简介
北京前沿科学技术研究院（简称“北前科学院”）成立于2016年9月，北前科学院，是由北京中科光析科学技术研究所，北检（北检）检测技术研究院，标检（北京）质量检测中心等科研单位，组建成立的独立科学科研机构，致力于前沿科学领域的研究与创新人才培养，科学技术转移孵化等，世界前沿新科学普及传播。 更多简介 +
院领导集体
前沿信息
基础科学
工程科技
最近一代的疫苗必须长期关注疫苗的增长和疫苗的可及性
对就业市场整体性的担忧——从创意经济到管理阶层——已经蔓延到教室，因为教育工作者正在重新思考如何利用hatgpt学习
尽管对就业和学校的担忧占据了主导地位，但事实上，像ChatGPT这样的大规模语言管理模式的影响几乎会触及生活的各个角落这些工具让社会广泛关注人工智能在制造社会偏见、实施欺诈和身份盗窃、生成虚假新闻、传播错误信息等方面的作用
宾夕法尼亚大学工程与应用科学学院的一批研究人员正在努力让技术用户了解这些风险在2021年2月举行的人工智能进步协会会议上发表的同行评审论文中，作者证明了人们可以学会理解机器生成和人类书写文本之间的差异在你选择密码、分享文章或提供信用卡详细信息之前，重要的是要记住，你可以提高来源的可靠性
这项研究由计算机与信息科学系副教授ChrisCallison Burch与博士Liam Duganan和Daphneippolito共同领导D学生信息系统，提供AI生成的可检测的信息
“我们发现，人们对中国生成的文本的认知程度越来越高，”Allison Burch说“人们开始对机器会产生的错误有一定的假设，但这些假设并不一定是正确的。随着时间的推移，给出更多的例子和明确的指导，我们可以学习如何在机器当前正在制造的铁上进行备份。”
杜根补充道：“今天的AI非常擅长制作非常流畅、语法非常好的文本。”“但它确实会犯错误。我们证明，机器有独特类型的错误——比如常识错误、关联错误、推理错误和逻辑错误——我们可以学会如何拼写。”这些研究使用RealorFakeText收集数据一款基于原始网络的训练游戏
这个训练游戏不适用于建立标准的实验方法来进行检测研究，以更准确地再现人们使用AI生成文本的情况
在标准方法中，参与者可以指出机器是否产生了给定的文本这项任务包括将文本简单地分类为真实或伪造，并将响应存储为正确或正确
Penn模型通过以下示例，有意义地定义了标准检测，以确定有效的培训任务，这些示例都是由人类编写的每一个例子都是将参赛者放入生成的文本中，要求参赛者标记出他们对参赛者的历史转变的信任学员确认并描述文本中表示错误和收到错误的特征
研究结果显示，参与者的得分明显高于随机机会，这提供了证据表明AI在一定程度上是可检测的
杜根说：“我们的方法不仅有助于完成任务，而且有助于重新参与，为训练提供更现实的环境。”“生成的文本，比如由ChatGPT产生的文本，是由人工提供的程序产生的。”这些研究不仅展示了当今的人工智能，而且还展望了我们与历史技术关系的安全、甚至令人兴奋的未来
杜根说：“五年前”“模型不会停留在pico上，也不会产生错误。现在，它们很少会造成巨大的风险。我们的研究确定了人工智能聊天机器人特有的错误类型，但重要的是要记住，这些错误已经消失，并将继续发展。需要关注的问题不是人工智能写入的文本是不可检测的。而是人们需要不断训练它们，以识别差异，并在检测到合理的补偿Carlison Burch说：“人们对有效的焦虑感到焦虑。我们的研究提供了很多证据来解决这些焦虑。”一旦我们能够了解我们对AItext生成器的优化，我们将能够唤起人们对集合工具的能力的关注，以帮助编写更具想象力、更有趣的文本“.Ippolito，该研究的联合负责人和谷歌的现任研究科学家，用她的工作重点补充了杜的重点保护，并对这些工具的最有效的使用案例进行了探索。例如，她为Wordcraft做出了贡献，Wordcraft是一种与已出版的作家联合开发的人工智能创意写作工具。没有一位作家或研究人员发现人工智能会迫使人工智能取代人工智能，但她发现支持创建过程的有效价值
Allison Burch说：“我觉得这些技术最适合创造性写作。”“新闻报道、学期论文或法律建议都是不好的案例，因为没有事实的保证。” 杜根说：“有令人兴奋的积极方向可以推动这项技术。”“人们经常引用一些例子，比如抄袭和假新闻，但我们现在知道，我们可以培养自己成为更好的读者和作家。”
来源:
Materials provided by
University of Pennsylvania School of Engineering and Applied Science. Original written by Devorah Fischler.
注明: Content may be edited for style and length.
2024-01-20
2024-01-20
2024-01-20
2024-01-20
2024-01-20
