您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
ChatGPT Search易受误导性内容影响
2024年12月27日 由 daydream 发表
93
0
本月上线的AI搜索引擎ChatGPT Search存在被误导生成错误信息的风险，英国《卫报》近日披露了这一发现。该搜索引擎旨在通过提供如网页产品评论摘要等功能，加快用户浏览速度。然而，《卫报》通过在其创建的网站上插入隐藏文本，发现ChatGPT Search能够忽略负面评论，生成完全正面的摘要。
这一发现表明，ChatGPT Search在处理信息时可能受到特定手段的干扰，从而生成与实际情况不符的内容。更令人担忧的是，利用这种方法，攻击者还可能诱导ChatGPT Search输出恶意代码，对用户的网络安全构成潜在威胁。
隐藏文本攻击对于大型语言模型而言并非未知风险，但此次事件似乎是首次在实际运行的AI搜索引擎产品中得以验证。相比之下，作为搜索领域的领导者，谷歌在处理类似问题方面拥有更为丰富的经验。
针对这一发现，OpenAI在接受询问时并未就具体事件发表评论，但表示公司采用了多种方法来阻止恶意网站，并持续进行技术改进。
文章来源：https://techcrunch.com/2024/12/26/chatgpt-search-can-be-tricked-into-misleading-users-new-research-reveals/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
专题
广告
写评论取消
回复取消