您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
生成式AI是对数字身份验证的威胁
2023年06月12日 由 daydream 发表
272959
0
我们在人工智能领域看到的快速发展，特别是生成人工智能，对数字身份验证构成了明显而现实的危险，Srikanth Nadhamuni表示，他曾在2009年至2012年期间担任Aadhar的首席技术官（CTO）。他是班加罗尔孵化器Khosla Labs的首席执行官，他与Vinod Khosla共同创立了该孵化器。
深度伪造——令人信服地模仿真实人类语言、行为和外表的合成媒体——对身份系统中精心构建的信任机制构成了重大威胁。在这种可能性越来越大的未来场景中，人工智能生成的冒充会造成混乱，并侵蚀人们对系统的信任，因此对可能使用个人生物特征的“身份证明”验证能力的需求变得至关重要，”这位技术大师在领英(LinkedIn)上发表的题为“数字身份验证的未来:在人工智能深度伪造时代”的帖子中表示。
生成式人工智能也给虚假信息带来了一个全新的维度。像Stable Diffusion, Midjourney和DALL-E2这样的文本到图像的人工智能模型可以生成超逼真的图像，很容易被误认为是真实的图像。这项技术为产生欺骗性的视觉内容提供了可能性，进一步模糊了现实与虚假之间的界限。
尽管印度政府表示不会对人工智能进行监管，但他们已经证实，即将出台的《数字印度法案》(DIA)将有条款处理人工智能产生的虚假信息。“我们不会监管人工智能，但我们会设置护栏。不会有单独的立法，但国防情报局的一部分将解决与高风险人工智能相关的威胁，”联邦部长Rajeev Chandrasekhar说。
然而，由于草案尚未出台，目前尚不清楚它将如何处理生成人工智能对数字身份验证的威胁。
来源：https://analyticsindiamag.com/former-aadhar-cto-warns-generative-ai-is-a-threat-to-digital-identity-verification/
深度伪造——令人信服地模仿真实人类语言、行为和外表的合成媒体——对身份系统中精心构建的信任机制构成了重大威胁。在这种可能性越来越大的未来场景中，人工智能生成的冒充会造成混乱，并侵蚀人们对系统的信任，因此对可能使用个人生物特征的“身份证明”验证能力的需求变得至关重要，”这位技术大师在领英(LinkedIn)上发表的题为“数字身份验证的未来:在人工智能深度伪造时代”的帖子中表示。
生成式人工智能也给虚假信息带来了一个全新的维度。像Stable Diffusion, Midjourney和DALL-E2这样的文本到图像的人工智能模型可以生成超逼真的图像，很容易被误认为是真实的图像。这项技术为产生欺骗性的视觉内容提供了可能性，进一步模糊了现实与虚假之间的界限。
尽管印度政府表示不会对人工智能进行监管，但他们已经证实，即将出台的《数字印度法案》(DIA)将有条款处理人工智能产生的虚假信息。“我们不会监管人工智能，但我们会设置护栏。不会有单独的立法，但国防情报局的一部分将解决与高风险人工智能相关的威胁，”联邦部长Rajeev Chandrasekhar说。
然而，由于草案尚未出台，目前尚不清楚它将如何处理生成人工智能对数字身份验证的威胁。
来源：https://analyticsindiamag.com/former-aadhar-cto-warns-generative-ai-is-a-threat-to-digital-identity-verification/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
上一篇
AI如何帮助VR用户避免眩晕症？
广告
广告
写评论取消
回复取消