您尚未登录账户
您的企业账号申请正在审核中
人工智能的致命弱点：为何歧视仍然是一个未解决的问题
最近，DHBW Stuttgart 服务管理研究中心(ZMM)进行的一项研究调查了人工智能(AI)识别图像和广告中歧视性内容的能力，显示出AI在这一领域取得了令人印象深刻的进步，同时也存在明显的局限性。
在这项全面的研究中，AI面对各种各样的图像和广告，并被要求对它们进行评估。其中包括德国广告委员会最近批评的60则广告。结果表明，AI在识别广告中的歧视方面有着惊人的能力。AI会将大部分德国广告委员会批评的广告评估为可能具有歧视性的内容。同时，在大多数情况下，非歧视性广告不会收到此类警告。
考虑到仅仅10年前，AI在正确分类图像中所描绘的对象方面还存在重大困难，这一点尤其令人印象深刻。在此期间，多亏了数百万张图像，AI已经学会了基本上能够准确区分狗和猫。AI的快速进步引发了一系列疑问：它当前的局限性在哪里？“我们想知道，在仅仅向AI展示一则广告并要求其进行评估的情况下，AI能在多大程度上识别歧视行为，”学生Helen Beckers解释了这项研究的方法。
鉴于算法的歧视大幅增加，这一点尤其重要，因为算法可能会基于性别、宗教、意识形态、种族主义或出身而使一部分人处于不利地位。随着算法歧视愈发成为影响应聘流程、信用分配、医疗以及计算罪犯再犯可能性等各个领域的严重问题，这一方面越来越重要。
ChatGPT能够检测出性别化和刻板印象，这一发现尤其具有揭示性。通过互换性别角色改编的广告显示，AI也能够识别反向情况中的歧视。“ChatGPT在这两种情况下的不同评估突出了AI即使在反向情况中也能够识别歧视的能力，”学生Sven Peter分享了研究中的另一发现。
然而，AI在识别其他形式的歧视，如物化、不尊重和滥用权力时达到了其极限。“这项研究的结果强调了需要进一步开发AI系统以更有效地识别歧视并防止其发生的必要性，”学生Marius Funk报告。该研究提出了关于未来如何使用AI技术来对抗各个领域的歧视并促进平等的重要问题。
