人工智能已经成为包括安全和监控在内的各个领域的强大工具。然而，最近的报道引发了人们对以防止恐怖主义为借口，利用人工智能监视社会维权人士和记者的担忧。这种对技术的滥用是对我们基本权利、隐私和言论自由的直接威胁。在本文中，我们将深入研究这个问题，探讨其影响，以及对保障措施和法规的迫切需求。



在最近提交给人权理事会的一份报告中，联合国专家Fionnuala Ni Aolain强调了人工智能和其他侵入性技术的滥用日益严重。Ni Aolain呼吁在充分的保障措施到位之前暂停开发人工智能。报告强调了以安全为借口，为监控目的使用人工智能等高风险技术的危险性。Ni Aolain对缺乏监督、允许国家和私人以反恐为幌子利用人工智能技术表示担忧。

人工智能是一项复杂的、多方面的技术，给监管带来了重大挑战。DeepAI.org的创始人Kevin Baragona将人工智能描述为“我们试图监管的更复杂的问题之一”。对于监管简单问题的困境引发了人们对于实现对人工智能进行监管的可行性的怀疑。然而，完全禁止人工智能也会其阻碍进步和发展。

人工智能有可能彻底改变社会的各个方面，在社会、经济和政治领域带来积极的进步。然而，滥用它会带来重大风险。人工智能算法可以创建个人档案，预测他们未来的行动，并识别潜在的犯罪或恐怖活动。这种程度的数据收集和预测活动引发了人们对隐私和人权的深刻担忧。Ni Aolain的报告强调需要采取保障措施，防止人工智能评估被滥用，由于其固有的概率性质，人工智能评估不应成为合理怀疑的唯一依据。

人工智能已经进入了执法、国家安全、刑事司法和边境管理系统。它正在多个城市的试点项目中实施，以测试其在不同应用中的有效性。这项技术利用了大量的数据，包括历史、刑事司法、旅行、通信、社交媒体和健康信息。通过分析这些数据，人工智能可以识别潜在的嫌疑人，预测犯罪或恐怖活动，甚至将某个人标记为未来的再犯。

将人工智能滥用于监控目的，会给活动人士、记者和任何重视隐私和言论自由的人带来可怕的后果。通过采用人工智能监控，监控和跟踪使活动人士和记者的自由活动越来越困难。这种侵犯不仅扼杀异议和压制人权，而且还破坏民主的根基。

为了解决人工智能的滥用问题，迫切需要强有力的保障措施和法规。这些措施的目的应是在安全关切和保护基本权利之间取得平衡。必须建立有意义的监督和问责机制，以防止滥用人工智能技术。此外，应提高在监测中使用人工智能的透明度和公众意识，以加速采取更加负责任的方法。

应对人工智能滥用带来的挑战需要国际合作与协作。政府、民间社会组织和技术公司必须共同努力，制定符合道德和负责任使用人工智能的共同标准和准则。通过分享最佳实践和经验，我们可以共同应对与人工智能相关的风险，并确保其对社会产生积极影响。

以防止恐怖主义为借口，利用人工智能监视活动人士和记者的令人担忧的趋势，引发了人们对基本权利和自由受到侵蚀的严重担忧。这位联合国专家呼吁暂停人工智能的发展，直到有足够的保障措施到位，这突显了采取行动的迫切需要。随着人工智能的不断发展，我们必须积极应对潜在风险，并制定强有力的法规来防止其被滥用。通过这样做，我们可以确保人工智能仍然是一股向善的力量，维护我们的权利，建立一个更加包容和民主的社会。

 

来源：https://readwrite.com/ai-misuse-a-threat-to-activists-and-journalists/#google_vignette