您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
人工智能宿命论不会帮助我们应对它的实际风险
2023年07月03日 由 daydream 发表
728474
0
什么是人工智能？
人工智能是计算机科学或工程学中的一个学科，于上世纪50年代开始形成。其目标是构建具有智能的计算系统，并以人类智能为参考。与人类智能一样，人工智能也是复杂而多样的，有许多领域旨在模拟人类智能的各个方面，从感知到推理、规划和决策等。
根据能力水平不同，人工智能系统可以分为三个层次：
- 狭义或弱人工智能，指的是能够执行特定任务或解决特定问题的人工智能系统，如今通常具备超越人类的性能水平。目前所有的人工智能系统都属于狭义人工智能。例子包括像chatGPT这样的聊天机器人、像Siri和Alexa这样的语音助手、图像识别系统和推荐算法。
- 广义或强人工智能，指的是能够表现出类似于人类的智能水平的人工智能系统，包括理解、学习和应用知识的能力，跨越广泛任务领域，并包含意识等概念。广义人工智能在很大程度上仍然是假设性的，迄今尚未实现。
- 超级人工智能，指的是在所有任务上智能超过人类的人工智能系统。根据定义，我们无法理解这种智能，就像蚂蚁无法理解我们的智能一样。超级AI是一个比一般AI更具推测性的概念。
人工智能可以应用于教育、交通、医疗、法律或制造等各个领域。因此，它正在深刻改变社会的方方面面。即使在其"狭义人工智能"形式下，它具有显著的潜力促进可持续经济增长，并帮助我们应对21世纪最紧迫的挑战，如气候变化、流行病和不平等。
当前人工智能系统面临的挑战
在过去十年中，基于人工智能的决策系统在社交媒体到劳动市场等广泛领域的应用，也带来了重要的社会风险和挑战，需要我们深入了解和解决。
最近出现的高度可靠的大型生成式预训练变压器（GPT）模型，加剧了许多现有挑战，并创造了一些值得引起注意的新挑战。这些工具已被全球数亿人广泛采用，对我们的社会和监管系统带来了更大的压力。
以下是一些非常重要的挑战，应成为我们的优先任务：
- AI算法对人类行为的操纵可能带来灾难性的社会后果，包括虚假信息的传播、公众舆论形成以及民主进程的结果。
- 算法偏见和歧视不仅持续存在，而且加剧了刻板印象、歧视甚至压迫的模式。
- 模型和使用中的缺乏透明度。
- 未经创建者同意的大量训练数据的侵犯隐私和使用，而没有任何补偿。 对AI系统进行注释、训练和纠正的工人的剥削，其中许多工人来自发展中国家，薪资微薄。 建造这些人工智能系统所需的大型数据中心和神经网络所带来的巨大碳足迹。 生成式人工智能系统中缺乏真实性，能够创造出与现实世界无关的可信内容（图像、文本、音频、视频等）。 大型模型的脆弱性，可能犯错和被欺骗。 工作岗位和职业的被取代。 权力集中在控制当前AI系统的寡头手中。 AI是否真的对人类构成生存威胁？ 遗憾的是，公众讨论人工智能，尤其是最近的公开信，主要集中在人工智能的假设性生存威胁上，而不是关注这些确切的风险。
生存威胁指的是可能发生的一种事件或情景，对人类社会的持续存在构成威胁，并具有可能不可逆转地损害或摧毁人类文明的后果，甚至导致物种灭绝。全球灾难性事件（如小行星撞击或流行病）、适居星球的破坏（由气候变化、森林砍伐或重要资源如水和清洁空气的耗尽）或全球范围的核战争都属于生存威胁的例子。
我们的世界确实面临着许多风险，未来的发展很难预测。面对这种不确定性，我们需要优先考虑我们的努力。不可控制的超级智能的遥远可能性需要放在适当的背景下加以考虑，包括全球36亿人因气候变化而高度脆弱；大约10亿人每天生活在不到1美元的条件下；或20亿人受到冲突的影响。这些是真正处于严重危险中的人类，而这种危险显然不是由超级人工智能引起的。
把注意力放在假设性生存威胁上，偏离了我们今天所面临的严重挑战，未能涵盖更广泛研究界的不同观点，并导致了人们的不必要恐慌。
社会当然会受益于这些问题所需要的多样性、复杂性和细微差别，以及制定具体的协调行动方案来解决当今人工智能的挑战，包括监管。解决这些挑战需要最受影响的社会部门的合作和参与，以及必要的技术和治理专业知识。是时候采取行动进行合作了。
来源：https://gizmodo.com/ai-chatgpt-fatalism-wont-help-us-with-its-actual-risks-1850585699
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消