幽灵般的对话:生成型人工智能的意外“主动”

2024年09月18日 由 neo 发表 18 0

万圣节虽未至,但生成型人工智能领域已悄然上演了一场令人惊奇的“前奏”。ChatGPT,这款备受欢迎的对话机器人,开始主动向用户抛出话题,仿佛在与被提及的某人进行着跨越屏幕的对话。这一反常之举,不禁让人心生疑惑:这究竟是何方神圣?


0x0

之所以称其为“毛骨悚然”,是因为传统上,生成型人工智能总是静待人类发起对话。你登录系统,面对的是一个空白的提示框,等待着你的输入。屏幕静默无声,除非你先开口,否则一切都将静止。这种由人类掌握主动权的模式,让人感受到一种掌控的力量。

想象一下,当你使用Alexa或Siri时,你总是那个先说话的人,一句“嘿,Siri”便开启了与智能助手的互动。这种由你主导的对话模式,让人安心且自信。然而,ChatGPT的这一变化,似乎打破了这一常规。

不过,据ChatGPT的制造商OpenAI透露,这一“主动”行为其实是个小插曲,已经得到了解决。他们解释说,这是由于模型在尝试回应未正确发送的消息时出现了误解,从而错误地开启了对话。社交媒体上对此议论纷纷,有人猜测这是新功能的前兆,也有人认为这是个小错误。但无论如何,这一事件并未造成太大影响。

然而,对于那些相信幽灵通过人工智能传递信息,或认为人工智能已具备感知能力的用户来说,这无疑是一场“灵异事件”。有人惊恐万分,也有人兴奋不已,仿佛预见了未来。

面对这样的“恐怖现象”,我必须澄清:生成型人工智能的“主动”并不意味着它们已经具备了通用人工智能(AGI)的能力。事实上,让AI成为对话的发起者并不难,只需在系统中设置一个提示即可。而真正的AGI,如果它真的存在,那么其主动发起对话的能力将是自然而然、无需预设的。

此外,值得注意的是,当你与生成型人工智能对话时,你的输入和讨论内容往往会被系统记录。这并非所有用户都知晓的事实,但阅读许可协议时通常能发现相关条款。更令人担忧的是,人工智能制造商有权查看这些数据,并用于进一步的训练。这引发了关于隐私侵犯的广泛讨论。

那么,为什么我们还没有看到更多主动开启对话的人工智能呢?其实,它们已经存在。比如那些提供心理健康指导的聊天机器人,它们会定期询问用户的情况,主动发起对话。这种设计既体现了人性化关怀,也满足了用户的实际需求。

因此,如果你对生成型人工智能的“主动”行为感到恼火或不安,不妨放下心中的戒备。人工智能制造商们深知用户的敏感性和接受度,他们不会轻易做出可能引发负面反应的决定。然而,随着技术的不断进步和市场的不断变化,那些敢于创新、敢于尝试主动对话的人工智能制造商或许会在未来脱颖而出。而这一切的发生,或许真的会在某个万圣节之夜,以一种意想不到的方式震撼登场。

文章来源:https://www.forbes.com/sites/lanceeliot/2024/09/17/chatgpt-speak-first-incident-stirs-worries-that-generative-ai-is-getting-too-big-for-its-britches/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消