MIT 研究揭示 AI 并无稳定价值观,“对齐”挑战远超预期
IT之家 4 月 10 日消息,几个月前,一项研究暗示随着人工智能(AI)越来越复杂,其会发展出“价值体系”,例如优先考虑自身福祉而非人类福祉。然而,麻省理工学院(MIT)最近发表的一篇论文却给这种夸张的观点泼了冷水,得出结论认为 AI 实际上并没有任何连贯的价值观。 ......
防AI误导:MIT团队开发新工具提升模型可信度
(来源:MIT News)AI 聊天助手功能多样,不仅可以作为字典、心理咨询师、诗人,甚至还能充当“无所不知”的朋友。这些助手背后的人工智能模型在提供答案、解释概念和总结信息时表现得尤为高效。然而,我们如何评估这些模型生成内容的可信度?如何确认某个陈述是真实的 ......