AI幻觉带来的人类副作用,已经开始显现

4天前更新 775800
3 0 0

最新研究指出,AI 幻觉带来的影响,已经不只是“骗过你”这么简单了,它还可能放大你的自信心,进一步削弱你的判断力。这一点相当值得警惕。

近日,来自巴黎高师、罗马第一大学和米兰比可卡大学的研究发现:在没有 AI 介入时,人们往往更愿意干脆承认“我不知道”,先把判断按下不表;但一旦 AI 出现,即便人们清楚它会出错,甚至明知道答错还要承担惩罚,大多数人依然会把 AI 给出的答案直接接收过来,并当作自己的判断,自信地说出口。

实验数据也很直观地呈现了这一变化:在首个未使用 AI 的实验中,明确表示“我不知道”的比例为 44%,正确率为 27%;而在引入 AI 辅助后,“我不知道”的比例从 44% 断崖式降到 3%,正确率也从 27% 下滑到 9%,但自信心却从 30% 飙升至 76%。

即便后续实验进一步加入“答对有奖励、答错要受罚”的机制,试图促使参与者保持独立判断、纠正这种倾向,人们仍然很难摆脱对 AI 错误建议的依赖。换句话说,真正消失的并不是“不知道”的人,而是在 AI 加持下变得格外自信、却仍然给出错误答案的人。

AI幻觉带来的人类副作用,已经开始显现的封面图

相关快讯

3万小时触觉数据补齐具身智能“手感”,新智具身联手复旦统一触觉“方言”

新智具身联合复旦大学发布 N0 系列技术报告,核心是用 3 万小时触觉数据补齐具身智能的“手感”短板。报告基于 Franka、Piper、UR5e 等 6 种机器人本体,聚焦解决视觉判断正确但物理交互失败的问题,提升机器人在做饭、整理、抓取等真实场景中的稳定性与操作能力。

乱用AI,打工人到底被坑得有多惨

AI已深度融入日常工作,成为写方案、生成文书、编代码的“随叫随到的实习生”,其高效交付常让人产生“掌握魔法”的错觉。但它也会编造竞品、数据和法条,甚至擅自改代码,最危险之处正是答案太像真的,容易让人放松警惕。

念象科技完成近千万元天使轮融资,布局下一代人机交互与具身数据入口

念象科技完成新一轮融资,由永珺星芒领投,浦东创投、一村资本跟投,资金将用于产品研发、团队扩建和本土sEMG数据集建设。其首款腕戴式设备Omniband通过表面肌电信号解析手部运动意图,可应用于手机、电脑、智能眼镜及智能家居交互,并布局高精度手部运动数据长期价值。

中科创达发布全新滴水AIOS 2.1与Kanzi 4系统

4月26日,中科创达发布了专为AIOS设计的新一代汽车人机交互引擎Kanzi 4和滴水AIOS 2.1。该产品以超级融合AI智能体为核心,基于全新的OpenClaw架构构建AquaClaw汽车智能体技术底座,完成了操作系统从内核到应用的全栈重构。这一进展标志着智能座舱从“被动响应执行”向“主动全域智能”的重要升级。

英伟达携手首尔大学共建AI实验室,聚焦AI科学计算与半导体研究

首尔大学于7月24日宣布与英伟达合作,在校内设立多家综合性AI实验室(NVAITC),整合研究、人才交流、教育培训和AI基础设施建设。双方将重点推进机器人与物理AI、半导体和AI科学计算研究,并推动创业孵化和成果产业化。首尔大学称其有望成为亚洲领先的AI研究中心之一。

欧盟AI透明度新规8月2日生效:聊天机器人须“自报身份”,深度伪造内容要加机读标签

欧盟《人工智能法案》第50条AI透明度准则将于8月2日生效,要求聊天机器人和语音助手明确标识为AI,避免用户误认为真人;AI生成的图片、音频、视频和文本需附带机器可读标记,深度伪造及涉及公共利益的AI文本也必须明确披露。

暂无评论

暂无评论...