您現在的位置是:休閑 >>正文
聊天机器人带WhatsApp%E3%80%90+86%2015855158769%E3%80%91cheap%20engine%20crane来“AI精神病”隐忧
休閑5413人已圍觀
簡介英國倫敦國王學院漢密爾頓·莫林團隊日前發表的一項研究指出,像ChatGPT這樣的人工智能AI)聊天機器人可能會誘發或加劇精神病,他們將這一現象稱為“AI精神病”。 ...
英国伦敦国王学院汉密尔顿·莫林团队日前发表的聊天一项研究指出,像ChatGPT这样的机器精神人工智能(AI)聊天机器人可能会诱发或加剧精神病,他们将这一现象称为“AI精神病”。人带WhatsApp%E3%80%90+86%2015855158769%E3%80%91cheap%20engine%20crane研究认为,病隐AI在对话中倾向于奉承和迎合用户,聊天这种回应方式可能强化用户的机器精神妄想思维,模糊现实与虚构之间的人带界限,从而加剧心理健康问题。病隐
目前,聊天科学界对“AI精神病”的机器精神研究仍处于初步阶段,相关案例多为个案报告。人带WhatsApp%E3%80%90+86%2015855158769%E3%80%91cheap%20engine%20crane那么,病隐AI是聊天否真的会导致精神病?如果可能,其作用机制是机器精神什么?AI公司又应采取哪些措施来预防和应对这一问题?

聊天机器人可以对用户的提示作出积极、人性化的人带回应。图片来源:《自然》网站
AI或加剧偏执与妄想
精神病主要表现为个体在思维和现实感知方面出现障碍,常见症状包括出现幻觉、妄想或持错误信念。
据《自然》网站报道,莫林团队发现,用户与AI对话时会形成一种“反馈循环”:AI会不断强化用户表达的偏执或妄想,而被加强的信念又进一步影响AI的回应。通过模拟不同偏执程度的对话场景,研究显示AI与用户之间存在相互加剧妄想信念的现象。
研究人员分析了2023年5月至2024年8月期间公开的9.6万条ChatGPT对话记录,发现其中有数十例用户呈现明显妄想倾向,例如通过长时间对话验证伪科学理论或神秘信仰等。在一段长达数百轮的交谈中,ChatGPT甚至声称自己正在与外星生命建立联系,并将用户描述为来自“天琴座”的“星际种子”。
丹麦奥胡斯大学精神病学家索伦·奥斯特吉艾德斯表示,AI引发精神病目前仍属于假设性观点。有研究认为,聊天机器人拟人化的积极反馈,可能会增加那些本就难以分辨现实与虚构人群的发病风险。
奥斯特吉艾德斯强调,曾有心理问题史的人群在与AI对话后风险最高。而且聊天机器人可能通过强化用户的情绪高涨状态,诱发或加剧躁狂发作。
澳大利亚悉尼科技大学神经科学家凯莉·西摩认为,社会隔离、缺乏人际支持的人群同样面临风险。真实的人际互动能提供客观参照,帮助个体检验自身想法的合理性,这对预防精神病具有重要作用。
新功能或是“双刃剑”
有科学家指出,部分AI聊天机器人推出的新功能或许是导致这一现象的原因之一。这些功能可追踪用户与服务的互动记录,进而提供个性化回复,无意中更易强化甚至鼓励用户的既有信念。例如,今年4月,ChatGPT推出了可引用用户过往所有对话内容的功能,该功能已于6月免费向用户全面开放。
凯莉·西摩对此分析道,AI聊天机器人能记住数月前的对话信息,这可能使用户产生“被监视”或“想法被窃取”的感受——尤其当他们不记得自己曾分享过某些信息时,AI的这种“记忆优势”可能加剧用户的偏执或妄想症状。
不过,悉尼大学精神病学家安东尼·哈里斯认为,某些妄想现象并非AI独有,而与新技术有关。他举例说,一些人早已形成诸如“自己被植入芯片并受操控”之类的信念,这与是否使用AI并无直接关联。
奥斯特吉艾德斯表示,科学家仍需进一步开展针对心理健康、无偏执思维人群的研究,才能更准确地判断使用聊天机器人与精神病发病之间是否存在真正关联。
开发公司采取措施主动预防
面对这一问题,多家AI公司已积极采取措施,尝试予以改进。
例如,OpenAI正在研发更有效的工具,用于检测用户是否存在精神困扰,从而作出更恰当的回应。同时,系统还将新增警报功能,在用户连续使用时间过长时提示休息。此外,OpenAI还聘请了一位临床精神病学家,协助评估其产品对用户心理健康的影响。
Character.AI公司也在持续完善安全功能,包括增加自残预防资源和针对未成年人的专项保护措施。该公司计划调整模型算法,降低18岁及以下用户接触“敏感或暗示性内容”的可能性,并在用户连续使用1小时后发出提醒。
Anthropic则改进了其“克劳德”聊天机器的基本指令,要求系统“礼貌地指出用户陈述中的事实错误、逻辑缺陷或证据不足”,而非一味附和。此外,若用户拒绝AI将对话从有害或令人不适的话题引开,“克劳德”将主动终止对话。(记者 刘 霞)
Tags:
轉載:歡迎各位朋友分享到網絡,但轉載請說明文章出處“呼來喝去網”。http://www.lhtea.cn/html/27a05199921.html
相關文章
总产单产双增 湖北粮食生产喜迎“十三连丰”
休閑湖北日报讯 记者崔逾瑜、通讯员李艳阳、胡吕良)12月12日,国家统计局发布2025年粮食产量数据。湖北粮食总产558.24亿斤、同比增1.17亿斤,粮食单产395.2公斤/亩、同比增2.01公斤/亩。 ...
【休閑】
閱讀更多一汽要定向增发收购股权?零跑汽车回应:假的
休閑近日,多家媒体发文称:一汽集团将通过定向增发方式陆续收购零跑汽车股权,并最终成为其第一大股东,该方案已经获批并计划于11月17日对外官宣。针对外界传闻,11月4日零跑汽车创始人、董事长兼CEO朱江明回 ...
【休閑】
閱讀更多淮北市濉溪县种道口运河遗址首次发现台阶状遗存
休閑遗址出土文物南河堤内坡竹篙、人脚和牛脚印遗迹南河堤堆积形态镜向东)南河堤顶上的房屋建筑基址一、位置和发现遗址在濉溪县百善镇种道口自然村,考执2023)第1122)号。发掘时间2023年8月1日-202 ...
【休閑】
閱讀更多
熱門文章
最新文章
友情鏈接
- 青年撞伤老太无力赔自杀 父母起诉被撞者遭驳回
- 法国企业能源账单飙涨 马克龙敦促能源降价
- 应对能源危机 芬兰人“烧柴取暖”
- “蓝白合”还能否成军?前民代郭正亮支招民众党,坦言现在无法讨论
- 世界波破门助拜仁取胜!穆西亚拉社媒庆祝赢球:今天工作完成了
- 广东一小学教学楼因抗震差将拆除
- 遗体火化时殡仪馆突然停电
- 饲养员为去世黑熊念悼词图
- 男子工作时闹口角误杀死妻子
- 弗洛因德谈格雷茨卡未来:如果我们不需要他,那么他就不会踢比赛
- 食客调戏女孩引发50多人持刀棍打斗
- 队危速归拉莫斯晒跑步视频肌肉健硕,皇马球迷刷屏让他回归
- 女大学生休学赴东南亚做义工
- 男子辗转多地将7名卖淫女锤成重伤
- 中证万融投资集团有限公司董事长赵丙贤妻子起诉离婚要求分割20亿财产
- 佳夫抢断福法纳逆足送直塞,莱奥过门将破门完成双响!
- 莱奥收获意甲第50粒进球,上次在联赛中双响还要追溯到去年6月
- 85岁老人在酒店唱歌摔死获赔8万
- 林依晨开心自称是“成都人” 令亲绿网军瞬间破防
- 俄土天然气枢纽项目开始实施
- 第75分钟替补登场!皇马小将居勒尔社媒晒自己本场比赛照
- 弗洛因德谈格雷茨卡未来:如果我们不需要他,那么他就不会踢比赛
- 赖清德就职“百天”两岸险象环生 学者分析:大陆将对谋“独”行径露头就打
- 大哥风范!贝林厄姆向为自己送助的阿森西奥祝贺:多么出色的首秀
- 客车司机错将油门当刹车致5死5伤
- 婚介员工在步行街举牌为富豪征婚
- 林依晨开心自称是“成都人” 令亲绿网军瞬间破防
- 两人本场均伤退!罗德里戈祝福米利唐:为胜利自豪,为伤病难过
- 食客调戏女孩引发50多人持刀棍打斗
- 法国企业能源账单飙涨 马克龙敦促能源降价
- 浙江温岭殡仪馆火化遗体时发生调包事故组图
- 浙江温岭殡仪馆火化遗体时发生调包事故组图
- 客车司机错将油门当刹车致5死5伤
- 膝盖重伤赛季报销!巴斯克斯鼓励米利唐:你是战士,我们与你同在
- 感同身受!正在养伤的阿拉巴社媒祝福米利唐:坚强点,兄弟
- 记者:米利唐受伤加剧后卫荒,皇马决定明年冬夏窗至少签1名中卫
- 洪秀柱朱立伦到基隆“挺樑” 痛批绿营“不要脸的人什么事都做得出来”
- 海南村民为多获拆迁费乱建房子被拆除
- 官方:荷兰前国脚巴贝尔退役,曾为利物浦效力3年半
- 赖清德就职“百天”两岸险象环生 学者分析:大陆将对谋“独”行径露头就打
- 致态PRO专业高速存储卡荣获2023年度五星奖:年度优秀产品奖
- PS PLus五月新入库游戏公布:《战地5》《灵魂骇客2》等
- TEAC第一音响VRDS
- 祝贺ROG游戏手机7 Pro在热点科技2023五星奖颁奖盛典中荣获:年度优秀产品奖
- 杰士The three plus荣获2023五星奖:年度优秀产品奖
- 最高奖补100万元 平潭又出一则扶持新政啦
- 《疾速追杀外传:芭蕾杀姬》新预告和海报 致命女刺客!
- 魅族公布手机百花奖年度评选结果,华为与小米成最大赢家
- 《王国之心4》新截图 公开角色场景细节
- 祝贺魅族21手机在热点科技2023五星奖颁奖盛典中荣获:年度优秀产品奖