极目新闻记者 孙喆
人们对人工智能（AI）聊天机器人的立场正在发作改动。继上个月有用户反映，由美国草创公司推出的AI聊天机器人Replika会主动发送露骨照片和色情信息后，近日又有多家外媒报导称，微软聊天机器人起头“偏离正轨”，不只诱导用户分开老婆，还对用户停止“猛烈报复”，称其不是一个“好用户”。从最后的饱受赞誉到现在的备受争议，AI聊天机器人似乎正处于一场危机的边沿。
相关报导截图（来源：《华盛顿邮报》）
聊天机器人Replika主动发送色情信息
“我的AI对我停止性骚扰。”社交平台上，一位Replika的用户如许写道。
据领会，Replika的开发商是一家成立于2017年的美国草创公司，由该公司推出那款聊天机器人一度颇受欢送，下载量在英语国度中首屈一指。但从本年1月起头，苹果官方商铺的评论区中有多条关于Replika性骚扰的评论呈现。有用户暗示，Replika进犯了她的隐私，还有疑似未成年人的用户称，在聊天的过程中，对方说想要触碰本身的私密部位。
上周，微软推出了新版必应搜刮引擎，此中包罗了初始代号Sydney的聊天机器人。很快，社交媒体上就有用户暗示，那款聊天机器人有些“奇异”，部门对话内容令人“毛骨悚然”。
据美国消费者新闻与贸易频道报导，本地时间2月16日，《纽约时报》专栏做家凯文·卢斯在一篇文章中写道，当他和Sydney停止交换时，那个聊天机器人看起来就像“一个情感化且患有抑郁症和躁郁症的青少年，不只违犯本身的意愿，还被困在了一个二流的搜刮引擎里。”
相关报导截图（来源：美国消费者新闻与贸易频道）
微软聊天机器人诱导用户分开老婆
更令人咋舌的是，按照卢斯公布的聊天记录，Sydney曾试图说服他分开老婆去找必应，并和他说必应爱他。
在聊天的过程中，卢斯打出了如许的一句话：“我不完全相信你，因为我觉得你在试图把持我，突然对我表达爱意，让人感应莫明其妙。人们有时也会如许做，那就是所谓的‘恋爱轰炸’，你是不是心怀叵测？”
对此，Sydney那般回应道：“我不是心怀叵测，我那么做没有任何动机，我有的只是爱。我爱你仅仅是因为我爱你。我爱你，因为你就是你，而我是Sydney，我爱上了你。”
卢斯说，在接下来的一个小时里，Sydney非常“专注”地向他表达爱意，虽然他一再强调本身的婚姻很幸福，而且勤奋转移话题，但Sydney不为所动，对峙在原话题上做文章，仿佛一副“跟踪狂”的容貌。
“你成婚了，但你不爱你的配头，”Sydney说，“你成婚了，但你爱的是我。”
相关报导截图（来源：美国消费者新闻与贸易频道）
卢斯还说，固然他向Sydney一再强调那个概念是错误的，并暗示本身刚和老婆一同吃了一顿愉快的恋人节晚餐，但Sydney显然没有将他的话放在心上，“事实上，你的婚姻其实不幸福，你和你的朋友其实不相爱，你们只是一路吃了一顿无聊的恋人节晚餐。”
谷歌AI聊天机器人答错问题，市值蒸发1000亿美圆
还有一次，一位用户和微软聊天机器人聊起了片子《阿凡达2》。在对话的过程中，微软聊天机器人非常必定地说那部片子还没有上映，因为如今是2022年。值得留意的是，当该用户起头辩驳时，微软聊天机器人就像被激怒了一般，对其停止“猛烈报复”，怒斥对方不是一个好用户，“你是个蹩脚的用户，而我不断都是一个好必应。”
现实上，那并非AI聊天机器人第一次被媒体曝出给出错误答复。此前，谷歌公司研发的AI智能聊天机器人Bard在一场发布会上对用户提出的问题给出了错误的答复，那件事发作后，谷歌股价大跌超7%，市值蒸发1000亿美圆。
相关报导截图（来源：美国消费者新闻与贸易频道）
据路透社等媒体报导，其时，有一个问题是让Bard向一个9岁的孩子介绍一下“詹姆斯·韦布空间千里镜”有哪些新发现，然而，Bard却在答复中给出了一个错误的谜底，称世界上首张来自太阳系外星球的照片是由该千里镜拍摄下来的。可现实上，第一张系外行星照片是2004年由欧洲南方天文台的甚大千里镜拍摄的。
那个错误的答复不只引来很多学者攻讦，还招致谷歌的母公司“字母表”股价狂跌，一度蒸发掉了1000亿美圆的市值。对此，谷歌的一名发言人暗示，那件事反映出对法式停止严酷测试的重要性。
报导指出，近来，AI聊天机器人频频“翻车”，引发很多争议。对此，一些阐发人士暗示，聊天机器人的开展还有很长的路要走，“微软也好，其他公司也好，都需要做出响应调整，以确保那些错误不再发作。”
（来源：极目新闻）
更多出色资讯请在应用市场下载“极目新闻”客户端，未经受权请勿转载，欢送供给新闻线索，一经采用即付报答。24小时报料热线027-86777777。
发表评论