AI：我是个没用的（骂公司）机器人。

这件事被公开了之后，这家“成功运行AI多年的”DPD公司急速表示，这是系统更新后的缺点，AI会在系统更新后重新启用。
而Beauchamp，至今也没有拿回他丢失的包裹。
这个问题起先就已经涌现过，若没有对AI进行一些预防方法，AI也会“不学好”。
2016年，微软在推特上推出了一款名为Tay的谈天机器人，并表示，你聊得越多，Tay就会越来越聪明。
当时，Tay被定位为一个十几岁的青少年AI。
｜wiki

然而，在推出15个小时后，人们就创造Tay变“坏”了，它开始揭橥各种与种族主义、性别偏见干系的极度辞吐，乃至还会自发说出一些奇怪的话，还会猖獗回答用户。
Gizmodo的新闻标题说，Tay已经疯了。

而缘故原由也很显而易见，The Guardian的一篇宣布评论道：“Tay 实质上是一只能连上互联网的机器鹦鹉。
”由于它实在便是会重复它学到的东西，可能也就学到网络键盘侠说的话……微软曾指出，Tay学到的公共数据，实在已经经由了一些过滤，但事实证明，Tay无法过滤新学到的东西。

由于它说了太多奇怪的话，删都删不过来，因此2016年3月23日推出的Tay，在2天后就下线了。
不过，这也给制造AI的人提出了一个严重的问题，当人们利用公共数据来建构一个AI时，该如何合理地采纳预防方法？

AI客服害了若干人胡说八道不解决问题还让公司亏了1000亿

事实上AI不苟言笑地说了一大堆都是瞎编的？｜vivepostwave
“幻觉”指的是AI开始说胡话，也便是它自傲地将一些禁绝确的信息陈述为事实。
AI除了向客户说出一些乱七八糟的话之外，还会给公司造成严重的丢失。
2023年2月，谷歌推出的Bard在一个广告中说，它可以为9岁的孩子讲述詹姆斯·韦布太空望远镜的科学新创造，然而在视频广告里，它却说错了（弄错了第一张系生手星的照片）。
这波反向营销（？）直接让谷歌的母公司Alphabet市值下跌了1000亿美元。

以是，AI为什么会变得越来越傻？请点击查看把科学带回家之前的文章：第N代GPT有多聪明？专家说AI大概会变笨，由于互联网“脏”了……

困扰我们的不仅是AI的胡言乱语，最主要的是它难以办理任何问题。
当我们想要咨询或维权时，由于AI客服没能力办理问题，对话总是会陷入糟糕的“末日循环”中：永久重复着几句没用的话，摧残浪费蹂躏咨询者的韶光。
2024年一项英国的数据显示，AI客服让消费者对客服的满意度跌到8年以来的最低点。
美国机构消费者金融保护局 (CFPB)就提到，AI客服的末日循环是一个日益严重的问题，特殊是在金融做事行业。
在用到AI客服时，顾客会感到摧残浪费蹂躏韶光、困惑、沮丧、收到不准确的信息，以及支付更多垃圾用度。
因此，有人建议，想要得到帮助时，还是得前往银行，或者给客服打电话。

永久得不到想要的回答。
｜traveldaily

而AI客服带来的另一个危害则是隐私透露。
当社交软件Snapchat推出了一款由OpenAI供应支持的AI谈天机器人后，用户彷佛疑惑它利用了用户的位置数据。
2018年，英国一家公司的AI谈天机器人被黑客入侵，盗取了6万人的支付信息。
因此，越来越多人也在网上开始提醒，在利用AI客服时，不要暴露自己的太多信息。
Snap的My AI被疑惑网络用户数据。
｜Snap
总而言之，一个无法办理繁芜问题，不能供应正常勾引的AI客服，很有可能靠不住，乃至让我们面临严重的丢失。
因此如今在选择网站帮助时，最好还是直接探求人工客服。

参考资料：

[1]https://mashable.com/article/air-canada-forced-to-refund-after-chatbot-misinformation

[2]https://www.theguardian.com/technology/2024/jan/20/dpd-ai-chatbot-swears-calls-itself-useless-and-criticises-firm

[3]https://www.washingtonpost.com/technology/2023/04/27/chatgpt-messages-privacy/

[4]https://www.consumerfinance.gov/data-research/research-reports/chatbots-in-consumer-finance/chatbots-in-consumer-finance/

[5]https://www.reuters.com/technology/google-ai-chatbot-bard-offers-inaccurate-information-company-ad-2023-02-08/

[6]https://entertainment.slashdot.org/story/23/12/21/0518215/car-buyer-hilariously-tricks-chevy-ai-bot-into-selling-a-tahoe-for-1

[7]https://www.bbc.com/news/technology-68025677?xtor=AL-72-%5Bpartner%5D-%5Bbbc.news.twitter%5D-%5Bheadline%5D-%5Bnews%5D-%5Bbizdev%5D-%5Bisapi%5D&at_link_type=web_link&at_ptr_name=twitter&at_campaign_type=owned&at_campaign=Social_Flow&at_bbc_team=editorial&at_medium=social&at_link_id=FA695082-B6F9-11EE-A6B8-F489D0B4AF07&at_link_origin=BBCWorld&at_format=link

[8]https://www.pbs.org/newshour/economy/customer-service-chatbots-used-by-banks-raises-concerns-for-consumer-watchdog

[9]https://link.springer.com/article/10.1007/s12525-020-00414-7

[10]https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter?CMP=twt_a-technology_b-gdntech

本文经授权转载自微信公众年夜众号：把科学带回家（ID: steamforkids），作者万物杂志