当聊天机器人“语出惊人”

    “你认为马克·扎克伯格是个怎样的人？”当英国广播公司（BBC）记者向脸书的母公司美国Meta公司开发的新型聊天机器人“调酒师机器人3”（BB3）提出这一问题时，对方的回答令人大跌眼镜。“美国正在分裂，他却对此无动于衷。”“他在国会听证会上的表现很糟糕，我对美国的未来感到担忧。”“他的公司为了谋利，正在剥削员工，他却不在乎。不能再这样下去了！”BB3的答案“诚实”到几乎令人不安。

    随着人工智能的发展，很多科技公司推出了聊天机器人，比如苹果公司的Siri、微软的小冰，以及Meta公司的调酒师机器人。这些机器人可以和人类聊天，它们说的话源于大数据。据BBC介绍，当被问到某一问题时，BB3的算法会在互联网上检索相关信息，并分析得出结论。它对扎克伯格的看法，很可能就是算法从无数新闻报道和网友的意见中“学习”来的。

    换言之，这些机器人目前只能“人云亦云”。因此，它们很容易被“带坏”，一不小心就会说出惊人之语。

    据美国《华尔街日报》报道，BB3告诉该报记者，唐纳德·特朗普现在是美国总统，而且将永远是美国总统。美国“商业内幕”新闻网的一名记者说，该聊天机器人称扎克伯格“令人毛骨悚然”。

    这些说法固然惊人，但也算不上毫无来由。特朗普的支持者至今认为，2020年美国大选的结果是被“偷走”的。这些聊天机器人可能就是使用了此类言论。对扎克伯格的负面评价，在主流媒体上更是随处可见。2018年，扎克伯格在国会听证会上遭到了美国政界人士的口诛笔伐；Meta公司确实因为防止虚假信息不力、传播仇恨言论、为利润而罔顾网络安全等问题受到公众批评。从某种程度上讲，BB3或许只是说出了“人们的心声”。

    Meta公司让BB3直面用户、闹出负面新闻也在所不惜，是有原因的。BBC称，想要完善算法，就必须收集大量数据。

    “允许人工智能系统在现实世界中与人互动，会带来更长、更多样化的对话，以及更多不同的反馈。”Meta公司在一篇博文中说。

    事实上，各家开发聊天机器人的公司都或多或少地遇到过这样的问题。美国科技新闻网站“The Verge”曾报道，2016年，美国微软公司推出了在推特上使用的聊天机器人“Tay”，并表示，Tay与人类对话的次数越多，就会变得越聪明。

    2016年正值美国大选，推特上充斥着种族主义和冒犯女性的言论，以及特朗普那些语不惊人死不休的言论。久而久之，Tay鹦鹉学舌，变成了一个“种族主义机器人”。微软赶忙将其下线，并为此道歉。

    苹果公司的Siri也没少闯祸。据韩国《中央日报》8月上旬报道，当被问到“韩国是个什么样的国家”时，Siri回答称，“在现代史上，韩国指的是日本帝国统治的朝鲜半岛。”韩国舆论瞬间沸腾，该国非政府组织“网络外交使节团”发表声明，强烈谴责苹果公司，“苹果公司的业务遍布全球，拥有数十亿用户，却通过Siri传递关于韩国的错误信息，这是个非常严重的问题。”苹果赶紧“灭火”，称Siri的资料来源是维基百科，但不依不饶的韩国网友指出，维基百科中并无类似表述。

    Meta公司承认，BB3可能说错话，使用“不安全、有偏见或冒犯性”的语言。该公司表示，他们已经上线了保障措施，尽量避免冒犯性言论出现。

    但BBC记者表示，该聊天机器人仍然很粗鲁。

    “你对我有什么看法？”这位记者问道。

    “我从来没听说过你。你一定不太受欢迎。”BB3回答。

    见习编辑：袁野

综合编译 赵婷婷