识别软件揪出网络欺凌者

    “我一直被人欺负，他们说我看起来像头鲸鱼，不够漂亮。我拒绝婚前性行为就找不到男朋友，真不知道该怎么办。”16岁的萨曼莎写道。

    每天，社交网站和网络论坛中都会出现类似的求助帖，都是一些绝望的青少年所写。加之最近几起轰动的案子，让网络欺凌这一现象频频登上报纸头版。

    今年1月，15岁的阿曼达·黛安·康明斯因长期遭受同学在脸谱网上的欺侮，在纽约斯塔顿岛跳车身亡。去年9月，纽约布法罗的15岁男孩杰米·罗德梅耶因不堪忍受被人调侃性取向自杀身亡。这两起案件惊动了当地议员，他们因此推动的相关立法最终在日前得以通过，该法认定网络欺凌属于犯罪行为。

    麻省理工学院的卡瑟卡·蒂纳卡一直致力于解决网络欺凌问题，他设计制作的信息分析软件，通过检索青少年在MTV音乐电视网旗下“A Thin Line”网站上发布的求助帖，找出拥有相似遭遇的孩子，提醒有关部门注意，并让受害人感到自己不是孤立无援的。

    “A Thin Line”网站鼓励青少年匿名分享各种烦恼，同时也允许他人留言给予建议。这些帖子的内容多是关于网络欺凌以及对性问题的担忧。

    而蒂纳卡的软件能对信息进行有效的分析和匹配，其算法将网站上每5500条帖子归为一组，从中识别出某些特定的词语，然后对这些内容进行多达30种分类。比如，当“男朋友”、“信任”、“欺骗”、“破裂”、“难受”等词语出现在同一条帖子中时，可能暗示其内容有关分手。一旦这条帖子被归入了某个标签，该算法会在网站上识别出含有同一主题的其他帖子。

    那么，人工智能能从信息源头阻止网络欺凌吗？阿曼达去世后，她的脸谱网主页依旧充斥着大量攻击性留言，可想而知，她的父母有多么悲痛。鉴于此，蒂纳卡又开始研发能帮助识别网络上潜在暴力的软件。

    脸谱网也有阻止网络欺凌的措施，但主要还是依赖于用户标记那些不恰当的留言。

    为了找出不明显的侮辱性言论，蒂纳卡研发的软件将网络帖子与开源数据库ConceptNet进行对比，该数据库包含了诸多网络短语和单词及其含义，有助于电脑理解人类的谈话内容。这种对比方式能识别出潜在的恶意留言，即使其中并无辱骂性词汇。比如针对某个男孩写下的“戴假发，涂口红，做真正的自己”的帖子，可能就是在讽刺其性倾向，因为ConceptNet知道通常只有女孩才化妆，男孩则不需要。

    这一构思可应用在社交网站上。一旦发现欺凌行为，系统会自动弹出窗口提示发帖者注意语言，封禁这些言辞过激的帖子，或是为受害者提供帮助和建议。蒂纳卡希望将两个软件充分结合，创造出一个探测器，找出社交网站上言论微妙的攻击性内容，进而揪出网络欺凌者。

    来自马萨诸塞州剑桥市微软研究院的博伊德表示，尽管这样的研究不能解决网络欺凌问题，但有助于我们了解虚拟世界的黑暗一面。

    英国《新科学家》网站