科技让人“死于安乐”

    每天和互联网及各种科技产品打交道，让我们对一般的失误产生了免疫力，生发出“伪安全感”。但很多迹象显示，过分相信所谓“防呆机制”，反而会让灾祸离自己更近。

    父母年纪大了，很多事情需要我帮他们处理，比如做各种申请。以前他们可以自己到政府部门的柜台去排队，如今老人家行动不便，已不能亲力亲为。幸好，新加坡政府的电子化办公做得还不错，很多事情可以在网上解决，省下跑腿和等候的时间。包括请女佣，母亲打算学着当个好雇主，也可以为她报名网上课程。

    我虽不算互联网原住民，但毕竟在媒体工作多年，加上负责数码方面的业务，上网做这些事理所当然。对70多岁的母亲来说，虚拟世界寸步难行。她受过教育，懂得英文，退休前是护士，但电脑对她来说依然只是学唱卡拉OK，或者和在海外的舅舅沟通的工具。在网上申请公共服务，她是说什么也不敢独自尝试的。

    在政府网站上做申请，首先需要用到“SingPass”信息平台。老人家记性不好，好久才用一次的登录密码，总是记不起来。去年报税时她就忘过一次，我特地到营业厅去帮她更新，还叮嘱她用纸笔记下。这次再需要用时，她又记不起究竟记在哪里了。

    好在政府网站与时俱进，增设了重置密码的功能，按一下“Forget Password”（忘记密码）键，回答问题就可以。然而我发现，就像“你的小名”、“你的小学”、“你母亲的名字”这些看似简单的问题，对英文稍差的长辈也是个挑战。他们往往忘记正确的拼音，比如，过世多年的外祖母名叫“玉凤”，我母亲就不太确定是Yoke Fong还是York Fong。还有，在回答这些预设问题时，答案是大写、小写，中间有没有留空格……老人们都不会特别留意。

    每次输入错误，母亲就特别紧张，生怕电脑会坏或数据会删除。然而越紧张，记忆就越不清楚，手指也越不听话，更容易出错。我便不断安慰她，电脑没那么可怕，错了就重来，宕机的话就重新启动。可是，面对不熟悉的机器和无法预知的后果，她仍旧却步。

    我渐渐明白了其中缘由：父母那一代人在成长和工作中，犯错所要付出的代价和成本，是在资源匮乏的环境里难以承受的；年轻的我们，对科技产品勇于尝试，只是因为我们习惯了现代科技。这与智力无关，在很大程度上是因为现代科技产品或者程序，会包容可能犯的错误，预先做了防范，才让我们自我感觉“很厉害”，可以不假思索地游走于虚拟世界之中。

    这种防范错误的机制，学名是“防呆装置”（fool-proofing）。其基本原则是：使运作轻松；让操作者不需要很多技巧；使作业不会有危险。好的“防呆”设计，让使用者不需要经验与专业知识，即可凭直觉完成操作，有些情况下还可提醒使用者如何随机应变，及时矫正。

    “防呆机制”这个词，因为台湾“雄三”导弹误射事件，前几天在新闻里一再出现。事后调查称，这场致使渔民一死三伤的事故，不是一个人的操作失误，而是一连串违反纪律和连续犯错造成的。调查单位建议台湾军方重新检讨操作程序，植入“防呆机制”，确保每个环节都不会因为有人糊涂、擅离职守或者什么意料不到的原因出错。

    在制度上亡羊补牢，或许可以避免类似失误的重现，但如果人类越来越习惯甚至依赖“防呆机制”，失去了本能的防范心，未来会不会发生更多荒诞的错误，造成更大损失？

    一个多月前，美国特斯拉自动驾驶汽车遭遇的致命事故，同样提醒我们深思这个问题。

    那起车祸发生在一个没有交通灯的路口。当时，一辆货车在特斯拉车前左转，自动驾驶感应系统没有察觉货车的白色侧面，导致车子一头撞进货车底部。

    不幸身亡的车主在事发的一瞬间在干什么？目击者说，事故发生后，特斯拉的车内屏幕播放着《哈利·波特》。我们不能就此断言车主因为分心而没有注意安全，但从事发经过看来，如果他当时不是完全信任自动驾驶的性能，应该还来得及补救。

    冷静想想，每天和互联网及各种科技产品打交道，所谓好的“用户体验”、完善的“防呆机制”等，慢慢让我们对一般的失误产生了免疫力，生发出一种“伪安全感”，以为制度可以保护我们免于灾祸；其实，更大的灾祸往往就发生在人类掉以轻心的时候。

    父母那一代人使用科技产品时的小心翼翼，其实是有某种启发意义的。任何科技产品、人工智能，背后总藏着写程序的血肉之躯。智者千虑必有一失，如果我们过于相信科技和制度中的“防呆机制”，有朝一日没准就会毁灭在自己炮制出的“伪安全感”里。

    （作者是新加坡“华文媒体集团”数码频道总编辑、《联合早报》副总编辑。）

    ▋新加坡《联合早报》