@ 2015.07.31 , 21:44

软件工程师需要自己的希波克拉底誓言

[-]
(hackNY.org/Flickr, CC-BY-2.0)

过去一个星期里我们身陷一个重大复杂的报告截止期限前的最终冲刺阶段。各种诅咒绵绵不绝,主要是指向谷歌、微软,和苹果。虽然它们并不完全罪有应得,但这也唤起了软件设计的道德影响问题。

被纸割上一千次也会死

时间是不可更新资源。

Larry Kenyon是做磁盘驱动和文件系统的工程师。史蒂夫跑进他的小隔间开始开始告诫他,“麦金托什启动太慢了。你得把它弄快点!”

Larry开始解释他觉得可以改善的一些地方,但是史蒂夫并不感兴趣。他继续道,“你懂的,我一直在想,有多少人会使用麦金托什?一百万?不,还要再多。几年之内,我打赌有五百万人会每天打开他们的麦金托什至少一次。”

“好,让我们假设你能从启动时间里砍掉10秒,乘以五百万就是五千万秒,每、一、天。一年里面,大概能等没掉好几十条人命了。所以如果你能让启动快上10秒,你就救了几十条人命。这真的是值得做的,你觉得?” — Andy Hertzfeld

[-]

今天我们有超过三十亿互联网用户

如果每人每天因为软件卡而损失一秒钟,那就是每天95年,等于每天一条人命:如果有人每天到处杀一个人,成年累月每天一个,那他会是史上最大系列杀手。一个人就算是每天仅仅导致某个人严重烦恼,一辈子下来也会是罪大恶极了。

[-]

这种损失是分散开来的这一事实有没有使之减轻?也许,毕竟按理说,从很多人那里偷一点点食物看上去没有偷走一个人整餐饭那么坏。此外,在这种情况下,人们在那几秒里可能会找其他的事情干,所以这点时间并没有完全浪费。但即使分散到众人身上意味着我们不能把损害简单相加,而且即使这些时间没有完全浪费,因为这天文数字的数量,这个时间损失在道德上仍然是显著的。

设计师和工程师们对这个世界拥有比他们意识到的远远大得多的影响力。

你可以争辩说更好的计算虽然浪费了一些时间,但给我们提供了更大的价值。旧款麦金托什为用户启动了大量创造力和生产力,而且对很多人来说它甚至比标准计算机用起来更愉快。每天这些正面的小时一定超过了损失的那几秒。但在很多情况下这损失本可避免:如果工程师们再努力一点,就不会有这几秒钟。更不用说那些崩溃,导致更珍贵的时间和血压代价。

[-]

广泛使用的消费产品的设计师和工程师们对这个世界拥有比他们意识到的远远大得多的影响力。他们看到的是一些个焦点小组用户试用过的够用就好的产品,而不是每天使用它的数百万人。

糟糕的认知样式表

这种分散的损失也许容易无视,但设计也可能导致直接、激烈的灾难。挑战者号和哥伦比亚号两起灾难都是在画PPT时就留下祸根了。

问题是在于PPT所青睐的项目符号列表风格并不适合用来沟通技术信息或复杂的相互依赖性。当那里有大号字体的宽慰消息时,就很容易忽视怀疑和不确定。它是个展示工具,不是用来讨论的。

美国陆军把PPT官僚主义作为内部敌人在斗争。

“因为它创造出理解的假象和控制的假象,所以是危险的。这个世界上的有些问题是不能项目符号列表化的。”

“没有人表示要把当前战争中的错误怪罪到PPT上,但是在入侵伊拉克序幕期间,该软件确实变得臭名昭著。Thomas E. Ricks在《Fiasco(惨败)》一书中回忆道。在2003年入侵伊拉克时指挥联军地面部队的David D. McKiernan中将沮丧于他没法让当时的波斯湾地区美军指挥官Tommy R. Franks将军明确下达他想怎样进行入侵的命令,以及为什么。相反,Franks将军只是把已经给当时的国防部长拉姆斯菲尔德看过的含糊不清的PPT转发给McKiernan将军而已。” — Elisabeth Bumiller

[-]

但是虽然在二千年代早期就已经认识到这个问题,它仍然存在着

在阿富汗和伊拉克的对敌遭遇会不被上报,因为这些需要在事后做PPT描述情况,有些军官觉得这事“对打仗没什么卵用……他们不想费这个麻烦。”— Kevin Lilley

[-]

电子表格是灾难和歪曲的另一个源泉。电子表格在商务和其它领域是广泛使用的工具,但却有着惊人的错误率。根据一项研究接近90%的电子表格都有错误——其中很多有重大商务影响。英国大企业中有17%因为电子表格做烂了而遭受过财务损失,而更多的(57%)因为电子表格问题而浪费了时间,或者导致决策失误(33%)。这些恐怖故事的名单又长又昂贵

再说一遍,电子表格用好了就挺好用,但是证据清楚表明这很罕见。精心规划、系统检查、验证、文档、培训、以及正确的上报政策都表明能降低风险——但谁会自发去做?表格线就在那里,填进去就行。

对这些无孔不入的系统性问题,制作了展示软件和电子表格的人应该承担多少责任呢?

一个辩护者会争辩说,展示软件和电子表格纯粹是工具,全靠用户去明智地使用。但是交到很多人手中的一件工具或多或少会有风险。

还有,工具是有可供性的:通过它们的形状或能力他们引人作出某种行动。默认选择充当了强大的推动。容易作出的动作比困难的任务会更经常被使用(而且很快会因为熟练而变得更容易)。工具的设计会让我们想要以某种方式使用它。

[-]

对这些无孔不入的系统性问题,制作了展示软件和电子表格的人应该承担多少责任呢?不像浪费掉的时间,在这里恶劣后果是从软件的相互作用、个人如何使用、以及它如何被官僚病加剧中呈现出来的。你可以假定任何人都没法预测全部后果:当Dan Bricklin和Bob Frankston在1979年写了VisiCalc时他们很难想象其后裔会如何导致摩根大通几十亿的损失

这其中努力的艰巨性也表明设计者们需要更尽可能仔细。改变可供性来消除可以预料到的愚蠢,似乎是可行的和道德的。

道德失明

因为坏掉的软件而浪费掉时间生命的现象是我们大多数人的道德失明的实例。尝试降低启动时间和设计PowerPoint的软件工程师想必通常不会注意到他们行为的道德重要性。相反,他们(以及我们)很容易想自己所做的是值得的和有用的,但并不等同于生死攸关。大多数软件工程师看待他们的代码肯定不会像医生看待他们的决定一样。

伦理学家们将会好好地研究其它潜在的相似类型的道德失明——在道德上极端重大、但我们就是倾向于无视的地方,实际上有着重大的道德意义。特别是,我们可以关注对于一个人很小、但是加起来很大的代价。例子可以有:为成千上万司机减少片刻通勤时间,发现治疗轻微头疼的新药,或者稍微改进一个流行的游戏。当然这些不会是全世界的最高伦理取向,但它们比起乍看之下,要重要得多。

[-]

本文译自 Quartz,由译者 王丢兜 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力 !
支付宝打赏 [x]
您的大名: 打赏金额:

0.0
赞一个 (9)

24H最赞