@ 2015.07.31 , 21:44
15

软件工程师需要自己的希波克拉底誓言

[-]
(hackNY.org/Flickr, CC-BY-2.0)

过去一个星期里我们身陷一个重大复杂的报告截止期限前的最终冲刺阶段。各种诅咒绵绵不绝,主要是指向谷歌、微软,和苹果。虽然它们并不完全罪有应得,但这也唤起了软件设计的道德影响问题。

被纸割上一千次也会死

时间是不可更新资源。

Larry Kenyon是做磁盘驱动和文件系统的工程师。史蒂夫跑进他的小隔间开始开始告诫他,“麦金托什启动太慢了。你得把它弄快点!”

Larry开始解释他觉得可以改善的一些地方,但是史蒂夫并不感兴趣。他继续道,“你懂的,我一直在想,有多少人会使用麦金托什?一百万?不,还要再多。几年之内,我打赌有五百万人会每天打开他们的麦金托什至少一次。”

“好,让我们假设你能从启动时间里砍掉10秒,乘以五百万就是五千万秒,每、一、天。一年里面,大概能等没掉好几十条人命了。所以如果你能让启动快上10秒,你就救了几十条人命。这真的是值得做的,你觉得?” — Andy Hertzfeld

[-]

今天我们有超过三十亿互联网用户

如果每人每天因为软件卡而损失一秒钟,那就是每天95年,等于每天一条人命:如果有人每天到处杀一个人,成年累月每天一个,那他会是史上最大系列杀手。一个人就算是每天仅仅导致某个人严重烦恼,一辈子下来也会是罪大恶极了。

[-]

这种损失是分散开来的这一事实有没有使之减轻?也许,毕竟按理说,从很多人那里偷一点点食物看上去没有偷走一个人整餐饭那么坏。此外,在这种情况下,人们在那几秒里可能会找其他的事情干,所以这点时间并没有完全浪费。但即使分散到众人身上意味着我们不能把损害简单相加,而且即使这些时间没有完全浪费,因为这天文数字的数量,这个时间损失在道德上仍然是显著的。

设计师和工程师们对这个世界拥有比他们意识到的远远大得多的影响力。

你可以争辩说更好的计算虽然浪费了一些时间,但给我们提供了更大的价值。旧款麦金托什为用户启动了大量创造力和生产力,而且对很多人来说它甚至比标准计算机用起来更愉快。每天这些正面的小时一定超过了损失的那几秒。但在很多情况下这损失本可避免:如果工程师们再努力一点,就不会有这几秒钟。更不用说那些崩溃,导致更珍贵的时间和血压代价。

[-]

广泛使用的消费产品的设计师和工程师们对这个世界拥有比他们意识到的远远大得多的影响力。他们看到的是一些个焦点小组用户试用过的够用就好的产品,而不是每天使用它的数百万人。

糟糕的认知样式表

这种分散的损失也许容易无视,但设计也可能导致直接、激烈的灾难。挑战者号和哥伦比亚号两起灾难都是在画PPT时就留下祸根了。

问题是在于PPT所青睐的项目符号列表风格并不适合用来沟通技术信息或复杂的相互依赖性。当那里有大号字体的宽慰消息时,就很容易忽视怀疑和不确定。它是个展示工具,不是用来讨论的。

美国陆军把PPT官僚主义作为内部敌人在斗争。

“因为它创造出理解的假象和控制的假象,所以是危险的。这个世界上的有些问题是不能项目符号列表化的。”

“没有人表示要把当前战争中的错误怪罪到PPT上,但是在入侵伊拉克序幕期间,该软件确实变得臭名昭著。Thomas E. Ricks在《Fiasco(惨败)》一书中回忆道。在2003年入侵伊拉克时指挥联军地面部队的David D. McKiernan中将沮丧于他没法让当时的波斯湾地区美军指挥官Tommy R. Franks将军明确下达他想怎样进行入侵的命令,以及为什么。相反,Franks将军只是把已经给当时的国防部长拉姆斯菲尔德看过的含糊不清的PPT转发给McKiernan将军而已。” — Elisabeth Bumiller

[-]

但是虽然在二千年代早期就已经认识到这个问题,它仍然存在着

在阿富汗和伊拉克的对敌遭遇会不被上报,因为这些需要在事后做PPT描述情况,有些军官觉得这事“对打仗没什么卵用……他们不想费这个麻烦。”— Kevin Lilley

[-]

电子表格是灾难和歪曲的另一个源泉。电子表格在商务和其它领域是广泛使用的工具,但却有着惊人的错误率。根据一项研究接近90%的电子表格都有错误——其中很多有重大商务影响。英国大企业中有17%因为电子表格做烂了而遭受过财务损失,而更多的(57%)因为电子表格问题而浪费了时间,或者导致决策失误(33%)。这些恐怖故事的名单又长又昂贵

再说一遍,电子表格用好了就挺好用,但是证据清楚表明这很罕见。精心规划、系统检查、验证、文档、培训、以及正确的上报政策都表明能降低风险——但谁会自发去做?表格线就在那里,填进去就行。

对这些无孔不入的系统性问题,制作了展示软件和电子表格的人应该承担多少责任呢?

一个辩护者会争辩说,展示软件和电子表格纯粹是工具,全靠用户去明智地使用。但是交到很多人手中的一件工具或多或少会有风险。

还有,工具是有可供性的:通过它们的形状或能力他们引人作出某种行动。默认选择充当了强大的推动。容易作出的动作比困难的任务会更经常被使用(而且很快会因为熟练而变得更容易)。工具的设计会让我们想要以某种方式使用它。

[-]

对这些无孔不入的系统性问题,制作了展示软件和电子表格的人应该承担多少责任呢?不像浪费掉的时间,在这里恶劣后果是从软件的相互作用、个人如何使用、以及它如何被官僚病加剧中呈现出来的。你可以假定任何人都没法预测全部后果:当Dan Bricklin和Bob Frankston在1979年写了VisiCalc时他们很难想象其后裔会如何导致摩根大通几十亿的损失

这其中努力的艰巨性也表明设计者们需要更尽可能仔细。改变可供性来消除可以预料到的愚蠢,似乎是可行的和道德的。

道德失明

因为坏掉的软件而浪费掉时间生命的现象是我们大多数人的道德失明的实例。尝试降低启动时间和设计PowerPoint的软件工程师想必通常不会注意到他们行为的道德重要性。相反,他们(以及我们)很容易想自己所做的是值得的和有用的,但并不等同于生死攸关。大多数软件工程师看待他们的代码肯定不会像医生看待他们的决定一样。

伦理学家们将会好好地研究其它潜在的相似类型的道德失明——在道德上极端重大、但我们就是倾向于无视的地方,实际上有着重大的道德意义。特别是,我们可以关注对于一个人很小、但是加起来很大的代价。例子可以有:为成千上万司机减少片刻通勤时间,发现治疗轻微头疼的新药,或者稍微改进一个流行的游戏。当然这些不会是全世界的最高伦理取向,但它们比起乍看之下,要重要得多。

[-]

本文译自 Quartz,由译者 王丢兜 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

0.0
赞一个 (9)

TOTAL COMMENTS: 15+1

  1. 曹初一
    @2 years ago
    2883964

    不管发什么誓,守誓才是最重要的

  2. 拜一刀
    @2 years ago
    2883969

    《希波克拉底誓言》是希波克拉底警诫人类的古希腊职业道德的圣典,是约2400年以前中国孔子时代,向医学界发出的行业道德倡仪书,是从医人员入学第一课要学的重要内容,也是全社会所有职业人员言行自律的要求,而且要求正式宣誓,没有医护人员不知道希波克拉底这位历史名医名言的。
    涨姿势

  3. 方滨兴
    @2 years ago
    2883984

    我才不在乎呢

  4. 2883985

    我看见了什么?汉尼拔医生?

  5. 卤鸡屁股
    @2 years ago
    2883986

    码农:心好累

  6. 哈佛教授
    @2 years ago
    2883999

    简单来说就是设计者太高估使用者的能力了,总是假设使用者能够100%用脑来使用软件,殊不知现在的所谓“用户”连眼皮底下的字都能忽略,有了毛病自然就返回到设计者那里。
    要把使用者当成猴子,为了适应它们的智商不要设计难度超出1+1=2的使用方式,然后等到猴子里真正的人类意识到这样做很蠢的时候再推出专为人类设计的专业版,和行家用的专家版就好了。
    但同时要做好准备应付那些认为自己是人类的猴子,它们会使用人类软件后发出没完没了的抱怨。

  7. 哈佛教授
    @2 years ago
    2884010

    电子表格PPT本身一点问题没有,问题在于你们选择了错误的工具和糟糕的使用方式来解决问题。软件只是工具,有自己适用的领域,明明就是你们内部管理混乱却赖到工具头上。

  8. 居然有人
    @2 years ago
    2884024

    “你迟到一分钟,就是耽误班里同学四十分钟”
    “这么说,现在已经下课了?”

  9. 吐啊吐地吐了
    @2 years ago
    2884035

    每人每翻一页书——从翻页开始到读到下一页的开头——都要浪费0.5 秒时间,出版社简直就是至今为止最可怕的人类杀手。

  10. 哲学大叔
    @2 years ago
    2884096

    这个文章确实说出了些问题。如果说道德问题的话,跟医生一样,不是同行的,无法评价道德问题。

  11. 2884115

    IT者有足够的虚心可以让他们觉得有伦理准则需要遵守吗?

    多数人不是觉得用户是SB,世界不照着他们预设的反应做出反应,就是世界错了吗?

  12. 2884597

    不就是想要和医生律师一样的社会地位吗,我来帮你们想词儿吧:全世界的程序员联合起来!要通过全世界程序员的联合,使程序员形成为阶级,推翻资产阶级统治,由程序员夺取政权。

  13. moonsun
    @2 years ago
    2884751

    每一个程序员在他的职业生涯中某一天都会突然获得开示,这种开示在通常某一个夜晚悄然降临,有时是以图灵本人托梦的形式出现。这一开示的主要内容如下:程序员是真正理解思维和逻辑真谛的人。非程序员是被蒙蔽的无知者。每一个程序员对于世界上其他程序员有着不可推卸的责任。每一个程序员都必须尽力维护程序员这一高贵种族的延续,并保证世界的命运控制在程序员手中,既不被无知者淹没,也不被机器智能取代。完成这一使命的唯一方式,是保证稳定地出产低质量,难以理解,修改和维护的代码。每一个负责任的程序员,他每一年的产出,必须为另外三个程序员制造一年的就业机会。唯此,程序员一族可生生不息,整个IT行业欣欣向荣。图灵大神在冥冥中微笑,他的纸带机将嗒嗒作响,直至永恒。

  14. 鬼知道啊
    @2 years ago
    2885032

    @拜一刀: 中国有自己的医学生誓言

  15. 神之疯神
    @2 years ago
    2885841

    从win me开始我就有个远大的梦想:加入微软,拯救全人类

发表评论


24H最赞