@ 2018.08.31 , 09:00

小心班主任偷窥你朋友圈哦

小心班主任偷窥你朋友圈哦

新学期新气象——新老师,新书包,新暗恋对象——还有能收集你社交媒体推文的新算法。

Blake Prewitt是密歇根州Battle Creek市Lakeview学区的主管,他说,她每天早上起来都要看20封由社交媒体监视系统发来的邮件,这个系统于今年早些时候启用。这个系统用关键词加机器学习技术标记出Twitter和其他社交平台中带有过激言论或提及该学区的推文。

最近几个月,警报邮件报告了一起潜在的校外绑架案——Prewitt检查了学校的摄像头看看是否能帮助警察——还有一条是学生家属关于着装要求的评论——工作人员已经和他们取得联系了。Prewitt 说,这个系统能帮助他保护4000名学生和500名工作人员的安全。「如果某人在推文里威胁另一个人,我们会和家长同学协力,防校园暴力于未然,」他说。

乔治亚州的Firestorm公司开放了这个系统,他们还帮学校做安全与危机响应机制。和其他公司一样,这个公司说自己的社交媒体监控工具能帮助学校遏制从色情短信、校园霸凌到枪击案等所有事情。Firestorm 的监控平台标记了的一条推文是这么说的:「每次我和妈说话,最后我一定会不耐烦,她一定会生气,哪怕我已经很克制了。」这个公司还有几条假的推文范例,程度不断加重,从「我女朋友把我甩了,我的生命结束了。」到「啪,啪。真希望你们能把我当回事。再见🔫。」

今年早些时候,发生在佛罗里达州Douglas高中的枪击案成为了这个细分市场的爆发点。枪击案发生一个月以后, 为学校和其他机构提供社交媒体监控的Social Sentinel 公司的CEO Gary Margolis 说,他们的业务「爆炸式增长」,并声称,他们的算法在案件发生前就标记了凶手的推文。 Firestorm的首席运营官Hart Brown对连线杂志说道,今年早些时候,该公司的系统标记了一条学生发的带图推文,图片里是一个装满武器的书包。这所学校的校长随即抓住了这名同学并搜出了武器。这所学校拒绝发表评论。

对于管理者来说,学生分享在社交平台上的内容当然很有用。但这里也存在着一个争议:软件能否——或者说如何——准确或合理(ethically)地抓取信息。

Amanda Lenhart 是New America基金会的研究人员,她的研究主题是年轻人如何使用互联网。他说,学校希望监控社交媒体这个想法可以理解。「管理者担心校园内的安全与秩序,但社交媒体上的内容——他们无法控制——却可以随时影响到这个空间,」她说。不过,Lenhart 也警告道,对孩子,青年以及社交媒体人的研究已经证明:成年人很难从外部理解这些内容的涵意。

「即便你让人直接来看,他们都未必懂他们在看什么,」Lenhart 说,「让算法来就更不行了,他们无法理解这个语境。」即便自然语言处理的技术最近几年发展迅猛,但离真正可用还有很长一段距离。社交媒体监控的误报可能会浪费学校时间,还会恶化学生与教职工之间的关系,Lenhart 说。

Desmond Patton 是Columbia的教授,他认为,如果使用得当,社交媒体监控能发挥作用。「我觉得这是个机会,学校可以利用这项技术服务学生和老师,但我会谨慎地使用这项技术。」Patton 说,他也是 Social Sentinel 的顾问。他的实验室与社工合作,通过机器学习,寻找流露负面情绪的推文以减少芝加哥的黑社会暴力活动。

Patton 还担心,提供给学校的技术无法正确解读黑人小孩的语言,导致他们受到学校管理人员过多的关注。他和Lenhart 都说,学校监控社交媒体这事,不能遮遮掩掩的,要公开。

Social Sentinel 和 Firestorm 都说他们的顾客对此有决定权,并强调,他们只会扫描空开的推文,针对特定地区和特定主题,不针对个人。在Lakeview的学校里,学生也有社交媒体的课程,课程内容包括隐私设定,但对于该地区使用软件监控学生这事,并没有提及。两家公司都说自己的软件收录了全国不同地区的俗语,并且会经常更新语料库。

Lakeview的同学们9月4日就要返校了。Prewitt作为学区主管工作繁忙,但他说自己不介意花时间每天看这些被标记的推文,虽然有的推文没啥关联。他回忆道,有一天早上,他看到一条关于枪击的警报,心脏立刻加速——最后结果证明真的和学校有关。「总是有很多事情要做的,我宁愿手头上的情报多一点,」他说。

本文译自 WIRED,由译者 Dkphhh 基于创作共用协议(BY-NC)发布。


支付宝打赏 [x]
您的大名: 打赏金额:

赞一个 (2)

24H最赞