人工智能
钓鱼执法:用聊天机器人打击性贩卖
科技公司把聊天机器人用作维系消费者的手段。但是微软用聊天机器人□□一件相反的事情。
credit:123RF
最近在西雅图、亚特兰大和华盛顿投放测试的机器人,由打击人口贩卖的非营利组织赞助。这些机器人潜伏在网络□□广告之后,和那些点进广告的人聊天,一开始机器人会根据预设谈论年龄身材之类的东西,一旦对方释放出了要买春的信号,机器人会马上变脸把对面批判一番。
「买春是不合法的,会对受害者造成长期性的伤害,还和更深层次的人口贩卖有关」,「本次对话的信息会被复查,相关执法部门可能会和你联系作进一步调查」,机器人大概会说这一类的话。这些警告全部基于谈话内容。例如,对方表达了对未成年人的兴趣,就会收到「三年起步,最高死刑」的警告。
这个项目名叫「拦截计划」,微软推出这个机器人是出于慈善目的。微软希望能和非营利组织一起打击□□势力。国家人口贩卖热线在2016年收到了5000起人口贩卖的举报,但大部分都没有被报道。
拦截计划的领导组织是西雅图反奴役组织(Seattle Against Slavery,SAS),他们和美国21个城市的其他相关机构联合部署这些机器人,包括波士顿和休斯敦。目前这个机器人已经首发了14000条信息,约有1000人点击了这个钓鱼的广告,约有半数的人收到了警告信息。
「城市的执法机构能够通过这个平台掌握一部分人,但我们知道还有成千上万的人在别处买春。」SAS 的执行董事 Robert Beiser 说。 「浪费他们的时间,给他们一些警告能改变一点他们的想法。」
拦截计划起始于2012年,两名微软员工看了关于一部关于人贩子强迫妇女□□的纪录片,《Rape For Profit》,之后他们决定做点什么。「我觉得我们能用自己的工作来帮助他们,」高级产品经理 Greg 说,「非政府组织有想法,但没方法。」
这项计划在微软2012年的 hackathon(编程马拉松)中有了一个雏形。他们利用公司的 Azure 云平台改进了微软自家的 PhotoDNA 技术,让它能够自动识别并报告儿童□□的图片,不久以后,志愿团队达到了40人,PhotoDNA 这个技术也被70多家公司使用,其中就包括脸书和推特。
去年夏天,在微软发布了 bot-building 工具套件之后,志愿者们开始考虑做一个机器人,这套软件本身有诸多限制,商业化并不成功,但用它开发一个钓鱼机器人足矣。
「精虫上脑的人不会注意对面的是不是真人,」Beiser 说道。微软自己的机器人学会了说脏话,不过这个钓鱼机器人可不会学习它的聊天对象。
SAS 还投放了第二个由拦截计划开发的服务,叫 Victim Reachout,这个服务会从真正的买春广告中搜集性工作者的手机号,并向他们发送短信,帮助他们脱离□□易。这一块由经验丰富的非营利组织雇员和志愿者负责。「这确实加快了我们和受害者接触的速度,」非营利组织 逃离□□易(Real Escape from the Sex Trade) 执行董事 Amanda Hightower 说。
与此同时非营利组织和执法部门也在遏制性人口贩卖。Dominique Roe-Sepowitz 是美国性人口贩卖干预办公室的主任,他说,他们也会帮助这些组织。研究发现,在凤凰城,一条钓鱼广告就能吸引63个人点击。「目前还没有足够的数据说明这个地下产业的规模有多大。」Roe-Sepowitz 说。
不要指望微软的机器人能够一夜之间改变现状。Roe-Sepowitz 说,只有教育和法律威慑有用,一点小计策很难有效果。凤凰城方面表示,有一半接到警察电话的人还会继续点钓鱼广告。
当然,软件团队也在让软件变的更有效,他们在大范围的测试哪些话术和方法是最有效果的。「我们的希望就是能打击犯罪活动并保护大家。」Beiser 说。