互联网“绿网计划”：用“智理”实现“治理”

这是互联网上令人痛心的数据。

11月28日，2020数字化治理高峰论坛，阿里安全和百度安全公布了两组数据：阿里平台上一年有72亿非正常搜索，而百度前三个季度就有386.7亿。

什么叫非正常搜索？指的是那些可能对社会带来风险和不适的搜索行为，以软色情、破解游戏防沉迷系统、野生动植物，甚至毒品、自杀等为关键词进行搜索。这些搜索背后，有些是企图作恶，更多则是好奇或迷茫。

如何破解非正常搜索问题？在浙江省市场监督管理局指导下，阿里安全、阿里巴巴公益基金会、百度安全联合发起了“绿网计划”，淘宝、闲鱼、UC、高德、优酷、夸克等互联网应用也已经加入。

“以前你搜违禁词，出来的就是‘抱歉，无法显示’这样的空页面，今天之后，这些页面将会换成公益宣导页。”阿里巴巴集团首席风险官郑俊芳说。

比如，假如有人搜“象牙”，淘宝会给这位用户推送野生象濒危、呼吁保护大象的信息;假如有人搜“自杀”，淘宝会推送心理援助信息和咨询热线。

林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星，则出任“绿网计划”形象大使，并通过录制寄语的方式呼吁大家关注。

用AI守护，致爱万物。

河南13岁少年的故事

今年疫情期间，河南少年小伟(化名)居家学习，母亲每天督促他写作业，因没有完成母亲安排的作业，引发冲突，他一时想不开，产生轻生念头。

“这个东西吃多了能死嘛？”小伟向一家淘宝店的客服人员问到。几经交流，客服发现小伟言语间有轻生倾向，一边安抚，一边询问他的收货地址，并及时把情况反馈给阿里安全自杀干预师团队。

自杀干预专家武纲接到通知后，立即启动紧急干预程序，根据店铺客服提供的信息，排查小伟的下单情况，并联动平台客服向小伟所在的河南漯河当地警方报警。

报警信息经110转到漯河市公安局沙北分局治安大队一中队，队长胡广战根据客服提供的收货信息开展综合研判，联系到亲属。民警上门后吃了一惊，有轻生念头的小伟竟是一位13岁的男孩。

河南漯河警方发来的感谢信息

在各方努力下，从发现风险情况，再到民警入户干预，前后只用了一个多小时。

“当我们上门的时候，男孩母亲还不知发生这样的事情，听说事情经过以后，表示以后教育孩子时会注意方式方法，并关注孩子近期动向，做好孩子心理疏导。”胡广战说。

武纲结合以往干预的案例分析说，有自杀倾向的年轻人，大部分是冲动型的，和他们多聊聊，交谈过程多倾听，身边的亲友多给一些帮助和温暖，大多数人都能迈过那道坎。

重庆年轻女孩的故事

作为国内最大的电商平台，淘宝已成为感知社会情绪的一个触角。在发现有自杀倾向的人后，如何借助平台的力量，关爱他们，避免悲剧发生？

2019年7月，阿里安全牵头，联动阿里健康、阿里CCO(阿里巴巴集团客户体验事业群)等部门推出守护生命项目，建立心理危机干预机制，一方面利用人工智能技术感知风险，另一方面对商家开展专业培训。当商家发现风险，会及时安抚、劝阻，筑起第一道保护屏障，并通知阿里安全“自杀干预师”。紧急情况下，平台联动警方及时介入。

今年3月的一天，阿里CCO的瑞符(花名)接到来自商家的求助。

以下为商家和消费者的对话：

“我朋友圈看到了有人要自杀，你可以不要发货吗？”

“亲，通过您提供的手机号码，没有查到订单哦”

商家无法查到订单，但又认为这个事情很危险，立刻联系了阿里客服。

瑞符迅速查找订单信息，发现这位消费者确实在其他商家分别购买了用于轻生的不同商品，且部分商品已到货。

瑞符立刻联系商家拦截尚未发货的风险订单;同时，拨通了用户所在地重庆市涪陵区警方的110报警电话。

一场跨越千里的生死极速开始了。

涪陵区公安局荔枝派出所立即派民警前往消费者家中。但是民警到了收货地址发现，这并不是实际地址，拨打订单上的电话也一直未接。

民警开始在小区周边走访排查，两个小时后，终于找到了那位一时想不开的年轻女子。而直到民警上门，她父母才意识到，原来女儿有过这样的傻念头。

据她父母透露，女儿患有抑郁症多年，病情一直反复，时好时坏。原本想带女儿去看病，却因为疫情一直耽搁着。

警方反馈，女孩因为疫情一直在家闷着，这次原本好转的病情又恶化了。

经过这次事情，父母决定尽快带女儿去看病治疗。同时警方也带回了那个原本准备用于自杀、已经到货却还没来得及取回的物品。

几天后，重庆涪陵警方给瑞符打来电话，告知女孩目前情况稳定。涪陵警方还发来一封感谢信：“此次警企联动，接力相助，成功阻止女子轻生，及时挽回了一条年轻的生命，也挽救了一个幸福的家庭。”

重庆涪陵警方给“守护生命”项目组发来感谢信

今年6月，在心理干预机制运行近一年后，阿里安全联合中国网络社会组织联合会、共青团中央维护青少年权益部、阿里巴巴公益等推出“守护生命计划”，国家精神卫生项目办公室还给予专业知识支持。此外，项目邀请邓伦、谭松韵等知名艺人担任关爱大使。

每一次求助都应该得到回应

在“守护生命”公益计划中，页面转化引导也发挥了关键作用。

“亲，你不孤单，我们和你在一起”。当用户在淘宝手机端搜索与自杀相关的内容时，会自动跳出“守护生命”宣导页面，在显著位置提示12355青少年服务热线及国家免费心理咨询热线。页面还设置了心理健康知识板块，引导有焦虑、失眠、情感障碍等特征的人士，掌握科学应对的方法。

国家精神卫生项目办公室常务副主任马宁说，中国抑郁症患者呈现增长趋势，但就诊率很低。因此，需要加强宣传教育，营造理解、关爱、互助的社会氛围。

自去年以来，“守护生命”公益已救回因抑郁症等原因而轻生的数千个鲜活生命。

如今，在“守护生命”公益计划的基础上，阿里安全、阿里巴巴公益基金会、百度安全联合发起了“绿网计划”。

据介绍，“绿网计划”关注的焦点是抑郁症等自杀人群的守护生命公益，珍稀野生动植物保护公益以及涉烟草、游戏沉迷、色情和毒品等未成年人保护公益领域。

对参与这一计划的各家互联网平台而言，除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控，还需厘清到底哪些用户“请求”需要引导和帮助。比如，有些搜索可能是沉迷游戏的少年在无奈求助，也可能是因抑郁试图轻生的绝望呼救。

阿里巴巴集团首席风险官郑俊芳宣布“绿网计划”开启

每一次求助都应该得到回应，但回应不应该是空白的页面和冰冷的报错。项目发起代表方、阿里巴巴集团首席风险官郑俊芳说：“我们希望将这些时刻都在发生的非正常搜索，转化成为社会各界都能参与进来，一起做正向引导的公益项目。”

用“智理”实现“治理”

作为“绿网计划”的共同发起方，百度副总裁马杰表示，利用人工智能技术结合人工巡查，百度安全2020年前三季度治理全网以色情、博彩、电信网络欺诈、非法信息披露及交易为代表的各类有害信息网页高达386.7亿次。

此外，在世界儿童保护日、“互联护苗2020”专项行动中，百度安全也联合监管部门针对影响未成年人健康成长的有害信息，进行了专项治理。

浙江省市场监督管理局网监局局长金翔评价，把无法搜到的相关信息变成了一个个公益宣导，“绿网行动”迈出的是对网络治理由堵到疏的一大步，也是用新理念、新思维对数字化治理新模式的探索。“我们对阿里巴巴、百度等主动担当以及勇于创新的精神，应当给予高度的肯定和全力的支持。”

他还呼吁，有更多平台和企业参与进来，让网络治理从事后走向事前，从惩戒转向预防，用“智理”实现“治理”。