一年2528次:他們把生命從懸崖邊拉回來
本文轉自【人民網-財經頻道】;
“在密閉房間裏用,人可以死嗎?”8月2日,晚上9點,一家電商的客服夏蘇突然接到系統預警:有一位消費者在一家店鋪購買了一種日常用品,10斤,在和店鋪客服諮詢中冒出了上面這句話。
一套智能算法快速定位,根據這位消費者此前的瀏覽記錄,判定她屬於“高危用户”。夏蘇同時查看她和店鋪客服的對話,反覆問細節,而且都指向自殺行為。同事也發現,此前這位消費者還試圖購買過某種處方藥,在線問診拒絕了訂單,並建議她線下看病。
經判斷,這是一位自殺傾向者,而且自殺行為即將發生。一邊報警,夏蘇一邊連續撥打這位消費者電話,通了,又被掛了。多方信息比對確定了消費者所在位置,當地110指揮中心指派,警察立即出發並及時趕到,隨後家人也趕到了,警報解除。
工作中的“守護生命”師夏蘇。
這是夏蘇日常工作中的一例,許多個夜晚,她應對過許多次這樣的預警。她和來自阿里安全、客服和阿里健康的近30位同事一起,組成了一個名叫“守護生命”的項目。
他們的具體工作,專業的説法叫“自殺干預”——算法工程師用人工智能技術識別自殺風險,客服團隊聯動商家對用户提供情緒安撫,專業心理醫生在線諮詢診治,遇到緊急情況,則第一時間聯動警方阻止。這套體系運行了整整一年,他們以各種方式,阻止了2528例自殺事件的發生。
據世界衞生組織統計,全球每40秒鐘就有1人自殺身亡。“但很多人都是一時衝動,最後時刻只要有人拉一把,情況可能就完全不同。”“守護生命”項目組負責人武綱説,“我們做的,就是在衝動發生那一刻,把人從生命的懸崖邊拉回來。”
“從零開始,邊測試邊優化邊提高”
中國科學院心理研究所一項調查顯示,曾經嘗試過自殺的人羣中,51.7%的人“從未主動尋求過任何幫助”。
“一位父親在淘寶上買了某種商品,自殺去世,孤兒寡母來跟我們哭訴,兩個孩子只有9歲和4歲。”幾年前的一次經歷讓客服小曦記憶猶新。彼時她是“緊急風險處置小組”一員,在諸如自殺這樣的不幸事件發生後參與應對。
“但事後應對解決不了根本問題。我們能不能把對自殺的防控做在前面?”這成為“風險處置小組”成員共同討論的新目標。“守護生命”項目組由此在2019年7月正式成立,“我們相信,用互聯網的技術和服務體系,用商業的手法,我們有機會更好地實現公益的目標。”項目負責人武綱説。
武綱相信,多走一步,商業+科技就有解決更多社會問題的機會。
起初的方案是在消費者和商家客服的聊天中設置關鍵詞,出現和自殺相關的詞句就會觸發系統預警。“但這樣每天要命中幾千條,人工審核下來,發現絕大多數和自殺其實沒關係。”最早參與“守護生命項目”的算法工程師荻月回憶,從2019年6月起,她開始構建多模態神經網絡算法模型,嘗試用數據智能來識別自殺風險,“每天預警大幅度減少,再加上人工審核,準確率也明顯上升”。
“我們是從零開始。這既需要數據算法能力,也需要病理學藥理學能力,還需要社會學的關鍵知識。”阿里健康安全團隊負責人厚水説,“我們只能邊測試邊優化邊提高。”
然而自殺干預在任何時候都不會僅限於技術。小曦就遇到過一位才16歲的自殺傾向者,連續幾天的電話後,小曦成功地讓他暫時放棄了輕生的念頭,但這位年輕人堅持不能讓他父母知道。“我是他唯一願意説心事的人,如果我向他父母透露了情況,他和我的信任就斷了,接下來可能更少了一個能幫他的人。”小曦説,“那我該不該尊重他的意願?我們所盡的責任有邊界嗎?”
“這是我做過精確率最低的算法”
“目前的算法模型識別的自殺傾向者,人工核實下來,還是會發現有幾個人其實是算法搞錯了。”荻月介紹説。
“這應該是我們做過的精確率最低的模型。”她説,“但是人命關天,錯多幾個只是我們多花一些精力應對,但漏一個就是漏了一次生命的機會。所以我們的關鍵指標不是精確率,而是覆蓋率,也就是説,是不是有自殺傾向並作出了一些實際行動的人都被我們發現了。”
越來越多類型的判斷維度被加入到算法模型中,複雜程度一天天在上升。例如某位用户和商家客服對話中,第一段話出現了“世界”,第二段話出現了“要走了”,再隔幾段話説“明天太陽幾點升起”,單獨看這些詞句或許都很正常,但串聯起來涵義則全然不同。因此,荻月和她的同事們時不時地要在各種案例中收集整理關於自殺的詞句,“現在應該已經超過了一萬句”,荻月説。
荻月收集的一萬多句關於自殺的文字,用以優化算法。
即便如此,依然有遺漏的案例發生,這讓他們時常感覺“很無力”。“有一種化學制劑,我們看到遺漏的案例才知道,原來它也能用來自殺。”武綱説,“還有一部電視劇提到一種生活常用品可以用來自殺,一下子引發了大量的購買。”
更大的無力感來自所謂“靜默下單”。“如果一位自殺傾向者,購買危險品時沒有留下任何可疑痕跡,我們就幾乎無法識別風險。”荻月説,“我確實很想算法模型能識別出所有的自殺者,但我真的沒辦法。”
國際預防自殺協會與世界衞生組織的一次全球調查顯示,61%的國家已經將自殺看作是一個“不容忽視的公共衞生問題”,並有31%的國家政府採納了綜合性國家策略或者行動計劃。在“守護生命”項目組成員看來,他們就是這樣的全社會綜合體系的一份子。
“如果從平台盡責的工作層面上來看,我們做的事情已經足夠了。”荻月説,“但和自殺傾向者接觸得越多,我們就越意識到,自己做的事情還差得遠。”
“和生活最困難的一面對抗”
今年4月的一個晚上,傾川接到一起平台預警,有一位淘寶用户問商家“這個藥人吃多少會死”。
警察最終在一個公園裏找到了這位男子——四年前他和家裏斷絕了聯繫,但生計無着讓他感覺走投無路了。而正是這次干預行動,讓警方聯絡上了男子的父親。四年來父親一直在找兒子,而四年後的重聚時,男子趴在父親肩頭痛哭,依然像個孩子。
對“守護生命”項目組的成員們來説,那是令人欣慰的時刻之一。然而並不總是如此,今年3月,一位20歲的男生買了木炭。四人小組中的凡崆和他反覆線上聊,線下警察也上門確保男生安全。在之後的五天裏,凡崆始終在觀察,男生每天都上線了,儘管沒有繼續説話聊天,但也沒有再下單購買什麼危險商品,一切看上去都在變好。然而,第六天男生還是選擇了自殺,雖然未遂,但凡崆哭了。
加入“守護生命”項目四個多月,凡崆被用户罵過,還被潑過冷水“你除了安慰我,還能為我做什麼”。
“更多的時候我們必須和生活最困難的那一面對抗,包括我們自己心裏巨大的壓力。”燭熒説。
一位自殺傾向者和客服溝通中説“第一次有人心疼我”。
瑰瑤、傾川、凡崆、夏蘇、小曦,參與項目的團隊平均年齡24歲。過去一年多,他們一面向心理學專家討教,一面相互學習的總結:在互聯網環境下,如何通過文字判斷情緒?長時間停頓意味着什麼,突然不回覆又意味着什麼?聊天第一句説什麼更容易激勵對方?用什麼樣的頭像會更讓對方有安全感……
“我們其實沒什麼所謂‘話術’,一些對話看上去甚至非常生澀。”小曦説,“但是對很多自殺者來説,可能過去一年都沒人跟他們説過一句關心的話了,而我們就算很生澀的一句關心,也能讓他們覺得,原來世界上還有人在心疼他。”
“我們不是救世主,只是努力往前多走一步”
夏蘇加入“守護生命”項目六個月後,她父親終於知道了她的工作內容。“這個社會壓力太多了,確實需要有人組織干預。”她父親在朋友圈寫道,接着又補了一句,“幹這一行,首先自己要陽光。”
“我們不是救世主。”武綱反覆強調這句話,“我們努力往前走一步,再多走一步。”
“被我們勸回來的2528位用户,絕大多數是一時衝動。但與此同時,每天都還有那麼多悲劇在發生,而我們都沒有觸達到。如果我們有這個技術和服務能力,拉他們一把,可能結果就會完全不一樣。”
在“守護生命”項目所識別的自殺傾向者中,19-25歲是高發人羣。“自殺干預需要整個社會體系的力量,年輕人衝動型自殺的預防更是如此。”該團隊的魯毅説。
工作中的客服傾川,他説這份工作讓他每天都更明白“生命的意義”。
事實上,最早加入“生命守護”項目的不止是算法工程師、運營和客服員工,還有眾多商家。“自殺干預的第一步就是‘多問一句’。”武綱介紹説,他們對一些商品類目的商家做培訓,在用户購買商品時,請商家客服多問一句“買了幹啥用”,發現特殊情況,及時通知“守護生命”項目組。
因自殺干預而產生的訂單損失都由平台承擔。然而到目前為止,來平台申請賠付的商家“只有幾例”。
一年前,當用户在淘寶搜索諸如安眠藥等特殊商品時,只會看到寫有“抱歉,搜索的寶貝不存在”字樣的頁面。而現在,這個位置專設了“守護生命計劃”頁面,上面用大號字體標出了24小時免費心理諮詢熱線,並播放着科普視頻。目前,由此撥打熱線的心理諮詢每天超過300通。
“人人心中都有一根天線,對一些人來説,可能接收了太多絕望的信號。”小曦説,“而我們的任務,就是把希望和勇氣的信號發射過去。”