在技術與道德的天秤上,算法如何找到平衡點
隨著大數據、人工智能的廣泛應用,一些商業網站、移動新聞客戶端,包括直播平臺、瀏覽器、搜索引擎、影音軟件等,都在運用算法這個“讀心術”,為用戶量身打造信息,創造出一種新的個性化閱讀體驗,信息獲取已經從“大海撈針”進入“私人定制”模式。然而,技術往往是一把冷冰冰的雙刃劍,在價值和利益的天平上,所謂的算法成為了利益的砝碼,一切圍著流量轉,唯點擊量、轉發量馬首是瞻,“標題黨”泛濫,價值取向跑偏,內容淪為附庸。
2017年12月29日,北京市互聯網信息辦公室曾針對今日頭條、鳳凰新聞手機客戶端持續傳播色情低俗信息、違規提供互聯網新聞信息服務等問題,分別約談兩家企業負責人,責令企業立即停止違法行為。
兩天之后,今日頭條平臺宣布關閉社會頻道,將新時代頻道設置為默認頻道。同時,今日頭條集中清理了涉嫌違規的含低質內容的自媒體賬號,共封禁、禁言賬號1101個。同時,2017年 12月29日18時至12月30日18時,今日頭條手機客戶端的“推薦”、“熱點”、“社會”、“ 圖片 ”、“問答”、“財經”等六個頻道還暫停更新24小時。
這一力度不可謂不大,也是聚合型新聞APP史上第一次遭到封禁。公開數據顯示,截止到2016年7月,今日頭條累計激活用戶數達5.3億,人均日使用時間超過70分鐘。
相比人工推薦,智能算法推薦投入產出比更高、覆蓋面更廣、個性化程度更高,但風險把控能力相對較低。
我國人工智能仍然處于初級應用階段,以最為廣泛的語音解析為例,在記錄對話時,人工智能可能與人類一樣準確,但它無法辨別出諷刺、笑話或理解上百萬種其他文化背景,而即使是最普通的信息,理解文化背景也至關重要。
通過人工智能識別內容最大的難點在于攻克語義的復雜性,涉及到對邏輯推理和因果關系的上下文分析。人工智能可以鑒別色情內容,但在區別色情、性感、藝術等照片上還存在很大難度。
因此,作為新聞客戶端起家的今日頭條,在信息分發的同時,還涉及到價值體系和新聞把關。
互聯網公司唯“流量”是問已經是當前存在的普遍問題,企業技術創新的邊界應該是承擔起更多的社會責任。
企業想盈利無可厚非,可怎么盈利卻有天壤之別。以優質文化產品取勝,這是健康的產業模式,而把低俗內容兜售給消費者,這是不負責任的行為。算法推薦賺取巨大流量紅利的同時,是否應該反思這種創新能給社會帶來怎樣的進步。如果新的媒體平臺,只是為了讓低俗化、媚俗化、娛樂化的信息更加便捷傳播,降低人的思考能力和審美水平,這樣的媒介形態和產品創新必將在社會發展中被淘汰。
整改和處罰只是手段,按照中央要求,營造清朗、干凈、健康的網絡空間,才是管理者和經營者的共同責任和目標。糾正算法推薦的弊端,治理低俗內容傾向,從根本上改變不顧導向的所謂算法推薦,管理部門在關注,網民更有期待。