任貝佳? 何苑
【內(nèi)容摘要】算法在給人們帶來便利的同時，其誘發(fā)的諸多風險挑戰(zhàn)也引起各界擔憂?！八惴ㄋ仞B(yǎng)”概念在此背景下應(yīng)運而生，旨在促進用戶捍衛(wèi)自身自主選擇權(quán)，抵御算法的負面影響。本文對“算法素養(yǎng)”進行了研究分析，并就未來的算法素養(yǎng)教育實踐提出建議。
【關(guān)鍵詞】算法素養(yǎng)；算法知識；算法意識；數(shù)字鴻溝；內(nèi)容生產(chǎn)
當前算法在社會生活的各個方面扮演著愈加重要的角色，人們幾乎每天都會使用算法平臺，接觸經(jīng)算法篩選、過濾后的信息，并可能不加懷疑地接受，而基于算法的內(nèi)容自動生成技術(shù)也越來越為大眾所熟知。2022 年 11 月，美國人工智能研究公司 OpenAI發(fā)布了人工智能聊天機器人 ChatGPT，它不僅能通過對話的方式解答諸如“世界上面積最大的洲”等較為常規(guī)的問題，甚至能以及格分數(shù)通過大學考試。這一技術(shù)在引起人們廣泛關(guān)注的同時，其可能帶來的不良后果（如虛假信息、虛假新聞等）也引發(fā)人們擔憂。毋庸置疑，如今算法已不僅僅是一種技術(shù)工具，而是成為改變并形塑社會文化，影響個體認知與行為的一項人類生活基礎(chǔ)設(shè)施。對于算法引起的諸多問題，眾多學者對其進行了反思與批判。在這些研究當中，一些學者從用戶的主體能動性出發(fā)，提出“算法素養(yǎng)”（Algorithm literacy）概念，并認為其可能成為促使用戶捍衛(wèi)自身的自主選擇權(quán)、抵御算法負面影響的關(guān)鍵因素。近年來，圍繞“算法素養(yǎng)”展開的研究日益豐富，出現(xiàn)了許多不同的“算法素養(yǎng)”定義。同時，由于算法應(yīng)用場景等的多樣性，以及語境、文化等的差異性，學者研究的問題類型不盡相同，出現(xiàn)了許多研究視角。因此，本文旨在歸納分析現(xiàn)有的與“算法素養(yǎng)”相關(guān)的定義及研究，并在當前研究結(jié)果的基礎(chǔ)上為未來研究提供參考。為實現(xiàn)這一目的，作者進行了中英文文獻的檢索收集：中文文獻通過在中國知網(wǎng)的主題欄搜索“算法素養(yǎng)”“算法知識”及“算法意識”3 個關(guān)鍵詞篩選得到，英文文獻通過在Google Scholar 搜索“Algorithm(ic) literacy”“Algorithmicknowledge”“Algorithm awareness”3 個關(guān)鍵詞搜集而來，作者在此基礎(chǔ)上按照研究目的對文獻進行了篩選。本文將首先分析算法素養(yǎng)研究的重要性，在對算法素養(yǎng)進行定義后總結(jié)現(xiàn)有研究成果，最后針對“如何提升算法素養(yǎng)教育”這一問題提出自己的觀點。
一、算法技術(shù)的積極應(yīng)用及社會面臨的挑戰(zhàn)
算法是為解決特定問題及任務(wù)（如數(shù)據(jù)處理、自動推理等）而被定義的一套指令，通常由計算機程序執(zhí)行。從電子郵件的發(fā)送到 GPS 定位技術(shù)都需要通過算法實現(xiàn)。隨著大數(shù)據(jù)和人工智能的發(fā)展，算法普遍滲透到消費、醫(yī)療、教育、傳媒等領(lǐng)域。如推薦算法在電商平臺的應(yīng)用，Google、百度等搜索引擎對結(jié)果的排名，F(xiàn)acebook、微博等社交媒體平臺的“熱點趨勢”等。對于互聯(lián)網(wǎng)用戶而言，網(wǎng)絡(luò)技術(shù)的飛速發(fā)展帶來了信息過載危機，算法機制對信息的整合、篩選，讓用戶能夠更高效地找到自己所需的信息。對于平臺而言，算法能夠分析數(shù)量龐大的用戶數(shù)據(jù)，匹配用戶與信息，提高用戶黏度，從而實現(xiàn)其盈利目標。如新聞資訊平臺今日頭條能將百億信息與上億用戶進行匹配。
算法的發(fā)展提升了各行業(yè)的工作效率，并帶來全新的機遇。然而，算法在給人們帶來便利的同時，其誘發(fā)的諸多風險挑戰(zhàn)也引起各界擔憂。首先，算法模型存在局限性。雖然算法在運算能力等方面顯著超越人類，但算法模型訓練過程中的各個環(huán)節(jié)都可能存在局限，而這將帶來不良后果。如當用于機器學習環(huán)節(jié)的數(shù)據(jù)庫缺乏代表性及多樣性時，最終由人工智能機器人輸出的結(jié)果也會存在偏差，如價值觀偏向。Hartmann 等人在對 ChatGPT 的政治言論進行研究后發(fā)現(xiàn)其存在一定的政治偏向。其次，算法技術(shù)“向善”與否，與使用者的意圖息息相關(guān)。如微軟公司于2016 年發(fā)布的人工智能聊天機器人“Tay”在與社交媒體用戶互動的幾小時內(nèi)，逐漸習得種族歧視、性別歧視等類型的偏激言論。除審核機制設(shè)計存在缺陷外，這也與部分用戶有意為之有關(guān)。當前算法的所有權(quán)主要被科技公司掌控，其所追逐的商業(yè)利益常常與公共利益相沖突。在科技公司的操縱下，算法機制可能會變得更加不透明，這將導(dǎo)致用戶逐漸失去決策自主權(quán)。近年來受到廣泛關(guān)注的數(shù)字勞工現(xiàn)象便深刻反映了這一問題。在這些顯性問題之下，體現(xiàn)在用戶認知及行為方面的隱性問題同樣令人擔憂。如有研究者認為算法會導(dǎo)致“過濾泡”問題，在潛移默化中用戶的視野將變得更加狹窄，不同群體間的偏見及不理解將得到深化。算法不僅影響著普通用戶，新聞生產(chǎn)中算法技術(shù)的應(yīng)用也引發(fā)了新聞從業(yè)者對于職業(yè)倫理的反思......（本文為文章截選，完整版請見《教育傳媒研究》2023年第5期，本刊已入中國知網(wǎng)、萬方、維普等相關(guān)學術(shù)數(shù)據(jù)庫）
本文系 2022 年度國家社科基金一般項目“技術(shù)現(xiàn)象學視角下智能算法嵌入社會與治理研究”（項目編號：22BSH001）的階段性成果。
作者任貝佳系河北大學新聞傳播學院 2021 級碩士研究生；何苑系河北大學新聞傳播學院副教授、碩士生導(dǎo)師，河北省城市傳播研究院研究員
