AlphaGo促使大數據與AI崛起,但數據引發的不公與霸權,是新時代的急迫課題;圖/達志影像。
活用海量資料的數據經濟,正在倍數成長。
在這個擁有數據資料,就擁有財富權勢的世界裡,擁有數據並善於開發的人,等於擁有一座座的新科技金山。然而,數據也正在形成新的社會階級,擴大貧富落差。無法跟上這場數據浪潮的人,也會等同於住在虛擬貧民窟。
誠如,1月的英文January這個字,源於古羅馬神祇雅努斯(Janus),這位門神是雙面神,其中一張臉代表善,另一張臉代表惡。
大數據及其應用,正是高科技社會的「新雅努斯」。借用小說家張愛玲的比喻,從誕生的那一刻起,資料科學這副現代文明編織的華美袍子上,就布滿了蝨子。
因此,你該做些什麼,讓自己坐擁金山,而不是置身貧民窟?
這不是危言聳聽,也不是科幻小說情節。事實上,這不僅是目前正在發生的情況,也是未來可預期的趨勢。
數據、機器學習掀巨變,誤用等同毀滅性武器
在美、日、韓出盡風頭的「AI面試」,今年終於在台灣現身:辦公家具龍頭震旦集團的雲端辦公室正式啟用。
這個花費兩年時間,與外部公司共同開發、投資超過1500萬元的AI面試,高竿之處在於能夠分析「微表情」。
想要應徵工作的人,拍下一段自我介紹的影片,上傳到面試App之後,AI會預先整理出人類臉部86次方的特徵,再根據影片中應徵者的微表情,進行數據演算,評測出應徵者的六大人格特質。過程中,面試者和應徵者完全不會見到面。
AI會給出應徵者在情緒穩定性、外向性、經驗開放性、親和性、盡責性、人際溝通技巧的六項得分,做為人資要不要邀請應徵者進一步進行真人面試的參考。
AI面試省麻煩,也得當心黑暗面
「用AI找人可以『三省吾身』,省人省錢省麻煩,」震旦集團雲端事業部副總經理林敬寶笑著比喻說。
AI面試,代表新招募時代的來臨,選才流程縮短,時間大幅減少一半以上。同時,還提供科學性解讀,與人的經驗交叉比對,可以規避人難免會有偏頗的主觀意識。而且,隨著數據愈餵愈多,深度學習會使分數愈來愈精準。
但,人資部門不必擔心自己會因此失業,林敬寶強調,AI提供的報告僅是判斷依據,而不是由AI直接決定要不要聘用。
反倒是人資和面試官,可以從中學會如何利用AI分析報告。比方說,在招募業務行銷的報告中,親和力、外放性,以及人際關係互動的得分,就相對重要。若找的是工程師,或許得思考的,就是盡責性和經驗開放性。
「AI的功能,其實是幫助企業更快速又精準地找到對的人,」林敬寶指出,每一項人格特質都高分的,是完美的聖人,而真正能為企業所用的,並不是這樣的人。
未來的3到5年可以預見,世界各大企業將會全面導入AI履歷篩選與AI面試模擬。然而,若沒有抱持著戒慎恐懼的心面對新趨勢,「新雅努斯」的黑暗面可能就會露臉。
「現在大家擔心的,就是AI變成面試官這件事,」人資小週末專業交流社群創辦人盧世安指出,當AI是決定要不要錄取員工的最後底線,會產生很大的影響,萬一訓練AI的過程出現偏見,工程師可能無意識將自己的價值觀灌輸給AI,結果,「某一種人可能因此永遠沒辦法進入某家公司。」
比台灣更早運用AI面試的南韓,則以另一種形式,展現了對機器的不信任。一些腦筋動得快的補習班開設起專班,教導求職者如何應對AI機器人的面試。
畢竟,所有的科技都有正面與負面的影響,當人工智慧重建入職的方式,或許一不小心就觸碰了科技與人倫的界限。
「數據的利與弊之間,AI的倫理很重要,」工研院產業科技國際策略發展所所長蘇孟宗說,威脅不是來自技術,而是在技術背後,能否經得起人性與商業的侵染。
例如,若交由AI篩選入學學生,取樣的偏誤,或是在設計程式時,把「選擇精英」的偏見放入,而在無意識的情形下,把某些弱勢學生排除掉,「這個就很麻煩,」蘇孟宗說。
《大數據的傲慢與偏見》一書中,作者凱西.歐尼爾(Cathy O'Neil)曾是位「圈內數學家」,浸淫資料科學多年。最後導致她出言警告與揭發:「不當的數據應用,是安靜的恐怖主義,數學模型若被誤用,可能成為毀滅性的武器。」
如此揭開「大數據的黑暗面」,絕非恫嚇,至少在以人工智慧測量個人信用評級的領域,的確每個人都身陷風險。
靠數據評分,階級流動更困難
數據的弱勢者容易成為被剝削的對象,有人可能是「數據小白」,不容易累積數據信用。有人可能因為數據分類偏誤,而被打入數據應用的冷宮。
AI的黑盒子,光是想就令人害怕。數據若變成最重要的分層標準,財富與聲望都依附著信用評等,當數據形成新的社會階級,善用數據的人擁有晉級機會,反之只能沉淪。
「被機器評分的人生」,在中國大陸的芝麻信用分就發揮得淋漓盡致。支付系統針對用戶的信用程度劃分五等級,芝麻信用分在600分以上,便能輕鬆貸款;若在750分以上,無需財力證明,便可申請新加坡簽證。如此有力的「身分象徵」,一度導致中國大陸女性的擇偶標準,加入了「芝麻信用分700分以上,其他非誠勿擾」這一條。
針對日本企業推出J.Score等虛擬貨幣融資貸款,慶應大學教授山本龍彥(Tatsuhiko Yamamoto)則提出了「虛擬貧民窟」的警告,運用AI分析個人的大量數據,並藉以評分可信度的機制,若廣泛傳播將可能產生「虛擬貧民窟」。
山本龍彥指出,以積分高低對個人進行分類,可能引起差別對待,否定了日本憲法第13條的尊重個人原則。
2030年,5.4億人陷「數位貧困」
而且在未來,虛擬貧民窟的規模似乎還不小。
德勤日本《人工智慧時代的新貧困》這份報告中試算,到了2030年,G20國家將產生最多達5.4億人的虛擬貧民窟,亦即15到64歲的勞動年齡人口中,每6個人就有1個人將陷入「數位貧困」。
虛擬貧民窟現象,或許尚未發生在台灣,但數據高速運轉無國界,未來已來。
擁有駭客等級的程式能力、當遍電子十哥軟體顧問的陳俊宏,在新加坡註冊成立基金會Flowchain。儘管他這兩、三年來,一直在兩岸、東南亞做大數據產品,卻也不停在思考和觀察AI可能引發的階級不公平。
「我覺得自己的工作效率,是一般人的10倍、20倍,甚至百倍,」陳俊宏說,原因是很會寫程式的他,建了一個AI系統幫忙收集整理資訊,一般人一天沒法看一千、兩千篇新聞,他卻靠AI輕鬆辦到。
AI賦予個人很高的生產力,所以,個人的競爭力隨之變得很強。具備AI能力的人,職涯發展通常比一般人更順利一點。「這就是一種不公平,」陳俊宏語帶無奈:「但時勢造英雄,我們改變不了這個事實。」
數據煉金路上的不公平,衍生出新的贏家和輸家。而類似這樣的情形,也可能發生在中小企業的身上。
無法像互聯網巨頭,豪擲巨資建置數據中心,負擔不起龐大算力的中小企業,自然而然在競爭上處於劣勢。於是,數據霸權崛起,唯有少數的科技大咖公司,才是真正「得數據者得天下」。
數據霸權崛起,攸關國際競爭力
AI拉大不平等的差距,不只導致個人與企業有高下之別,還會延伸影響到國家競爭力。
將過去數年AI發展得最好的國家進行排名,陳俊宏認為,領先的是中國大陸,其次美國,再來是以色列,這些國家的共同點,都是從小學就投入AI教育。反觀台灣,直到去年才在某些高中開設AI課程,「腳步太慢,課程也不夠全面。」
準確來說,大數據成為網路、電視和報章雜誌的熱門詞彙,也不過是近六年的事。
若簡單定義AI等於大數據加演算法,2016年以深度學習開發的圍棋程式AlphaGo首度擊敗人類棋王,促使了產業巨頭、年輕創業家和民間資本紛紛加入大數據大軍。在台灣,更與物聯網連結,成為商業界的最大時尚與潮流。
根據工研院IEK最新的測算,台灣資料服務產業的產值,將從2019年的934億元,成長到2022年的1262億元,而且市場規模的成長率將超過35%。
再細數台灣市值前五大公司,台積電、鴻海、中華電、台塑化、聯發科,其實,每一個都是「數據大戶」。
愈來愈多企業利用數據的力量,轉化為商業行銷利器,進行數位轉型。愈來愈多公部門也不落人後,努力挖掘數據金礦,優化政府治理。
比如圍堵新冠疫情的數據防疫。中華電信業務執行副總經理馬宏燦分享,發給居家檢疫隔離者的防疫手機,追蹤鑽石公主號外籍乘客造訪的景點,還有口罩2.0等,隱形的大數據和程式碼都發揮著作用。
「很多系統要串在一起,很多資料也要串在一起,」馬宏燦說,才能做出很多不同的應用。
過往許多開發中國家得以經濟起飛,靠的是人口紅利。如今,新的發展動能將切換成「數據紅利」,收集海量資料整合提煉,全方位開發出數據的價值。
「數據大戶」台灣大哥大,擁有720萬餘活躍手機用戶,日產上千億個資料點。今年第一季疫情期間,是電信三雄中唯一營收跟獲利都仍有成長的公司,台灣大哥大總經理林之晨認為,主因是基於數據及集團內平台跟平台之間的合作,串出了各式各樣多贏的合作方式。
企業缺乏數據DNA,10年內將被淘汰
「與其說公司有數據紅利,不如說公司有平台紅利,」林之晨舉例,台灣大基於數據的第一個發現是,行動上網最頻繁的時段,是在家的晚上10到12點,然而,家中較深的地方離基地台較遠,網路訊號不佳,於是台灣大聯合凱擘大寬頻合作,祭出把行動光纖兩者捆綁於一的「好速成双專案」。
購買這項服務的用戶還可獲得機上盒,對台灣大來說,數位電視收集到的收視數據,給了他們第二個發現:用戶偏好驚悚片。於是,在今年推出的自製劇中,便有一齣《76號恐怖書店恐懼罐頭》,推出後很受歡迎。
如此的一環扣一環,行銷層次不斷深化,同時串連起各個平台,因而造就出數據紅利。
增值數據釋放紅利,林之晨認為,未來任何公司都必須是大數據公司,必須要充分掌握自己公司的數據,能夠從公司的數據,去做各種判斷,「不能這樣做的公司,在未來十年的過程中,一定都會被淘汰掉。」
金山貧民或數據精英?創新科技仰賴監理沙盒
面對數據時代,你不能成為坐在金山上的貧民!
問題是,你準備好了嗎?
強大的科技,通常會導致權力與金錢的集中。某些個人、企業與國家,透過大數據和演算法,一躍成為掌握大量資源和權力的「數據精英」,躋身新統治階層。
而且,這種新財富不見得會重新分配。美好的數據紅利,並未讓所有人共享,虛擬貧民窟裡住著數位貧民。
監理沙盒,或許是消除虛擬貧民窟辦法之一。
「監理沙盒的重點是accountability(問責制),給出交代,」行政院政務委員唐鳳說,將一項創新科技在實驗期內,將風險係數、個資保護、資安等資訊都公諸於眾,提供檢視公開討論。
與傳統作法不一樣的地方,若會造成某些「不利益」,新的演算法必須能給出交代,說明起因是否因為歧視或偏見。
「如果給得出交代,這個實驗才繼續,」唐鳳說,如果給不出交代,就表示這項創新與社會常規相違背,「對不起,實驗就終止了,我們感謝投資者付了學費。」
數據不會消失,也不必把AI信用評等視為洪水猛獸,要做的是攜手規管這些「數學毀滅性武器」,馴服它們,讓它們能夠被稽核,並消除它們在侵犯人權與個人意志上的殺傷力。
更多相關報導及精彩內容,請參閱遠見雜誌。
採訪撰文/邱莉燕
錄音轉述/陳雨新