科技前瞻

翻譯／林千慈 中心兼任助理；審校／郭映庭 中心助理研究員

　　奧地利應用系統分析研究院、斯德哥爾摩韌性研究中心、聯合國永續發展研究網絡等三個知名永續發展領域的研究機構，於去（2018）年7 月聯合國SDG高階政策論壇舉辦期間發表了「想像2050」（The World in 2050, TWI2050）研究計畫，並出版「落實永續發展目標的關鍵轉型」（《Transformations to achieve the Sustainable Development Goals》）建議，呼籲全球應以聯合國 《2030 永續發展議程》為基礎，即刻展開關鍵轉型行動。今（2019）年再以《數位革命與永續發展：機會與挑戰》（《The Digital Revolution and Sustainable Development: Opportunities and Challenges》）為題，探討六大關鍵轉型面向如何藉由數位工具加速落實。報告重點如下：

　　人類的困境是要在穩定地球系統的安全、公正的運行空間下（a safe and just operating space)，實現全體永續的未來。社會之間及社會內部存在著嚴重的不平等，數億人未能享有發展的成果，且有大量證據顯示，全球的風險提高是源自地球上增長的人為壓力。為了確保全體的未來永續性，在改善人類福祉的社經發展時，也需要將地球系統韌性維持在地球限度（planetary boundaries）之內（Rockström et al., 2009; Steffen et al., 2015; TWI2050, 2018 )。

　　2015年，聯合國通過《2030永續發展議程》（UN, 2015a )，它提供了2030年前具雄心壯志的敘事及行動議程。此議程包含了17項永續發展目標（Sustainable Development Goals, SDGs）和169項實現人類發展未來期望的指標（targets）。其具體指出廣泛、有時限，與國家間和公民社會在全面研議時常量化的目標。世界發展議程首次將土地、海洋、淡水、生物多樣性和氣候等全球環境指標，並重納入全體社經發展的宏大目標，從而達到全球公域的保護（Nakicenovic et al., 2016 )。議程的本質是以重新定義永續發展路線圖的形式，作為人類和地球的待辦目標—一個在地球限度內的繁榮、公平世界。連同2015年的《巴黎協定》（Paris Agreement）中（UNFCCC, 2015），承諾所有締約方要將全球暖化控制在與前工業時代相比，最多2℃內，如果可能則低於攝氏1.5℃的長期目標， 以及2015「阿迪斯阿貝巴行動議程」（2015 Addis Ababa Action Agenda）（UN, 2015b），《2030永續發展議程》肯認了在有韌性的氣候及其他地球系統的安全運作空間內，必須有足夠資金才能達到包容且公平的社會、經濟與科技發展。

　　數位革命，包含了虛擬實境（virtual reality, VR）和擴增實境（augmented reality, AR）、3D列印（或譯增材製造，additive manufacturing, AM）、（通用的）人工智慧（artificial intelligence, AI）、深度學習、機器人學、大數據、物聯網（Internet of Things, IoT）和自動決策系統，在許多國家已進入公共辯論階段。回顧過往，幾乎難以相信《2030永續發展議程》^[註1]或《巴黎協定》鮮少提及數位化。顯而易見的是，數位變遷（digital changes）正成為社會轉型的關鍵驅動力（Domingos, 2015; Schwab, 2016; Tegmark, 2017; Craglia et al, 2018 )。邁向永續的轉型必須調和其威脅、機會、數位革命的動力，與《2030永續發展議程》、《巴黎協定》的目標（WBGU, 2018; Villani, 2018; TWI2050, 2018 )。同時，數位轉型會徹底改變全球社會與經濟的所有面向，因而改變永續性本身的典範詮釋。數位化不只是解決永續性挑戰的一種「工具」，它也是具破壞性、多尺度變化的重要驅動力。數位化時代可以三個主要動力為特點，如圖1所示。

 

 

　　在此，我們會概述有關數位和永續發展革命－正反情況皆有－的九大關鍵因素，以及為了永續未來的重要問題，也需要因應數位化，使其帶來最大的機會與最小的風險。

1. 從人類歷史觀點看數位化—新時代正在興起。

　　人類是25萬年前出現的年輕物種。7萬年前，當虛擬的複雜語言出現時，我們經歷了第一次的認知革命。複雜的語言讓我們不同於其他所有物種，它協助我們學習、累積交流所得來的知識，並結合了我們自身對世界的認知，以及其他許多人的觀點。這項革命引起了前所未有的能量，來積累知識、學習、發展共同意向性（shared intentionalities），並建立高度複雜的社會系統—從石器時代的小群體，到約5,000年前的第一批大城市，再到現今我們所生活的全球經濟、科技及社會系統。語言、傳播、認知與合作的能力是人在文化演化（cultural evolution）的起點（Messner and Weinlich, 2016 )。

　　知識與智慧的累積是人類重要的共同資產，且可以確實持續更新。過去的1萬年間，人們經歷了兩個重要的文明階段。（第一次）始於最後的冰河期結束（約1萬年前）的全新世（Holecene），其特徵是一段連續溫暖年代、相對平穩的狀態和穩定的氣候。在此時期，新石器時代革命帶來作物種植和動物馴化，繼而形成聚落、第一個小規模社會與早期文明的出現。

　　200年前，工業革命透過知識爆炸性的積累徹底改變了人類。支援機械（machine-supported）的發明和省力活動提高了手工業技巧和生產力，技術創新像是使用石油、蒸汽機、鋼鐵及機械化，帶來了百倍的產能增長。工業革命造成連結全球的經濟制度、新興的全球社會、全球網絡式的基礎建設和移動力、大量增加的生產力，並對世界上的部分人口—創造可觀的財富。同時，工業革命也造成不平等的分配模式，地球系統的嚴重變化也對人類文明造成真實威脅。人們引起環境狀態相當急速遽烈的變化，威脅了曾適宜人們發展的全新世環境。這個在地球史上的新時代被稱之為人類世（Anthropocene）（Crutzen and Stroemer, 2000 )。

　　1950年代開始的數位革命正急遽地加速成長，意味著第三次文明革命的到來。數位化是一個跨尺度的經濟、社會和文化連結，結合真實和虛擬情況的強大乘數。更重要的是，創造出強化人類感知，具認知能力的技術系統（例如人工智慧和深度學習）的特性，至少在某些功能領域裡，最終將補足、或許甚至會取代或最後遠勝人類的認知能力。最近已出現一個受到「生物啟發的深度神經網路」，不需要寫特定程式就能自發地做到這些事，而這只是用來訓練視覺上的物體辨識而已。這項成果顯現出了如「韋伯—費希納定理」（Weber-Fechner law）預測出，人類和動物編碼識別能力的所有特性（Nasr et al., 2019 )。

　　在這個剛被建置起的的數位化時代，或許我們該稱其為「數位人類世」（WBGU, 2019 )，永續轉型需要被推展、履行及反思。哪些關鍵要素能描述這些機會、波動和挑戰？人類如何使「數位人類世」成為對整體永續的時代呢？

2. 數位技術可促進朝向永續人類世的破壞式革命。

　　先前的TWI2050報告和許多研究（Acatech, 2015, 2016; TWI2050, 2018）指出，數位技術能以前所未有、更快的速度（做為推手）幫助各部門（如能源、交通及工業）的去碳化，並促進循環經濟和共享經濟、非物質化、資源與能源的效率充足、生態和其他地球系統的監測與保育、全球公域的保護以及永續作為。但這並不是個必然隨之發生的過程，也不會自行發生。事實上，到目前為止，情況恰好相反：近數十年的數位轉型不只延續、甚至引起資源和密集溫室氣體的成長模式。科技尚未被驅動要往永續方向轉型。因此，需要徹底扭轉當前趨勢，以減少數位化的破壞式潛力，並創造邁向永續的途徑。TWI2050 報告（2018）（見補充知識1）強調了需要實踐六大關鍵轉變（圖2），達成17項永續發展目標及全體長期的永續性：（1）人才及人口變化；（2）消費與生產；（3）去碳化及能源；（4）食物、生物圈與水資源；（5）智慧城市，以及（6）數位革命（請參閱第1節）。

　　由於許多邁向永續發展的轉變需要很長時間才能完成，SDGs應該被視為2050年及其日後實現永續發展的中點。現在亟需有相對應的管理政策、獎勵計畫以及價值觀轉變，而目前僅存在於少數部門和幾個國家。為了實現這六大關鍵轉變，我們提出了可以連結數位動力和永續策略的六大重要機制：

1. 在科學、研究和研發社群中創造永續數位化的視角，改變創新的願景和模式；
2. 制定適當價格來驅動市場力量，例如透過碳定價和生態稅改革，來激勵數位創新行動，以支持永續的解決方案；
3. 運用數位化來具體化和制定轉型路線圖，包括更明確地界定能源、交通、土地利用系統、城市和工業部門的目標和里程碑，幫助市場及規劃進程轉往更永續的方向；
4. 從國家層級投資數位現代化計畫，大規模增加公立機構中的數位知識，藉以建立數位人類世的治理能力；
5. 透過支持和擴大與數位研究社群的強大網絡，建立具有變革性的永續研究；以及
6. 建立與私部門、公民社會、科學和國家的對話機制，共同探討發展數位人類世的制度、社會和規範保障。

3. 治理的迫切需要—數位化的破壞性動力正在挑戰我們的社會吸收能力，這可能會加劇本已令人不安的侵蝕社會團結趨勢。

　　如果沒有適當地形塑，並相互協調《2030永續發展議程》的17項永續發展目標與相關的六大關鍵轉變，數位化可能會擴大許多社會中本就存在的問題。我們看到了四個主要挑戰或「滑坡」：

1. 不平等現象（例如在勞動力市場、教育系統和國際層面的勞動分工）和社會內部的耗散力量（dissipative forces）可能會進一步加劇；
2. 經濟，以及由此延伸到政治、權力可能變得更加集中（例如要考量「五巨頭」—亞馬遜（Amazon）、蘋果（Apple）、臉書（Facebook）、谷歌（Google）、微軟（Microsoft）對數位轉型的重要意義）；
3. 可能進一步限制數據主權和公民權利，增加對公民和消費者（「社會評分」）的監控，特別是在專制社會和不負責任的公司；
4. 可能進一步削弱公共組織的治理能力，舉例來說，由於龐大的數位業務已經非常難管控，特別是在大多數政府和公立機構的數位知識依舊十分有限的情況下，虛擬環境中（的管控）幾乎是不可能。

 

 

 

　　同時，數位化也能協助處理這四個滑坡。然而，世界上成功塑造及治理數位化進程的情形很罕見。關鍵在於，在沒有新的治理體系及政策時，當前的數位化型態能否經得起社會的轉向。科技的加速發展同樣會對全體公民、制度和政府造成威脅。

4. 數位革命開啟了人類文明重大突破的大門—後2030永續發展議程時代已經開始。

　　發展路徑將面臨不確定性、深度和數位驅動的社經重組，鎖定期（lock-ins）在下個十年間出現。決策者、研究者、企業和民間社會行動者必須加強努力，去理解和解釋數位變遷的多重影響、預料深遠的結構性變化，使其創造出塑造數位化進程的基礎，並使之朝永續轉型發展。數位的破壞性正將我們鎖在新的經濟、社會與文化現實和挑戰中。虛擬實境、人工智慧、深度學習、大數據以及愈來愈多用於規劃與營造情境過程的活動，改善我們在複雜的社會生態系統中理解決策意涵的認知能力。這些是支持轉型過程的有力工具。

　　基於機器學習和通用人工智慧的自主技術和決策系統，會在不久的將來從根本上改變社會與經濟的各個領域（Acatech, 2015; Barrat, 2013; Brynjolfsson & McAfee, 2014; Schwab, 2016; Bughin et al., 2017; Tegmark, 2017; Villani, 2018, DiPLo, 2019）。以人工智慧為基礎的設備和機器將引領生產過程、交通和資金流動，在醫學診療上帶來改革、改變保險公司決策方式、針對個人和團體行為進行預測（Domingos, 2015），並提供議會和政府可用的決策依據。自從智人出現，人類智慧在演化上就沒有競爭對手了。現在則正被至少在某些領域遠勝人類分析能力的人工智慧所輔助。以永續的人類發展為目標，連結人類和人工智慧並創造「有意義的人工智慧」（Villani, 2018）將是人類在21世紀前半葉的一項重大任務。未來數十年將以大量的數位式驅動力、深刻結構變遷和與之相關的不確定性為特徵。

　　永續性的路徑需要在深度社會轉型，和高度不確定性之脈絡下被發展、形塑及治理。提出準確問題非常重要。面對連結（全球）與自組技術性基礎設施，我們如何減少這些錯誤率的攀升，使其更可靠？法律體系及制度如何與加速變化的科技保持同步？如何讓公民和政府理解，私人投資對自我學習技術系統及虛擬環境發展有意料之外的影響，並讓這些影響與我們的標準系統相互適應及形塑？如何在不要遺落任何一人的原則（the principle of leaving no one behind）下，透過自動化技術實現繁榮？技術革命對最貧窮的發展中國家有哪些影響（Tegmark, 2017）？甚至存在更深遠的問題：運用科技來改變、改善和影響人們認知、身心能力的界線何在？討論人為、人體增強技術（human enhancement）（WBGU, 2019）和自動化系統（例如IEEE的《自主式智能系統倫理準則全球倡議書》）^[註2]轉型時，應建立怎麼樣的倫理防線？智慧機器能比人們更好地管理哪些任務（Gluckmann and Kristiann, 2018）？人類判斷應該在哪些情況下，又如何發揮作用？機器學習將如何改變（民主）人類的決策？我們該如何避免設計出可能被有力行為者濫用，對人類行為具有潛在支配力的數位、自組織系統及網路（self-organizing systems and networks）（Renn, 2019; WBGU, 2019）？這些與之相關的問題仍是未知領域，未在《2030永續發展議程》中說明；然而，它們闡明了建立永續全球社會的脈絡下，有關數位轉型在進展性任務（formative tasks）的重要性。

　　根據對數位動力的全面評估，德國全球變遷諮詢委員會（WBGU, 2019）指出與上述四個滑坡相關的七個主要數位臨界點。這些臨界點反映了我們當前社會的特徵，也考量了下個10至30年間經濟、社會、政治和文化體系的數位驅動力和深層結構，並發現其可能破壞社會穩定的發展：

1. 超出地球限度，以數位驅動為基礎的資源和排放密集的成長模式沒有為邁向更永續而提供政治保障，而引爆了地球系統的臨界點；
2. 剝奪個人權力，包括隱私和公民權、對人民全面數位監測，以及被數位賦權（digitally empowered）下獨裁或極權主義的根本威脅；
3. 規範化和制度化的自動決策系統削弱了民主和包容性，這些系統已用於越來越多的領域，特別是已經數位化的私部門；
4. 私人企業在全國、洲際甚至全球性的主導地位，破壞了民主控制，並進一步受到基於數據的權力集中化所驅動；
5. 全面自動化對勞動市場的干擾—人們擔心勞動需求正逐漸和經濟情勢變化脫鉤；
6. 全球社會的深層分化主要由跨國菁英發動的數位機會所造成；以及
7. 失控的人類增強技術（human-enhancement）或人為演變方式將帶來人類的鉅變。

5. 數位人類世的矛盾：數位化正在創造邁向永續的六大關鍵轉變之先決條件，卻同時也在危害它們。

　　除了數位人類世的不確定性以及可能的社會臨界點，還有無法預期的數位機會及關鍵變數能促進永續轉型。首先，現在有望在技術上，實現線性經濟到循環經濟的轉型。我們可以將創造財富與消耗資源、排碳和生態系統退化脫鉤。全面監測地球的做法將逐漸可行，且能助於保育及養護全球生態系統。

　　第二，只要設計合適的數位化進程和相關科技（如新複合材料、奈米技術、奈米生物技術、基因工程、合成生物學、仿生學、量子計算、3D列印以及人類增強技術（human-enhancement）），知識突破和爆炸會為人類帶來空前的新潛力。人工智慧、深度學習和大數據將改變科學，為人類文明的下個階段敞開新大門。虛擬存取有關人類和地球最先進的全球知識，可以為所有人實現公平、公正且安全的未來。

　　第三，數位動力能促進文化、制度和行為創新。跨國的傳播網絡有助於建立全球網絡型社會、跨國治理機制、全球共有財觀點、全球合作的文化和跨國認同，也可能創造新的（次）文化。虛擬網路中來自世界各地的人們，可能會改善我們對文化多樣性的理解。虛擬實境能讓人類不需長途跋涉，即可「造訪」、了解、享受以及「感受」全球的生態系統。同時，透過數位投票程序，促進民主發展機制的新選擇也正迅速擴展，包括線上查核當地決策是否涉及，與轉型和改革偏好有關、實際但重要的治理問題（Ekenberg et al., 2017）。這些新興創見表現出人類新時代的潛在正向性。

　　從人工智慧的角度來看，印刷機對啟蒙運動、科學研究、民主和工業革命而言，似乎是人類發展邁向創新的一小步。或許我們會看到一種新的啟蒙運動，結合人工智慧及有同理心、意向性的人類智慧，與社會智慧的結果是什麼？我們如何在避免加速的科技變革失控的巨大風險下，利用數位化潛力和相關的新知識財富，應對21世紀人類的重大挑戰？這些問題清楚表達出，我們的教育體系和全球知識轉移亟需根本性的轉型。

6. 人類增強技術（human-enhancement）和增進技術（augmentation）將使智人轉變為數位人（Homo digitalis）—我們物種的不確定未來。

　　數位技術和匯流必定增強及增進人類的機能和認知能力。上個世紀的人類機能已有大幅改善，醫療健康、競技運動和知識方面都取得了前所未有的成就。人的壽命在上個世紀間已成倍增長，透過數位的增強和增進或許會更無限延長。人造器官和義肢的使用也將開始經歷重大突破，像是外骨骼強化和人體機能增進的全新改良。

　　主要的挑戰無疑會是認知上的強化。網路和行動裝置已大大提升我們的認知能力，構成一種外部的記憶和知識存託地。當然，從根本上，未來可能會提高虛擬情況取代現實的濫用和散播危險性。失去隱私權及對數據和人格的控制已然是個挑戰，萬一未來有新的仿生或人類增強系統落入不法之手，或開始進化到不為世人所控制，可能對民主國家和思想自由的人們構成偌大威脅。這種失控及社會轉向的不可行性興許是數位人類世的最大危機。

　　儘管如此，數位化提供了極佳的可能性，使人擺脫身體勞動，增進及增強認知與體能。機器製造機器（machines making machines）的古老科幻願景已經成真，但機械被用來操控，而非增強及增進人類才是真正的危險所在。未來有無限可能，改變的方向卻不明朗。因此邁向永續人類世的路上，啟動改變與新機遇成為首要之務。

7. 理解並克服創新突破的「停滯時刻」（WBGU, 2019）。

　　歷史上的大規模、根本性以及破壞式科技創新，在社會學習去激發福利潛能（welfare potential）前，時常造成社經動盪，甚至危機、反彈或衝突（TWI2050, 2018）。

　　同樣，印刷機（1452年到1456年間出版了《古騰堡聖經》，又稱《四十二行聖經》，標誌著印刷機的發明）顯然是啟蒙時代、科學發明出現以及工業化的重要前提；然而，廣發印製的小冊子卻種下了仇恨，為歐洲災難性的「三十年戰爭」鋪路。工業化有機會為許多人創造未知財富，卻在興起時造成大規模的剝削、社會衝突與階級鬥爭，直到（儘管是在兩次世界大戰之後）工業和市場機制被植入民主制度結構及福利國家機制，才幫助人民和族群（主要在西方國家）激發工業化的福利潛能。不過，即使民主福利國家解決了過去的社會和權力挑戰，卻也創造了新的空前危機。伴隨大量工業加速化，我們迎來超越了地球承載極限而逼近地球生態系統臨界點的人類世時代。

　　當前的數位化挑戰是要解決數位人類世下艱鉅的永續性問題，同時理解人工智慧、自動決策系統和虛擬空間等新興挑戰。人該如何和人類增強與增進（技術）並肩而行？我們如何和人工智慧有效、有建設性地以及「人性地」互動？我們如何在知之尚淺的技術變遷浪潮下，保有對民主的控制？在大數據分析和全球通訊網路時代，我們如何護及公民權利、人權和個人權利？當數位發展遇到獨裁政權和有力的企業行為者，民主和公民權利也就岌岌可危。這些挑戰的規模頗大：我們如何在一開始不經歷深刻危機的情況下，學會在激烈的破壞式科技創新時，克服「停滯時刻」的歷史規律？

8. 建立負責的知識社會，有能力為數位化時代的永續採取行動。

　　形塑和治理邁向永續的數位革命沒有萬靈丹，因為未來本就是不確定的。這個挑戰在於建立有韌性、適應性、知識性和具包容性的「責任社會」（WBGU, 2019）。只要匯集數位及永續研究社群的觀點，我們就能利用數位化、虛擬實境和人工智慧的機會，遏止其潛在風險並連結數位和永續轉型。不過，這樣的趨同仍是未竟之路。為了穩定地球能在21世紀，為90-100億人創造美好的生活，連結人類歷史上邁向重要永續轉型的最大創新動力，我們需要盡最大努力、迅速行動、從制度上改變、巨額投資、耐心以及一個明確的規範性框架。

　　以下基石創造了相互依賴的系統架構，以助於管理數位和永續轉型的調和化（harmonization）：

1. 教育：人們需要能理解並形塑新興的數位轉移（digital shifts）。
2. 科學：新知識網路必須創造轉化型知識（transformative knowledge），來整合數位和永續導向的轉型、避免逼近數位臨界點，並建立整合人類和智慧機器時代的規範性框架。
3. 促使國家現代化：公立機構尚未準備好理解與治理數位動力。大規模現代化和教育計劃在這方面是必要的。
4. 實驗場域：邊做邊學和應用，尤其在早期的創新階段，是科技和制度傳播的主要原則。應該建造些創意場域來培養快速學習，並應該包含能讓「狂點子（crazy ideas）和新創企業」落地的可能性。
5. 全球治理：數位革命在建立聯盟方面有全球影響力。舉例來說，聯合國的現代化將受到數位化時代的形塑。
6. 「新人文主義」（WBGU, 2019）：《2030永續發展議程》可以被視為對世界的新「社會契約」，它改變了我們對2030年以後的未來價值觀與願景，並朝著整體永續發展。這意味著人類和地球有對未來的新規範目標，唯物主義、環境與地球系統負面外部性脫鉤的新發展模式，及遍及眾人的新規範性保障。

9. 2030永續發展議程視角下的急迫需求—距離2030僅剩10年。

　　我們只有10年時間能全力動員，並借助數位機會創建出永續社會。世界正處在十字路口，扭轉形勢成為當務之急。我們只有10年去習得如何管理，並正面運用數位化與人工智慧的社會影響力，融合虛擬與實際的空間和真實情況，避免進一步削弱社會凝聚力。如果我們沒有弄清楚這兩個基本架構—亦即，數位的綠色經濟與穩定、公平、開放的數位社會—世界將陷入嚴重僵局，而非發展出更永續的轉型。一旦如此，邁向永續人類世的轉型之窗將被關閉。時間是非常寶貴且稀缺的資源，必須明智地運用。

　　日益興盛之數位化引起的社會挑戰顯然有很多，如果不加以仔細而慎重地管理，有可能會引起重大的反革命。但同樣明確的是，只要科技進步對邁向永續未來做出貢獻，它就會帶來大的社會效益。減少環境退化的同時，（數位化）在教育、衛生、公平和繁榮方面取得重大進展的潛力是不容否認的（如本報告中探討的案例）。此外，對於我們生活與工作的方式及地點、我們如何利用增加的休閒時間，以及我們如何與即時、在地和更廣泛社群的其他成員互動，這些方式的重大變遷將帶來社會影響。而當務之急是確保這些影響是正面的。

　　社會及其政府正處在關鍵的十字路口。面對關於我們所希望未來型態的決定—當然，前提是按照目前的創新速度，當前趨勢可以完全被管理或規範，創造新工具和技術的腳步將遠遠領先於指導型的規範和政策，事實上也遠超過與其相關的公眾意識。由於缺乏徹底審視、沉穩引入新技術的途徑，往往在事後才面對到公共財和自然資源帶來的後果。通常，這些後果只有損害夠大且難以忽視，以及公眾感到受騙時才會出現。然而，數位革命可以幫忙提供工具，向大眾傳達新科技的正面特性並提前獲得他們的支持。儘管公眾支持對充分發揮新技術的潛力至關重要，但公眾關注也將限制其所有的商業和金融潛力。

原文出處：The Digital Revolution and Sustainable Development: Opportunities and Challenges

 

 

參考文獻：

1. Acatech (2015). New automobility: The future world of automated road traffic. Retrieval Date: 2019/06/14.
2. Acatech (2016). Flexibility concepts for the German power supply in 2050: Ensuring stability in the age of renewable energies. Retrieval Date: 2019/06/14.
3. Barrat (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. New York, USA: Thomas Dunne Books.
4. Brynjolfsson & McAfee (2014). The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. New York, USA: WW Norton & Company.
5. Bughin et al. (2017). Artificial Intelligence: The Next Digital Frontier (discussion paper). London, UK: McKinsey Global Institute.
6. Craglia et al.(2018). Artificial Intelligence: A European Perspective (EUR 29425 EN). Luxembourg: Publications Office of the European Union.
7. Crutzen & Stroemer (2000). The “Anthropocene”. IGBP Newsletter 41: 17–18.
8. DiPLo (2019). Mapping the Challenges and Opportunities of Artificial Intelligence for the Conduct of Diplomacy. Geneva, Switzerland: DiploFoundation.
9. Domingos (2015). The Master Algorithm. New York: Basic Books.
10. Ekenberg et al. (2017). Deliberation, Representation, Equity: Research Approaches, Tools and Algorithms for Participatory Processes. Cambridge, UK: Open Book Publishers.
11. Gluckman & Kristiann (2018). Understanding Wellbeing in the Context of Rapid Digital and Associated Transformations. International Network for Government Science Advice (INGSA).
12. Messner et al. (2016). The evolution of human cooperation: Lessons learned for the future of global governance. In Global Cooperation and the Human Factor in International Relations, pp. 3–46. New York, NY, USA: Routledge/Taylor & Francis Group.
13. Nakicenovic et al. (2016). Global Commons in the Anthropocene: World Development on a Stable and Resilient Planet. IIASA Working Paper, WP-16-019. Laxenburg, Austria: IIASA.
14. Nasr K et al. (2019). Number detectors spontaneously emerge in a deep neural network designed for visual object recognition. Science Advances 5(5): eaav7903.
15. Renn (2019). Die Rolle(n) transdisziplinärer Wissenschaft bei konfliktgeladenen Transformationsprozessen. GAIA–Ecological Perspectives for Science and Society 28(1): 44–51.
16. Rockström et al. (2009). A safe operating space for humanity. Nature 461(7263): 472.
17. Schwab (2016). The Fourth Industrial Revolution. Geneva, Switzerland: World Economic Forum.
18. Steffen et al. (2015). Planetary boundaries: Guiding human development on a changing planet. Science 347(6223).
19. Tegmark (2017). Life 3.0. London: Random House.
20. TWI2050 (2018). Transformations to Achieve the Sustainable Development Goals. Report Prepared by the World in 2050 Initiative. Laxenburg, Austria: IIASA.
21. UN (2015a). Transforming Our World: The 2030 Agenda for Sustainable Development (A/RES/70/1). New York, USA: United Nations.
22. UN (2015b). Addis Ababa Action Agenda. Addis Ababa, Ethiopia: United Nations.
23. UNFCCC (2015). Adoption of the Paris Agreement. Paris, France: UNFCCC.
24. Villani (2018). For a Meaningful Artificial Intelligence. Towards a French and European Strategy. Paris, France.
25. WBGU (2018). Digitalisierung: Worüber wir jetzt reden müssen. Berlin: WBGU.
26. WBGU (2019). The Sustainability Transformation in the Digital Age. Berlin (forthcoming).