過去��天在OpenAI發生的事情可以有多種描述方式:一場刺激的董事會鬧劇,一場圍繞美國最大初創企業之一的拉鋸戰,一場希望人工智慧更快發展的人與希望放慢發展速度的人之間的衝突。
但最重要的是,這是一場人工智慧兩種不同願景之間的較量。
在其中一種願景下,人工智慧是一種變革性的新工具,是一系列改變世界的創新中最新的一種——這些創新包括蒸汽機、電力和個人電腦——如果使用得當,可能會開啟一個繁榮的新時代,並為利用其潛力的企業賺取大量財富。
在另一種願景下,人工智慧更接近於一種外星生命形式——從神經網路的數學深處召喚出來的怪獸——必須極其謹慎地加以限制和部署,以防止它接管並殺死我們所有人。
廣告
隨著姆·奧爾特曼週二重返OpenAI,兩種觀點之間的鬥爭似乎結束了。上週五,OpenAI董事會解除了他的首席執行官職務。
資本主義隊勝。利維坦隊負。
OpenAI的新董事會將由三人組成,至少在一開始是這樣:Quora首席執行官亞當·迪安吉洛 (他也是舊董事會唯一一位留任者);Facebook和Salesforce前高管布雷特·泰勒;以及前財政部長勞倫斯·薩默斯。預計董事會將在此基礎上擴大規模。
OpenAI的最大投資者微軟預計也將在OpenAI未來的治理中擁有更大的發言權,可能包括一個董事會席位。
推動奧爾特曼下台的三名成員已經離開了董事會:OpenAI首席科學家伊利亞·蘇茨克韋爾(他後來撤回了自己的決定);喬治城大學安全與新興技術中心戰略主管海倫·托納;以及企業家和蘭德公司研究員塔莎·麥考利。
蘇茨克韋爾、托納和麥考利可以代表十年前積极參与思考人工智慧的那批人,他們是學者,矽谷未來學家和計算機科學家的混合體。他們對這項技術既恐懼又敬畏,並擔心理論上的未來事件,比如「奇點」(singularity),即人工智慧超出我們的控制能力。許多人都屬於有效利他主義者等哲學團體,這是一個利用數據和理性做出道德決定的運動,他們之所以決定從事人工智慧工作,是出於將技術的破壞性影響降到最低的願望。
廣告
這就是2015年人工智慧研究的氛圍,當時OpenAI作為一家非營利組織成立,這有助於解釋為什麼該組織在2019年成立營利性部門後仍然保持其複雜的治理結構——令非營利董事會可以控制公司的運營,並更換其領導層。當時,許多業內人士認為,保護人工智慧不受資本主義力量的影響是當務之急,需要寫入公司章程和章程文件。
但自2019年以來,情況發生了很大變化。強大的人工智慧不再僅僅是一個思想實驗——它存在於真實的產品中,比如每天被數以百萬計的人使用的ChatGPT。世界上最大的科技公司正在競相打造更強大的系統。數十億美元被用於在企業內部構建和部署人工智慧,以期降低勞動力成本,提高生產率。
新的董事會成員是意料之中的那種可以監督這類項目的商業領袖。新任董事會主席泰勒是一位經驗豐富的矽谷交易撮合者,去年擔任Twitter董事會主席期間,他牽頭將Twitter出售給了伊隆·馬斯克。薩默斯是超級資本主義者——一位傑出的經濟學家,他說他相信技術變革對社會「只有好處」。
在重組後的OpenAI董事會中,可能仍然會有謹慎的聲音,也可能會有來自人工智慧安全運動的人物。但他們不會擁有否決權,也不會像過去的董事會那樣有能力立即關閉公司。他們的偏好將與公司高管和投資者等其他人的偏好相平衡。
如果你是微軟,或者其他成千上萬依賴OpenAI技術的企業中的任何一家,這無疑是一件好事。更傳統的治理意味著突發的風險更小,會迫使你匆忙更換人工智慧提供商的變化風險也更小。
也許OpenAI發生的事情——企業利益戰勝了對未來的擔憂——是不可避免的,因為人工智慧越來越重要。一項有可能引領第四次工業革命的技術,不太可能長期被那些想要減緩其發展的人所控制——尤其是在事關巨額投資的情況下。
廣告
人工智慧行業仍然有一些舊觀念的痕跡。OpenAI的競爭對手Anthropic是由一群前OpenAI員工創建的,它將自己定位為一家公益公司,這種法律結構旨在使其免受市場壓力影響。一個活躍的開源人工智慧運動主張人工智慧不受企業控制。
但這些最好被視為人工智慧舊時代的最後遺迹,在那個時代,人工智慧的創造者對這項技術既好奇又恐懼,並試圖通過組織治理來限制它的力量。
現在,烏托邦主義者佔據了主導地位。全速前進。