崔家瑋
2024-03-23發佈
進入 ChatGPT 的心臟:直擊 OpenAI 的日常運作與成功特質|職涯生活
本文將帶讀者一起實際進入 OpenAI 總部,揭開神秘面紗!
OpenAI 可以說是短時間內引發最多討論的科技公司了。
兩年前 ChatGPT 上線後,這家由微軟所投資的人工智慧開發商立刻引爆了生成式人工智慧的諸多話題,也讓人工智慧在產業、法規、社會與政治所造成的衝擊瞬間變得相當具體,也促使其他科技巨頭如 Google 與 Meta 紛紛釋出人工智慧相關服務與模型。
尤其 OpenAI 去(2023)年也舉辦了首次的開發者大會,宣布讓其他開發者可以以 ChatGPT 為基礎開發模型,並且在 OpenAI 的平台上販售,引發產業與市場熱議。
然而 OpenAI 也面臨來自世界各地甚至內部的訴訟與爭議,從訓練人工智慧的資料是否經過合法授權,到生成式人工智慧產生的不實訊息與歧視問題,甚至突然宣布開除執行長(註)──站在科技的風口浪尖,也難怪這起公司的發展會讓人看得津津有味。
不久前,我與夥伴因為參與 g0v 零時政府的社群專案 vTaiwan ,成功獲得了 OpenAI 「人工智慧的民主參與(Democratic Input to AI)」計畫獎助。
故得以在去年九月底時受邀前往舊金山,參訪了美東的科技聚落與 OpenAI 總部,同時也有機會與 OpenAI 的員工以及來自世界各地,關注人工智慧民主化的夥伴一同面對面交流。
以下就來跟大家分享 OpenAI 的員工對人工智慧抱持的看法,也分享自己在這趟旅程的所見所聞。
前言:八十分之一的機會
相較於其他科技公司,OpenAI 的規模並不大。其原本是一間實驗室,後來才獨立出來。官網上表明的成立宗旨,是「為了擴大人類的利益,而非 OpenAI 投資者的利益。」
所以,其公司實體是「有限獲利公司」,亦即投資 人能夠獲得的報酬有其上限;一旦超過,則超過部分會全部轉交給同名基金會。如此設計,就是要避免公司受到投資人制約,為了追求利潤最大化而忽視人工智慧開發帶來的相關風險。
有了這一層認知後,我們就比較能夠了解為何 OpenAI 會在五月時突然宣布獎助計畫,也就是前面提及的「人工智慧的民主參與(Democratic Input to AI)」獎助計畫。
該計畫將從全世界各地徵求十個不同的人工智慧民主化提案,並給每個提案的團隊10萬美金(將近三百二十萬台幣)的獎補助金。
最終,我所參與的 vTaiwan 社群與英國頗負盛名的智庫查塔姆研究所(Chatham House)合作的提案成功入選,成為從來自全球八百多個提案中脫穎而出的十個提案之一,我們也成為了唯一有台灣參與者入選的團隊。
接下來,除了每週的各種會議與討論外,OpenAI 官方也宣布了一個交流活動,邀請所有隊伍在九月底時前往舊金山,在 OpenAI 總部參訪與交流。這成為了本次旅程的契機。本次參訪主要分成兩個部分,第一部分是第一天晚上的晚餐聚會,第二部分則是一整天的分享、討論、工作坊與遊艇派對。
(圖說:在 OpenAI 辦公室舉辦工作坊)
晚餐聚會:在樂觀與悲觀之間
OpenAI 公司的總部並不起眼,其位在舊金山市區一間灰色的平頂建築中,建築外面並沒有任何招牌與字樣。附近的轉角有一家星巴克,除此之外幾乎沒有任何記憶點。
你很難想像這樣一棟平凡的建築中,竟然藏著一家牽動科技、社會與政治的人工智慧小巨人。不過當我們走入建築內部,立刻就能感受到與矽谷其他的科技公司與眾不同的地方。
相較於一般科 技公司的裝潢往往強調科技感與未來感,OpenAI 公司內部反而相對充滿自然與居家的元素。人工智慧的心臟比起科幻電影中描繪的冰冷,反而更多了點人性化的色彩。
第一天聚會的場所是在一個半地下室的交誼空間,我們很快地與負責本次計畫的專案經理 Teddy 見面,Teddy 是台裔移民的第二代,見到他確實倍感親切。
我也見到了一些之前只有在線上會議看到的夥伴,例如擔任跨領域社群經理的 Natalie,她負責籌備所有的系列活動,包含講座、工作坊,以及第二天的遊艇派對。
聚會一開始,由 OpenAI 的政策團隊主任 Miles 向大家致詞,他強調如何讓AI 變得更符合人類價值、而不是造成風險,是在場的大家所共同關注的議題。
同時,應對人工智慧帶來的衝擊,需要大家做好準備。從致詞中可以知道,與各國政府近期對於人工智慧的管制與政策相同,OpenAI 內部也將人工智慧的風險視為相當重要的議題。
晚餐聚會在輕鬆的聊天中進行,大家都在自我介紹與寒暄。除了來自世界各地的十個團隊的參與者外,也有很多 OpenAI 的員工加入我們進行討論。除了負責開發的工程師外,也包含了來自政策研究與風險管理的團隊成員。
例如負責兒童安全的一位研究員 Chelsea。她原本在負責家庭暴力防治的非政府組織工作,後來加入 Meta 負責兒童安全的相關工作。在美國,兒童暴力與兒童色情是科技巨頭的紅線,一旦違反就會有嚴重的法律責任。
因此,這個領域也成為科技公司最為重視的一環。她的工作便是利用測試,確認人工智慧不會在特定提示詞的引導下,產出違規的內容。
在聚會上,我也遇到了一位政策研究的團隊成員 Lama。她曾經在智庫研究大型科技公司所帶來的風險,亦曾任職 Meta,而後加入 OpenAI 負責政策研究工作。她向我與其他加入聊天的參與者,討論人工智慧的發展與風險的關聯性。
尤其,當時抵達舊金山前幾天,OpenAI 剛剛釋出重大更新,宣布 ChatGPT 成為世界上第一個多模態的人工智慧系統。Lama 提到,模型的推陳出新,確實提高了風險評估的難度,也讓她與其他團隊成員負擔更多的工作。
我也追問在這樣的狀態下,是如何保持行動的熱情,讓自己投身於越來越複雜的工作中──她認為,自己每天都會發覺到很多要回答的問題,並且在回答問題的過程中獲得興奮感。這也是我在 OpenAI 團隊中看到的普遍特質,對於未知感到熱情,甚至是興奮。
於是我也問了她一個我最想知道的問題,那就是作為政策研究的成員,自己面對人工智慧的發展,是感到樂觀抑或是悲觀。
Lama 的回應是,她對於人工智慧的科技發展感到樂觀,但是對後續風險感到悲觀。與矽谷常見的科技樂觀主義者不同,在討論的過程中,我發現像 Lama 一樣,對於人工智慧科技的發展與潛在風險擁有矛盾情緒的成員其實不在少數。而最近 OpenAI 的經營權爭議,有媒體報導,正是公司內對於風險與發展的不同認知所導致的。
Demo Day:在包容與專業間平衡
第二天的 Demo Day,是讓十個團隊報告自己團隊的計畫,以及目前為止的階段性成果。我們團隊的「 Bridging the Recursive Public」計畫,希望透過結合網路意見徵集、多方利害關係人參與的方式,讓人工智慧的發展與倫理規範能夠包含不同利害關係人的意見。
(圖說:在 OpenAI 會議室裡分享專案成果)
另外九個團隊,則是分別來自德國、荷蘭、英國、美國、菲律賓與非洲,其中以美國的團隊佔多數。團隊中也有不乏來自名校,如華盛頓大學、哈佛大學與麻省理工學院的參與者。
十個團隊的報告在上午結束。面對人工智慧所帶來的衝擊,以及如何讓人工智慧更為民主化的挑戰,每一個團隊幾乎都要解決包容性與專業性的問題。
如何讓自己的機制能夠接觸到更多的少數族群,如性別、種族、文化弱勢、甚至是擁有數位落差而往往在相關政策與實踐中遭到邊緣化的族群,是每一個團隊會面臨的挑戰。
同時,在多元的參與外,如何確保所有的參與者對於人工智慧以及所涉及的相關議題具有足夠的專業度,在發表意見與參與討論前能夠有充足的資訊協助,也是相當重要的議題。
專業度與包容性如何達成平衡,不同的團隊有不同的實踐方法。有些團隊以專業度為優先,在議題設定上先由專家討論與參與,設定好框架後,再導入公眾意見。然而也有一些團隊是先徵集大家的意見,再利用專家參與,對這些廣泛收集的意見加以收束與凝聚。
這樣的差異相當有趣,但不論是採用何種方式,要讓人工智慧的設計與部署變得更民主,如何形成涵納大家意見的共識是相當重要的一件事。
第二天的午餐中,我也遇到了一位模型開發工程師,於是便把握機會,跟他討論人工智慧模型開發的過程。他的分享相當出乎意料。他提到他們在開發模型時,很多時候是基於一種好奇心,一種「想要知道能不能開發出這樣的應用」以及「想要了解這個應用的極限在哪裡」的心情。
這樣的研發態度,可以説是反映了 OpenAI 在設立之初,比起一家商業公司,更像是智庫或大學實驗室的特質。開發團隊在開發服務時,優先考量的是團隊成員的興趣、想要達成的目標,而非市場需求。不過他也承認,這 樣的態度正在逐漸轉變中。
壓軸的遊艇派對:多元性的澆灌
吃過午餐,完成工作坊的討論與分享後,接著就來到這一次參訪的壓軸活動:舊金山港灣的遊艇派對。OpenAI 的籌備團隊事先預訂了一艘遊艇,上面提供酒吧與餐食,讓大家可以在船上暢覽舊金山港灣的美景時,也能繼續進行相關的交流與討論。兩層樓高的遊船停在港邊,在多雲的天氣下,我們緩緩駛出碼頭。
在船上,我們也跟另外一位,負責人工智慧民主化專案的專案經理 Tyna 討論。Tyna 來自卡麥隆,大學時是經濟背景,並且曾在美國聯準會工作。後來加入 OpenAI,負責政策研究與民主化相關專案。
從 Tyna 與我們分享的內容中我們了解到,OpenAI 的政策與風險管理團隊超過 50 多人,以一家當時 700 人左右的科技公司來說,這樣的比例是很驚人的。然而從 OpenAI 推出 ChatGPT、Dalle 等人工智慧模型後面臨的法律訴訟與政策壓力來看,這些政策研究與風險管理團隊或許有其必要。
在船通過金門大橋時,我們也與來自華盛頓大學的一位博士後研究員討論法律科技。該團隊希望借用英美法的概念,藉由針對具體事件的裁決,形塑人工智慧的相關規範,是一個相當有趣的發想。
而他們的實驗室背景也很獨特,是由法律與資訊背景的老師共同組成,專門研究法律與科技交會的議題。這在國內仍然是相當少見的合作形式。不過美國的法學院是採學士後法學院系統,也有許多取得法律學位的老師同時也有其他領域的學位與專業知識。我也趁此機會向他分享了台灣的法律科技發展。
在經過兩個小時的遊程後,船緩緩駛回碼頭。此時天氣已經轉好,雲層散去,陽光灑在躺在 39 號碼頭木棧板上,懶洋洋的海獅身上,十分漂亮。
離去前,我跟 Natalie 擁抱,Natalie 大學時在加州大學柏克萊分校就讀藝術史,然而現在卻加入了一家世界頂尖的科技公司工作。這也是我與不同的 OpenAI 員工交流的心得。
這家公司在種族與專業背景中的多樣性與多元性令人驚艷,晚上,由於活動結束當日時值中秋節,於是因緣際會之下,我們便受邀與一位丈夫任職於 OpenAI,妻子任職於 Meta 的軟體工程師夫婦共進晚餐。
在晚餐上,我們討論台灣公民科技的發展、人工智慧的發展與挑戰,也討論台美兩地的文化差異,以及美國不同地區的工作習慣與文化。一切都讓人感到十分滿足。
結論:在人工智慧的時代,還是要回到對人的關懷
活動結束至今,我仍常常回想起這段時光中,與不同人交流的吉光片羽。
人工智慧的出現,如同所有的科技一般,放大了人類的缺陷與惡意,但是也同樣給予我們更強力的工具。然而若是因為人工智慧的出現,而忽略了人的價值,這或許才是最大的危險。
在人工智慧能力飛速成長的時代,我們反而是要回到對於人的關懷,重新思索人的可能性,以及人類本身具有的特質。這樣的思考,才能夠幫助我們面對人工智慧出現後,對於法律、社會與文化帶來的挑戰。對於人工智慧的發展,我的想法就如同活動第二天的遊艇派對一樣,雖然一開始烏雲密佈,看似即將浪濤洶湧,但陽光終究會探出頭來的。
【特別感謝】這一路上陪伴的 Paul 、Sky、ky、負責安排活動的 Teddy、Tyna、以及 vTaiwan 的所有夥伴。
【本文作者】
崔家瑋。
台大法研所研究生,111 年律師高考及格,g0v 零時政府社群參與者。喜歡從法律與規範角度分析社會議題。
【本文核稿】
網站主編,王鼎棫
註:2023 年 11 月 17 日晚 間,生成式人工智慧開發商 OpenAI 的董事會,突然宣布開除執行長 Sam Altman,董事會提出的聲明是: Altman 對於董事會「始終不坦誠」。而另外一位創辦人Greg Brockman 亦在社群媒體上請辭。
然而,情勢就在兩天內急轉直下──隔天就有消息傳出,董事會有意讓 Sam Altman 回任執行長,而在台灣時間11月20日,微軟執行長也宣布將讓 Sam Altman 與 Greg Brockman 領導微軟所投資,新的人工智慧新創公司。這時,數百名員工去信董事會,要求如果不讓 Sam Altman 回任,將會集體跳槽。緊湊的事態發展堪比電影,也讓關注科技、新創與人工智慧發展的各界人士熱烈討論。
*本頻道「職涯生活」認為,生涯規劃不是「選工作」,而是「經營人生」,讓法白陪你一起。