http://bfqmb.cn 2024-07-01 16:31 來源:東西智庫
近日,在達(dá)特茅斯塞耶工程學(xué)院畢業(yè)季的活動(dòng)上,OpenAI CTO米拉·穆拉蒂(Mira Murati)與前亞馬遜高管、現(xiàn)達(dá)特茅斯學(xué)院受托人的杰弗里·布萊克本(Jeff Blackburn)開展了一場深度訪談。
訪談中,穆拉蒂分享了她加入OpenAI的原因、ChatGPT和Dall-E工作原理,還就AI發(fā)展過程中持續(xù)存在的安全和倫理問題,以及AI對(duì)未來可能產(chǎn)生的深遠(yuǎn)影響,例如教育、工作等,提出了自己的見解。
她在訪談中還透露,只需一年半時(shí)間,AI就可以在某些領(lǐng)域達(dá)到博士的智能。根據(jù)她的說法,GPT-3的智能相當(dāng)于幼兒,GPT-4相當(dāng)于聰明的高中生,而下一代模型(這或許指的就是GPT-5),將在一年半后發(fā)布,并達(dá)到博士水平。
在安全性和能力方面,她認(rèn)為,它們是相輔相成的,聰明的模型才能理解我們給它設(shè)定的護(hù)欄。與此同時(shí),穆拉蒂表示,“完全沒有風(fēng)險(xiǎn)” 是不可能的,尤其是對(duì)于像 AI 這樣的技術(shù)。工程的角度上來看,AI能力的提升并不會(huì)降低模型的安全性。OpenAI對(duì)模型的安全性負(fù)有很大責(zé)任,但要實(shí)現(xiàn)風(fēng)險(xiǎn)的有效管控,社會(huì)和政府的參與也是必不可少的。
穆拉蒂表示,未來的 AI 系統(tǒng)將能夠連接到互聯(lián)網(wǎng),相互交流,并與人類協(xié)作。
在談及AI對(duì)工作或業(yè)務(wù)的影響時(shí),穆拉蒂認(rèn)為它將 “影響一切”,她相信幾乎所有領(lǐng)域都將受到影響,尤其是 “一些創(chuàng)意工作”,但她也認(rèn)為這些工作 “本來就不應(yīng)該存在”。她表示,下一代 AI 將降低 “創(chuàng)造力” 的門檻,使其不再局限于只有 “有才華的人”,AI 將使每個(gè)人都更具創(chuàng)造力。因此,一些原本只限于少數(shù)有創(chuàng)造力的人的工作將被 AI 接管。
以下為訪談完整編譯
我是Alexis Abramson,達(dá)特茅斯大學(xué)Thayer工程學(xué)院院長。我很榮幸歡迎大家參加這個(gè)非常特別的活動(dòng)——與Mira Murati的對(duì)話。她是我們?nèi)斯ぶ悄茴I(lǐng)域最杰出的領(lǐng)導(dǎo)者之一,也是達(dá)特茅斯工程學(xué)院的校友。
在我們開始之前,我想特別歡迎一位特殊的嘉賓,Joy Buolamwini。她在人工智能、人工智能倫理和算法正義方面的工作也享有盛名。她明天將獲得達(dá)特茅斯大學(xué)的榮譽(yù)學(xué)位。同時(shí),也熱烈歡迎Mira和所有現(xiàn)在是她家人或她在達(dá)特茅斯時(shí)的家人,包括她的兄弟Ernel Murati,他也是2016屆學(xué)院的校友。
感謝我們?cè)贜eukom計(jì)算科學(xué)研究所和計(jì)算機(jī)科學(xué)系的合作伙伴。從1956年達(dá)特茅斯舉辦的第一次開創(chuàng)性人工智能會(huì)議,到我們目前在大型語言模型和精準(zhǔn)健康方面的多學(xué)科研究,達(dá)特茅斯一直處于人工智能創(chuàng)新的前沿。因此,我們特別高興今天能邀請(qǐng)到Mira,她是OpenAI的首席技術(shù)官,也是我們工程學(xué)院2012屆的畢業(yè)生。她因在一些當(dāng)今最受關(guān)注的人工智能技術(shù)上的開創(chuàng)性工作而聞名。在OpenAI,她帶頭開發(fā)了像ChatGPT和Dall-E這樣的變革性模型,為未來的生成式人工智能技術(shù)奠定了新的基礎(chǔ)。
在Thayer學(xué)院學(xué)習(xí)期間,她將自己的工程技能應(yīng)用于達(dá)特茅斯方程式賽車隊(duì),設(shè)計(jì)并制造混合動(dòng)力賽車。明天的畢業(yè)典禮上,她將獲得達(dá)特茅斯大學(xué)授予的榮譽(yù)理學(xué)博士學(xué)位。
最后,今天主持我們對(duì)話的是Jeff Blackburn,他是達(dá)特茅斯1991屆畢業(yè)生,現(xiàn)任達(dá)特茅斯大學(xué)董事會(huì)成員。Jeff的職業(yè)生涯一直專注于全球數(shù)字媒體和技術(shù)的發(fā)展。他曾在2023年前擔(dān)任亞馬遜全球媒體和娛樂高級(jí)副總裁,并在公司擔(dān)任過多個(gè)領(lǐng)導(dǎo)職務(wù)。他對(duì)技術(shù)、媒體和娛樂交叉領(lǐng)域的洞察必將確保我們今天有一場引人入勝的對(duì)話。那么,不再多說,我現(xiàn)在把對(duì)話交給他們。請(qǐng)大家和我一起歡迎Mira Murati和Jeff Blackburn。
杰弗里·布萊克本:謝謝你,Alexis。這棟漂亮的建筑真是太美了。
米拉·穆拉蒂:很高興來到這里。
杰弗里·布萊克本:Mira,非常感謝你來到這里并抽出時(shí)間。我能想象你現(xiàn)在的日子有多忙。
米拉·穆拉蒂:很高興來到這里。
杰弗里·布萊克本:你為大家抽出時(shí)間真是太好了。
米拉·穆拉蒂:我真的很高興能在這里。
加入OpenAI原因
杰弗里·布萊克本:我想直接切入正題,因?yàn)槲抑来蠹叶枷肼犅犇愕纳詈湍阏跇?gòu)建的東西,這真是太迷人了。也許我們應(yīng)該從你開始說起,你離開Thayer,去了Tesla一段時(shí)間,然后加入了OpenAI。如果你能描述一下那段時(shí)期以及你早期加入OpenAI的情況就好了。
米拉·穆拉蒂:是的,所以我… 在Thayer畢業(yè)之后,我實(shí)際上在航空航天領(lǐng)域短暫工作了一段時(shí)間,然后我意識(shí)到航空航天領(lǐng)域進(jìn)展比較慢,而我對(duì)Tesla的使命非常感興趣,當(dāng)然還有在構(gòu)建一個(gè)可持續(xù)未來的交通工具方面的創(chuàng)新挑戰(zhàn),我決定加入他們。在Model S和Model X的開發(fā)過程中,我意識(shí)到我不太想成為一個(gè)汽車領(lǐng)域的人,我更想在推進(jìn)社會(huì)進(jìn)步的同時(shí),迎接一些艱巨的工程挑戰(zhàn)。在Tesla期間,我對(duì)自動(dòng)駕駛汽車和這些技術(shù)的交叉點(diǎn)非常感興趣,比如計(jì)算機(jī)視覺和人工智能,將它們應(yīng)用于自動(dòng)駕駛汽車。我想,好吧,我想了解更多關(guān)于人工智能的知識(shí),但在不同的領(lǐng)域。所以我加入了一家初創(chuàng)公司,領(lǐng)導(dǎo)工程和產(chǎn)品團(tuán)隊(duì),將人工智能和計(jì)算機(jī)視覺應(yīng)用于空間計(jì)算領(lǐng)域,思考下一代計(jì)算界面。當(dāng)時(shí)我認(rèn)為這將是虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)?,F(xiàn)在我認(rèn)為有點(diǎn)不同了,但我當(dāng)時(shí)想,如果你可以用手與非常復(fù)雜的信息互動(dòng),無論是公式、分子還是拓?fù)鋵W(xué)的概念,你可以以一種更直觀的方式學(xué)習(xí)這些東西,這會(huì)擴(kuò)展你的學(xué)習(xí)能力。結(jié)果虛擬現(xiàn)實(shí)當(dāng)時(shí)有點(diǎn)太早了。但這讓我在不同的領(lǐng)域?qū)W習(xí)了人工智能,并且我的職業(yè)生涯一直處于技術(shù)和各種應(yīng)用的交匯點(diǎn),這給了我一個(gè)不同的視角,看到了人工智能的發(fā)展進(jìn)程以及它可以應(yīng)用的領(lǐng)域。
杰弗里·布萊克本:所以在Tesla的自動(dòng)駕駛領(lǐng)域,你看到了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)。你能看到它的發(fā)展方向。
米拉·穆拉蒂:是的,但我并沒有看得很清楚。
杰弗里·布萊克本:你和Elon合作過嗎?
米拉·穆拉蒂:是的,尤其是最后一年。但當(dāng)時(shí)還不太清楚它的方向。那時(shí)候,人工智能仍然是應(yīng)用于非常狹窄的特定問題,而不是一般性的應(yīng)用。它在虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)中的情況也是如此。從那時(shí)起,我想我不想僅僅將其應(yīng)用于特定問題。我想了解研究,真正理解正在發(fā)生的事情,然后再將其應(yīng)用于其他領(lǐng)域。所以這時(shí)我加入了OpenAI,OpenAI的使命對(duì)我非常有吸引力。那時(shí)它是一個(gè)非營利組織,使命沒有改變,結(jié)構(gòu)改變了,但我六年前加入時(shí),它是一個(gè)旨在構(gòu)建安全的通用人工智能的非營利組織,除了DeepMind之外,這是唯一一家這樣做的公司。現(xiàn)在當(dāng)然有很多公司在構(gòu)建某種版本的通用人工智能。
杰弗里·布萊克本:是的,一些公司。
米拉·穆拉蒂:是的,這就是我加入OpenAI的開始。
ChatGPT和Dall-E工作原理
杰弗里·布萊克本:明白了。自從你在那兒,你們已經(jīng)構(gòu)建了很多東西。也許我們可以為大家簡單介紹一下機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和現(xiàn)在的人工智能基礎(chǔ)知識(shí)。這些都是相關(guān)的,但有所不同。那么,這其中發(fā)生了什么,它是如何在ChatGPT、Dall-E或你們的視頻產(chǎn)品中體現(xiàn)出來的?它是如何工作的?
米拉·穆拉蒂:這不是一個(gè)根本性的創(chuàng)新。某種意義上,我們是在幾十年的人類努力基礎(chǔ)上構(gòu)建的。實(shí)際上,它的起源就在這里。在過去十年中發(fā)生的事情是這三者的結(jié)合:神經(jīng)網(wǎng)絡(luò)、大量數(shù)據(jù)和大量計(jì)算資源。這三者結(jié)合在一起,你會(huì)得到這些真正變革性的人工智能系統(tǒng)或模型,結(jié)果它們能夠做這些驚人的事情,比如完成一般任務(wù),但具體如何運(yùn)作并不完全清楚。深度學(xué)習(xí)就是有效。當(dāng)然,我們?cè)噲D理解并應(yīng)用工具和研究來理解這些系統(tǒng)的實(shí)際工作原理,但我們知道它們是有效的,因?yàn)檫^去幾年我們已經(jīng)這樣做了。我們還看到了進(jìn)步的軌跡以及系統(tǒng)如何隨著時(shí)間的推移變得更好。當(dāng)你看像GPT-3這樣的系統(tǒng)時(shí),我們大約三年半前部署了大型語言模型。GPT-3的目標(biāo)只是預(yù)測下一個(gè)標(biāo)記。
杰弗里·布萊克本:它實(shí)際上是下一個(gè)詞的預(yù)測。
米拉·穆拉蒂:是的,基本上是這樣。
杰弗里·布萊克本:嗯。然后我們發(fā)現(xiàn),如果你給這個(gè)模型一個(gè)目標(biāo),讓它預(yù)測下一個(gè)標(biāo)記,并且你用大量數(shù)據(jù)訓(xùn)練它,同時(shí)使用大量計(jì)算資源,你得到的其實(shí)是一個(gè)能夠理解語言的模型,程度與我們相似。
米拉·穆拉蒂:因?yàn)樗x了很多書,它讀了所有的書。它似乎知道什么是最重要的
杰弗里·布萊克本:基本上是所有互聯(lián)網(wǎng)上的內(nèi)容。
米拉·穆拉蒂:它知道下一個(gè)詞應(yīng)該是什么。但它并不是在記憶下一個(gè)詞是什么,它實(shí)際上是在生成它自己對(duì)已見數(shù)據(jù)模式的理解。然后我們發(fā)現(xiàn),不僅僅是語言,實(shí)際上,如果你把不同類型的數(shù)據(jù)放進(jìn)去,比如代碼,它也能編寫代碼。所以實(shí)際上,它不在乎你放進(jìn)去的是什么類型的數(shù)據(jù)。它可以是圖像,可以是視頻,可以是聲音,它都能做同樣的事情。
杰弗里·布萊克本:哦,我們會(huì)談到圖像的。是的,(Jeff笑)但確實(shí),文本提示可以生成圖像或視頻,現(xiàn)在你甚至可以看到相反的情況。
米拉·穆拉蒂:是的,正是如此。所以我們發(fā)現(xiàn)這個(gè)公式實(shí)際上效果很好,數(shù)據(jù)、計(jì)算資源和深度學(xué)習(xí),然后你可以放入不同類型的數(shù)據(jù),增加計(jì)算資源,AI系統(tǒng)的性能就會(huì)越來越好。這就是我們所說的擴(kuò)展定律。它們并不是實(shí)際的法律,基本上是對(duì)模型能力隨著你投入更多數(shù)據(jù)和計(jì)算資源而提高的統(tǒng)計(jì)預(yù)測。這就是推動(dòng)今天人工智能進(jìn)步的動(dòng)力。
為什么選擇聊天機(jī)器人作為第一款產(chǎn)品?
杰弗里·布萊克本:你們?yōu)槭裁磸牧奶鞕C(jī)器人開始?
米拉·穆拉蒂::是的,在產(chǎn)品方面,實(shí)際上我們是從API開始的。我們并不真的知道如何將GPT-3商業(yè)化。將AI技術(shù)商業(yè)化實(shí)際上非常非常困難。最初,我們對(duì)此掉以輕心,非常專注于構(gòu)建技術(shù)和進(jìn)行研究。我們認(rèn)為,這是一個(gè)了不起的模型,商業(yè)合作伙伴可以拿去構(gòu)建出色的產(chǎn)品。然后我們發(fā)現(xiàn),這實(shí)際上非常難。所以這就是為什么我們開始自己動(dòng)手做,我們驗(yàn)證一下我們自己的想法
杰弗里·布萊克本:那讓你們構(gòu)建了一個(gè)聊天機(jī)器人,因?yàn)槟銈冎皇窍腧?yàn)證自己想法
米拉·穆拉蒂:是的,因?yàn)槲覀冊(cè)噲D弄清楚,為什么這些真正成功的公司實(shí)際上很難將這項(xiàng)技術(shù)轉(zhuǎn)化為有用的產(chǎn)品。
杰弗里·布萊克本:我明白了。
米拉·穆拉蒂:因?yàn)檫@是一種非常奇怪的產(chǎn)品構(gòu)建方式。你從能力開始,你從技術(shù)開始,而不是從我要解決的世界問題開始。它是一種非常通用的能力。
杰弗里·布萊克本:這很快就引出了你剛才描述的內(nèi)容,也就是更多的數(shù)據(jù)、更多的計(jì)算資源和更多的智能。這個(gè)智能會(huì)變得多聰明?聽起來你的描述是這個(gè)擴(kuò)展過程相當(dāng)線性,你添加更多的元素,它就變得更聰明。在過去幾年里,ChatGPT變得更聰明了嗎,它離人類水平的智能還有多遠(yuǎn)?
米拉·穆拉蒂:是的,這些系統(tǒng)在特定任務(wù)上已經(jīng)達(dá)到了人類水平,當(dāng)然在很多任務(wù)上還沒有。如果你看一下改進(jìn)的軌跡,像GPT-3這樣的系統(tǒng),我們也許可以說它有著幼兒級(jí)別的智能。而GPT-4這樣的系統(tǒng)更像是聰明的高中生智能。在接下來的幾年里,我們期待在特定任務(wù)上達(dá)到博士水平的智能。
杰弗里·布萊克本:比如?
米拉·穆拉蒂:所以事情在迅速變化和改進(jìn)。
杰弗里·布萊克本:意思是大約一年后?
米拉·穆拉蒂:是的,大約一年半。
杰弗里·布萊克本:你和ChatGPT對(duì)話時(shí),它看起來比你更聰明。
米拉·穆拉蒂:在某些方面,是的。在很多方面,是的。
杰弗里·布萊克本:也許離那不遠(yuǎn)了。
米拉·穆拉蒂:是的,可能吧。
杰弗里·布萊克本:很接近。
OpeanAI安全方面的工作
杰弗里·布萊克本:大致如此。嗯,這確實(shí)引出了其他問題,我知道你對(duì)這些問題非常直言不諱,我很高興并為你感到驕傲,你在安全方面做了很多工作,但人們確實(shí)想聽聽你的看法。那么,三年后,當(dāng)它變得難以置信的智能時(shí)怎么辦?它能通過所有的律師資格考試和我們做過的每一項(xiàng)測試。然后它決定自己連接到互聯(lián)網(wǎng)并開始做事。這是真的嗎,這是…還是你作為CTO和產(chǎn)品方向負(fù)責(zé)人在考慮的事情?
米拉·穆拉蒂:是的,我們對(duì)此考慮很多。這絕對(duì)是現(xiàn)實(shí),你會(huì)有具備代理能力的AI系統(tǒng),連接到互聯(lián)網(wǎng),互相交流,代理彼此連接并一起執(zhí)行任務(wù),或者代理與人類合作并無縫協(xié)作。所以與AI的合作就像我們今天彼此合作一樣。在安全、安保和社會(huì)影響方面,我認(rèn)為這些問題不是事后考慮的。你不能只是開發(fā)技術(shù),然后再想辦法處理這些問題。你必須在技術(shù)開發(fā)過程中嵌入這些問題,并以一種深度嵌入的方式來做到這一點(diǎn)。對(duì)于能力和安全,它們實(shí)際上不是分開的領(lǐng)域。它們是相輔相成的。指導(dǎo)一個(gè)更智能的系統(tǒng)要容易得多,只需告訴它,不要做這些事情,而不是指導(dǎo)一個(gè)不太智能的系統(tǒng)。這有點(diǎn)像訓(xùn)練一只更聰明的狗和一只不太聰明的狗一樣,智能和安全是相輔相成的。
杰弗里·布萊克本:因?yàn)樗斆?,所以它更理解護(hù)欄。
米拉·穆拉蒂:是的,正是如此。所以現(xiàn)在有一個(gè)關(guān)于更多安全研究還是更多能力研究的辯論。我認(rèn)為這是有點(diǎn)誤導(dǎo)的,因?yàn)槟惝?dāng)然需要考慮產(chǎn)品部署的安全性及其護(hù)欄。但在研究和開發(fā)方面,它們實(shí)際上是相輔相成的。從我們的角度來看,我們的方法是非??茖W(xué)的。讓我們?cè)囍A(yù)測這些模型在訓(xùn)練完成之前的能力。然后在此過程中,準(zhǔn)備好如何處理它們的護(hù)欄。這在行業(yè)中還沒有真正做到。我們訓(xùn)練這些模型,然后會(huì)出現(xiàn)我們稱之為的“突現(xiàn)能力”,因?yàn)樗鼈兪峭滑F(xiàn)的。我們不知道它們會(huì)出現(xiàn)。我們可以看到某種統(tǒng)計(jì)性能,但我們不知道這種統(tǒng)計(jì)性能是否意味著模型在翻譯、生物化學(xué)、編程或其他方面表現(xiàn)更好。開發(fā)這種新的能力預(yù)測科學(xué)有助于我們?yōu)槲磥碜龊脺?zhǔn)備。
杰弗里·布萊克本:你說所有這些安全工作,實(shí)際上與開發(fā)過程一致。
米拉·穆拉蒂:是的,沒錯(cuò)。
杰弗里·布萊克本:這是類似的路徑。
米拉·穆拉蒂:是,所以你必須同時(shí)進(jìn)行。
杰弗里·布萊克本:但是,像Volodymyr Zelensky說“我們投降”的視頻,Tom Hanks的視頻,或者一個(gè)牙醫(yī)廣告,這些問題呢?我不記得具體是什么。這些類型的使用場景如何處理?這是在你的職責(zé)范圍內(nèi),還是需要相應(yīng)的法規(guī)?你怎么看待這個(gè)問題的解決?
米拉·穆拉蒂:是的,所以我的看法是,這是我們的技術(shù)。所以我們有責(zé)任確保其使用,但這也是與社會(huì)、民間社會(huì)、政府、內(nèi)容創(chuàng)作者、媒體等共享的責(zé)任,以弄清楚如何使用它。但為了使其成為共同的責(zé)任,你需要讓人們參與進(jìn)來,給他們提供工具,讓他們理解并提供護(hù)欄。
杰弗里·布萊克本:這些東西很難阻止,對(duì)吧?
如何將AI風(fēng)險(xiǎn)降到最低
米拉·穆拉蒂:我認(rèn)為不可能做到零風(fēng)險(xiǎn),但關(guān)鍵是如何將風(fēng)險(xiǎn)降到最低,并為人們提供工具來實(shí)現(xiàn)這一點(diǎn)。以政府為例,非常重要的是讓他們參與進(jìn)來,給他們提供早期訪問,教育他們了解正在發(fā)生的事情。
杰弗里·布萊克本:政府。
米拉·穆拉蒂:當(dāng)然,還有監(jiān)管機(jī)構(gòu)。我認(rèn)為ChatGPT最重要的貢獻(xiàn)之一是將AI引入公眾意識(shí),讓人們對(duì)技術(shù)的能力和風(fēng)險(xiǎn)有一個(gè)直觀的理解。讀到這些與親身體驗(yàn)是不同的,當(dāng)你在自己的業(yè)務(wù)中嘗試它時(shí),你會(huì)看到它不能做這些事情,但它能做其他驚人的事情,這實(shí)際上對(duì)勞動(dòng)力或我的業(yè)務(wù)意味著什么。這讓人們做好準(zhǔn)備。
杰弗里·布萊克本:是的,這是一個(gè)很好的觀點(diǎn)。你們創(chuàng)建的這些界面,像ChatGPT,讓人們了解即將到來的變化。你可以使用它,現(xiàn)在可以看到其背后的內(nèi)容。關(guān)于政府的觀點(diǎn),我想再問一下。就拿美國來說,你希望現(xiàn)在就實(shí)施某些法規(guī)嗎?在一兩年后,它會(huì)變得非常智能,有點(diǎn)嚇人。那么現(xiàn)在應(yīng)該做些什么呢?
米拉·穆拉蒂:我們一直在倡導(dǎo)對(duì)前沿模型進(jìn)行更多監(jiān)管,這些模型有驚人的能力,也因?yàn)檎`用而有潛在的負(fù)面影響。我們一直與政策制定者公開討論,并與監(jiān)管機(jī)構(gòu)合作。在更短期和較小的模型方面,我認(rèn)為允許生態(tài)系統(tǒng)中的廣泛性和豐富性是好的,不要讓那些沒有太多計(jì)算資源或數(shù)據(jù)的人無法創(chuàng)新。因此,我們一直在倡導(dǎo)對(duì)前沿系統(tǒng)進(jìn)行更多監(jiān)管,因?yàn)檫@些系統(tǒng)的風(fēng)險(xiǎn)更高。而且你可以在變化發(fā)生之前預(yù)先準(zhǔn)備,而不是試圖跟上已經(jīng)迅速發(fā)生的變化。
杰弗里·布萊克本:但你可能不希望華盛頓特區(qū)來監(jiān)管你發(fā)布GPT-5的時(shí)間,比如你能否這樣做。
米拉·穆拉蒂:這實(shí)際上取決于具體的監(jiān)管。所以我們已經(jīng)做了很多工作,這些工作現(xiàn)在已經(jīng)在白宮的承諾中得到體現(xiàn)。
杰弗里·布萊克本:所以已經(jīng)在進(jìn)行了。
米拉·穆拉蒂:工作已經(jīng)在進(jìn)行了。它實(shí)際上也影響了白宮的承諾以及聯(lián)合國委員會(huì)在AI部署原則方面的工作。通常,我認(rèn)為正確的做法是先進(jìn)行工作,理解其實(shí)際意義,然后基于此創(chuàng)建法規(guī)。這是目前的做法。要提前應(yīng)對(duì)前沿系統(tǒng),需要做更多的預(yù)測和能力預(yù)測科學(xué),以便制定正確的監(jiān)管措施。
杰弗里·布萊克本:我希望政府有能夠理解你們?cè)谧鍪裁吹娜恕?/p>
米拉·穆拉蒂:看起來越來越多的人加入政府,他們對(duì)AI有更好的理解,但還不夠。
AI對(duì)各個(gè)行業(yè)的影響
杰弗里·布萊克本:在行業(yè)方面,你可能是世界上最能看到AI如何影響各個(gè)行業(yè)的人。它已經(jīng)在金融、內(nèi)容、媒體和醫(yī)療保健中產(chǎn)生了影響。但展望未來,你認(rèn)為哪些行業(yè)會(huì)受到AI和OpenAI工作的最大影響?
米拉·穆拉蒂:這有點(diǎn)類似于我們開始基于GPT-3構(gòu)建產(chǎn)品時(shí),企業(yè)家們問我的問題,“我可以用它做什么?它擅長什么?”我的回答是,一切。所以去嘗試吧。我認(rèn)為這有點(diǎn)類似,我認(rèn)為它會(huì)影響所有領(lǐng)域,沒有哪個(gè)領(lǐng)域不會(huì)受到影響,無論是認(rèn)知工作還是認(rèn)知?jiǎng)趧?dòng)。也許進(jìn)入物理世界會(huì)花更長時(shí)間,但我認(rèn)為所有領(lǐng)域都會(huì)受到影響。我們已經(jīng)看到…我認(rèn)為在高風(fēng)險(xiǎn)領(lǐng)域,如醫(yī)療保健或法律領(lǐng)域,有一定的滯后。這是有道理的。首先,你要在低風(fēng)險(xiǎn)和中等風(fēng)險(xiǎn)的用例中引入它,確保這些領(lǐng)域的使用得到了充分的處理,然后再應(yīng)用于高風(fēng)險(xiǎn)的事情。最初,需要更多的人類監(jiān)督,然后可以逐漸改變授權(quán),逐步進(jìn)行更為協(xié)作的應(yīng)用。
杰弗里·布萊克本:有沒有你個(gè)人喜歡的、看到的或者即將看到的用例?
米拉·穆拉蒂:是的,我認(rèn)為基本上你嘗試做的任何事情的第一部分,無論是創(chuàng)建新設(shè)計(jì)、編寫代碼、寫文章、寫電子郵件或基本上任何事情,第一部分變得非常容易。這是我最喜歡的用法。目前我真的用它來寫各種類型文稿。
杰弗里·布萊克本:所有事情的初稿。
米拉·穆拉蒂:是的,所有事情的初稿。它快得多。它降低了做某事的門檻,你可以專注于更具創(chuàng)意和更困難的部分,尤其是在編程方面。你可以將很多繁瑣的工作外包出去。
杰弗里·布萊克本:文檔和類似的東西。
米拉·穆拉蒂:是的,文檔和其他類似文件 但在工業(yè)界,我們看到了很多應(yīng)用??蛻舴?wù)絕對(duì)是一個(gè)重要的應(yīng)用,使用聊天機(jī)器人,寫作和分析也是,因?yàn)楝F(xiàn)在我們已經(jīng)將很多工具連接到核心模型上,這使得這些模型更加可用和高效。所以你有像代碼分析這樣的工具。它實(shí)際上可以分析大量數(shù)據(jù)。你可以將各種數(shù)據(jù)放進(jìn)去,它可以幫助你分析和過濾數(shù)據(jù),或者你可以使用圖像和瀏覽工具。所以如果你在準(zhǔn)備一篇論文,研究工作可以更快且更嚴(yán)格地完成。所以我認(rèn)為這是生產(chǎn)力的下一層,將這些工具添加到核心模型中,并使其非常無縫。模型決定何時(shí)使用分析工具、搜索或其他東西。
杰弗里·布萊克本:編寫程序。是的,是的。有趣。它看過每部電視劇和電影嗎,它會(huì)開始編寫劇本和制作電影嗎?
米拉·穆拉蒂:它是一個(gè)工具。因此,它當(dāng)然可以作為工具做到這一點(diǎn),我預(yù)計(jì)我們實(shí)際上會(huì)與它合作,這將擴(kuò)展我們的創(chuàng)造力。如果你現(xiàn)在考慮人類如何看待創(chuàng)造力,我們認(rèn)為這是一個(gè)只有少數(shù)有才華的人才能接觸到的非常特殊的東西。而這些工具實(shí)際上降低了任何人認(rèn)為自己有創(chuàng)造力并擴(kuò)展他們創(chuàng)造力的門檻。所以從這個(gè)意義上說,我認(rèn)為它實(shí)際上會(huì)非常不可思議。
杰弗里·布萊克本:是的,可以很容易地給我200種不同的懸念,作為第一集的結(jié)尾。
米拉·穆拉蒂:是的。你可以延續(xù)這個(gè)故事,故事永遠(yuǎn)不會(huì)結(jié)束。你可以繼續(xù)。我寫完了,但可以繼續(xù)。
杰弗里·布萊克本:這很有趣。
米拉·穆拉蒂:但我認(rèn)為它真的會(huì)成為一個(gè)協(xié)作工具,尤其是在創(chuàng)意領(lǐng)域。
杰弗里·布萊克本:我也是這樣認(rèn)為的。
米拉·穆拉蒂:是的,更多的人會(huì)變得更有創(chuàng)造力。
杰弗里·布萊克本:現(xiàn)在有些恐懼。
米拉·穆拉蒂:是的,當(dāng)然。
杰弗里·布萊克本:但你說這會(huì)改變,人類會(huì)發(fā)現(xiàn)如何使工作的創(chuàng)意部分變得更好?
米拉·穆拉蒂:我認(rèn)為是的,有些創(chuàng)意工作可能會(huì)消失,但如果產(chǎn)生的內(nèi)容質(zhì)量不高,也許它們本不應(yīng)該存在。但我真的相信,將其用作教育和創(chuàng)造力的工具,將擴(kuò)展我們的智力、創(chuàng)造力和想象力。
杰弗里·布萊克本:當(dāng)時(shí)人們認(rèn)為CGI等會(huì)破壞電影業(yè)。他們非常害怕。我認(rèn)為這是更大的一件事,但任何類似的新事物,立即的反應(yīng)都會(huì)是“哦天哪,這是…”,但我希望你在電影和電視方面是對(duì)的。好的,你提到了工作方面的問題,暫且不提好萊塢的事,有很多人擔(dān)心他們的工作處于風(fēng)險(xiǎn)中。你對(duì)AI對(duì)工作的影響有什么看法,不僅僅是你在OpenAI所做的工作,而是整體上。人們應(yīng)該真的擔(dān)心這個(gè)嗎,哪些工作會(huì)受到影響,你怎么看待這一切?
米拉·穆拉蒂:是的,事實(shí)是我們還不完全理解AI對(duì)工作的影響。第一步是幫助人們了解這些系統(tǒng)的能力,了解它們能做什么,將它們整合到他們的工作流程中,然后開始預(yù)測和預(yù)測影響。我認(rèn)為人們沒有意識(shí)到這些工具已經(jīng)在使用了,而且完全沒有進(jìn)行研究。所以我們應(yīng)該研究現(xiàn)在工作的性質(zhì)、教育的性質(zhì),這將幫助我們?yōu)檫@些增強(qiáng)的能力做準(zhǔn)備。在具體的工作方面,我不是經(jīng)濟(jì)學(xué)家,但我確實(shí)預(yù)見到很多工作會(huì)發(fā)生變化,一些工作會(huì)消失,一些工作會(huì)出現(xiàn)。我們不確切知道它會(huì)是什么樣子,但你可以想象很多重復(fù)性的工作,那些僅僅是嚴(yán)格重復(fù)性的工作,人們沒有進(jìn)一步發(fā)展的,那些工作將會(huì)被取代。
AI對(duì)就業(yè)機(jī)會(huì)的影響
杰弗里·布萊克本:你認(rèn)為其他地方會(huì)創(chuàng)造足夠的就業(yè)機(jī)會(huì)來彌補(bǔ)這一點(diǎn)嗎?
米拉·穆拉蒂:我認(rèn)為會(huì)創(chuàng)造很多工作,但到底會(huì)創(chuàng)造多少、改變多少、失去多少工作,我不知道。我認(rèn)為沒人真的知道,因?yàn)檫@還沒有被嚴(yán)格研究,但確實(shí)應(yīng)該被研究。我認(rèn)為經(jīng)濟(jì)會(huì)轉(zhuǎn)型,這些工具會(huì)創(chuàng)造很多價(jià)值。所以問題是,我們?nèi)绾卫眠@些價(jià)值?如果工作的性質(zhì)真的改變了,那么我們?nèi)绾螌⑦@種經(jīng)濟(jì)價(jià)值分配到社會(huì)中?是通過公共福利?是通過基本收入?還是通過其他新的系統(tǒng)?有很多問題需要探索和解決。
杰弗里·布萊克本:高等教育在你描述的工作中有很大的作用。這還沒有完全實(shí)現(xiàn)。
米拉·穆拉蒂:是的。
未來AI在教育中扮演的角色
杰弗里·布萊克本:高等教育和AI的未來還有什么?你認(rèn)為高等教育在你所看到的發(fā)展中的角色是什么?
米拉·穆拉蒂:我認(rèn)為真正需要弄清楚的是如何使用這些工具和AI來推進(jìn)教育。因?yàn)槲艺J(rèn)為AI最強(qiáng)大的應(yīng)用之一將會(huì)在教育方面,推進(jìn)我們的創(chuàng)造力和知識(shí)。我們有機(jī)會(huì)建立超級(jí)高質(zhì)量且非常容易獲得的教育,理想情況下是免費(fèi)提供給世界上任何人,無論是任何語言或文化細(xì)微差別。你真的可以為世界上任何人提供定制的理解和教育。當(dāng)然,在像達(dá)特茅斯這樣的機(jī)構(gòu),課堂較小,你會(huì)有很多關(guān)注,但即便如此,你仍然可以想象有一對(duì)一的輔導(dǎo),不僅在這里,更不用說在世界其他地方了。
杰弗里·布萊克本:補(bǔ)充。
米拉·穆拉蒂:是的。因?yàn)槲覀儧]有花足夠的時(shí)間學(xué)習(xí)如何學(xué)習(xí)。這種事情發(fā)生得很晚,可能在大學(xué)。這是一個(gè)基本的事情,如何學(xué)習(xí),否則你會(huì)浪費(fèi)很多時(shí)間。課程、教材、問題集,一切都可以根據(jù)你的實(shí)際學(xué)習(xí)方式進(jìn)行定制。
杰弗里·布萊克本:你認(rèn)為在像達(dá)特茅斯這樣的地方,它可以補(bǔ)充一些正在發(fā)生的學(xué)習(xí)嗎?
米拉·穆拉蒂:哦,絕對(duì)是的。
觀眾提問環(huán)節(jié)
杰弗里·布萊克本:只要有AI作為導(dǎo)師等等。我們可以開放提問嗎?你愿意接受觀眾提問嗎?可以嗎?
米拉·穆拉蒂:很高興。
杰弗里·布萊克本:好的。我們?yōu)槭裁床贿@樣做呢。Dave,你想開始嗎?
Dave: 當(dāng)然,如果你不介意的話。達(dá)特茅斯的第一位計(jì)算機(jī)科學(xué)家之一John Kemeny曾經(jīng)講過一個(gè)關(guān)于每個(gè)由人類構(gòu)建的計(jì)算機(jī)程序都嵌入了人類價(jià)值觀的講座,無論是有意還是無意的。我想知道的是,你認(rèn)為GPT產(chǎn)品中嵌入了哪些人類價(jià)值觀,或者換句話說,我們應(yīng)該如何將尊重、公平、公正、誠實(shí)、正直等價(jià)值觀嵌入到這些工具中?
米拉·穆拉蒂:這是一個(gè)很好的問題,也很難,這是我們多年來一直在思考的事情。所以現(xiàn)在,如果你看看這些系統(tǒng),很多價(jià)值觀是通過數(shù)據(jù)輸入的,而這些數(shù)據(jù)來自互聯(lián)網(wǎng)、許可數(shù)據(jù)、以及由人類合同工標(biāo)記的某些問題或問題。每一個(gè)輸入都有特定的價(jià)值觀,這些是他們價(jià)值觀的集合,這很重要。當(dāng)你實(shí)際將這些產(chǎn)品投入使用時(shí),我認(rèn)為你有機(jī)會(huì)通過讓更多的人使用它來獲得更廣泛的價(jià)值觀集合。所以現(xiàn)在,ChatGPT有一個(gè)免費(fèi)的版本,最強(qiáng)大的系統(tǒng),由全球超過1億人使用。這些人中的每一個(gè)都可以為ChatGPT提供反饋。如果他們?cè)试S我們使用這些數(shù)據(jù),我們將用它來創(chuàng)建一個(gè)價(jià)值觀的集合,使系統(tǒng)更好,更符合人們的期望。但這只是默認(rèn)系統(tǒng)。你還需要在其上面建立一個(gè)自定義層,每個(gè)社區(qū)都可以有自己的價(jià)值觀,比如學(xué)校、教堂、國家,甚至是州。他們可以在這個(gè)具有基本人類價(jià)值觀的默認(rèn)系統(tǒng)之上,提供更具體和精確的價(jià)值觀。我們也在研究如何實(shí)現(xiàn)這一點(diǎn)。但這顯然是一個(gè)非常困難的問題,因?yàn)槿祟愔g有分歧,還有技術(shù)問題。在技術(shù)問題上,我認(rèn)為我們已經(jīng)取得了很多進(jìn)展。我們有像強(qiáng)化學(xué)習(xí)與人類反饋這樣的方法,給人們提供機(jī)會(huì)將他們的價(jià)值觀輸入系統(tǒng)。
我們剛剛開發(fā)了一個(gè)稱為Spec的東西,它提供了系統(tǒng)價(jià)值觀的透明度。我們正在建立一種反饋機(jī)制,收集如何改進(jìn)Spec的輸入和數(shù)據(jù)。你可以把它看作是AI系統(tǒng)的憲法,但它是一個(gè)不斷發(fā)展的憲法。它隨著時(shí)間的推移變得更加精確,因?yàn)槲覀兊膬r(jià)值觀也在不斷發(fā)展。這是我們?cè)诖罅抗ぷ鞯氖虑?。我認(rèn)為現(xiàn)在我們關(guān)注的是基本價(jià)值觀。但隨著系統(tǒng)變得越來越復(fù)雜,我們將不得不考慮更精細(xì)的價(jià)值觀。
杰弗里·布萊克本:你能防止AI生氣嗎?
米拉·穆拉蒂:生氣?
杰弗里·布萊克本:是的。這是其中一個(gè)價(jià)值觀嗎?
米拉·穆拉蒂:這應(yīng)該由你來決定。如果你作為用戶,完全可以控制AI的情緒變化。
杰弗里·布萊克本:哦,如果你想要一個(gè)生氣的聊天機(jī)器人,你可以擁有它。
米拉·穆拉蒂:是的,如果你想要一個(gè)生氣的聊天機(jī)器人,你應(yīng)該可以擁有一個(gè)生氣的聊天機(jī)器人。
杰弗里·布萊克本:好的,就在這里。
Dr. Joy: 你好,謝謝。這里是Dr. Joy。恭喜你獲得榮譽(yù)學(xué)位,并祝賀你在OpenAI所做的一切。我非常好奇你對(duì)創(chuàng)作權(quán)和生物特征權(quán)的看法。你之前提到可能有些創(chuàng)意工作不應(yīng)該存在,許多創(chuàng)意人士正在思考關(guān)于同意、賠償?shù)膯栴},無論是專有模型還是開源模型,其數(shù)據(jù)都是從互聯(lián)網(wǎng)上獲取的。所以我非常好奇你對(duì)同意和賠償涉及創(chuàng)作權(quán)的看法。既然我們?cè)诖髮W(xué)里,你知道多部分問題的回答嗎?另一個(gè)問題是關(guān)于生物特征權(quán)的,所以當(dāng)涉及到聲音、面孔等問題時(shí)。最近關(guān)于Sky的聲音的爭議,以及你也可以有相似聲音和相似面孔的人,以及在如此重要的選舉年出現(xiàn)的所有虛假信息威脅,我也非常好奇你對(duì)生物特征權(quán)方面的看法。
米拉·穆拉蒂:好的,我從最后一部分開始… 我們?cè)谡Z音技術(shù)方面做了大量研究,直到最近才發(fā)布它們,正是因?yàn)樗鼈儙砹撕芏囡L(fēng)險(xiǎn)和問題。但重要的是要讓社會(huì)參與進(jìn)來,以一種可以有護(hù)欄和控制風(fēng)險(xiǎn)的方式提供訪問,并讓其他人研究和在這些問題上取得進(jìn)展。例如,我們正在與機(jī)構(gòu)合作,幫助我們思考在有聲音和視頻的情況下,人類與AI的互動(dòng),因?yàn)檫@些是非常情感激發(fā)的模態(tài)。我們需要開始理解這些事情會(huì)如何發(fā)展以及如何準(zhǔn)備。在那種特定情況下,Sky的聲音不是Scarlett Johansson的,也不打算是,它是一個(gè)完全平行的過程。我負(fù)責(zé)選擇聲音,而我們的CEO正在與Scarlett Johansson對(duì)話… 出于對(duì)她的尊重,我們將其撤下。有些人看到一些相似之處,這些是主觀的,我認(rèn)為你可以… 是的,你可以制定一些紅隊(duì)測試流程,例如,如果聲音被認(rèn)為非常非常接近一個(gè)非常知名的公眾聲音,那么也許你不會(huì)選擇那個(gè)特定的聲音。
在我們的紅隊(duì)測試中,這沒有出現(xiàn),但這就是為什么重要的是也要有更廣泛的紅隊(duì)測試,以便在需要時(shí)及早捕捉這些問題。但更廣泛地說,關(guān)于生物特征的問題,我認(rèn)為我們的策略是最初給一些人,通常是專家或紅隊(duì)成員,提供訪問,幫助我們很好地理解風(fēng)險(xiǎn)和能力。然后我們建立緩解措施,當(dāng)我們對(duì)這些緩解措施更有信心時(shí),逐步向更多人開放訪問。所以我們不允許人們使用這項(xiàng)技術(shù)制作自己的聲音,因?yàn)槲覀冞€在研究風(fēng)險(xiǎn),我們不認(rèn)為我們能處理該領(lǐng)域的誤用。但我們對(duì)處理在一個(gè)小范圍內(nèi)的非常具體的聲音的誤用感覺良好,這本質(zhì)上是擴(kuò)展的紅隊(duì)測試。當(dāng)我們將其擴(kuò)展到一千用戶時(shí),我們的Alpha發(fā)布,我們將與用戶密切合作,收集反饋并理解邊緣情況,以便我們?cè)跀U(kuò)展使用到十萬人時(shí)為這些邊緣情況做好準(zhǔn)備。然后是百萬,然后是億,等等。但這是在大量控制下進(jìn)行的,這就是我們所謂的迭代部署。如果我們不能對(duì)這些用例感到滿意,那么我們將不會(huì)在特定用例或擴(kuò)展用戶中發(fā)布它們,我們可能會(huì)嘗試在某種程度上削弱產(chǎn)品,因?yàn)槟芰惋L(fēng)險(xiǎn)是相輔相成的。但我們也在進(jìn)行大量研究,幫助我們處理內(nèi)容來源和內(nèi)容真實(shí)性的問題,以便人們有工具來理解某些東西是否是深度偽造或傳播虛假信息。
自從OpenAI成立以來,我們一直在研究虛假信息,并建立了很多工具,如水印、內(nèi)容政策,允許我們管理虛假信息的可能性,特別是在今年是全球選舉年。我們?cè)谶@方面的工作更加密集。但這是一個(gè)極具挑戰(zhàn)的領(lǐng)域,作為技術(shù)和產(chǎn)品的制造者,我們需要做大量工作,同時(shí)與民間社會(huì)、媒體和內(nèi)容創(chuàng)作者合作,以解決這些問題。當(dāng)我們開發(fā)像音頻或Sora這樣的技術(shù)時(shí),我們?cè)诩t隊(duì)成員之后首先與內(nèi)容創(chuàng)作者合作,以實(shí)際了解技術(shù)如何幫助他們以及如何構(gòu)建既安全、有用且對(duì)社會(huì)有益的產(chǎn)品。這就是我們?cè)贒all-E上所做的,也是我們?cè)赟ORA視頻生成模型上所做的。
米拉·穆拉蒂:你的第一個(gè)問題。
Dr. Joy: 創(chuàng)作權(quán)。
米拉·穆拉蒂:創(chuàng)作權(quán)。
Dr. Joy: 關(guān)于補(bǔ)償、同意、控制和信用。
米拉·穆拉蒂:是的,這也非常重要且具有挑戰(zhàn)性。目前我們與媒體公司進(jìn)行了很多合作,也給予人們很多控制他們數(shù)據(jù)如何在產(chǎn)品中使用的權(quán)利。如果他們不希望他們的數(shù)據(jù)被用于改進(jìn)模型或用于任何研究或訓(xùn)練,這完全可以,我們不會(huì)使用這些數(shù)據(jù)。對(duì)于創(chuàng)作者社區(qū),我們?cè)缙诰吞峁┻@些工具的訪問權(quán)限,這樣我們可以首先聽取他們的意見,了解他們希望如何使用這些工具,并構(gòu)建最有用的產(chǎn)品。而且這些都是研究產(chǎn)物,我們不必不惜一切代價(jià)去構(gòu)建產(chǎn)品。只有當(dāng)我們找到一種真正有助于推動(dòng)人類進(jìn)步的方式時(shí),我們才會(huì)去做。我們還在實(shí)驗(yàn)一些方法,基本上創(chuàng)建我們的工具,允許人們因?yàn)閿?shù)據(jù)貢獻(xiàn)而獲得補(bǔ)償。這在技術(shù)方面和構(gòu)建這樣的產(chǎn)品方面都非常棘手,因?yàn)槟惚仨毰宄囟〝?shù)量的數(shù)據(jù)在之后訓(xùn)練的模型中創(chuàng)造了多少價(jià)值。也許單個(gè)數(shù)據(jù)的價(jià)值很難衡量,但如果你能創(chuàng)建一個(gè)數(shù)據(jù)聚合和池的聯(lián)盟,可能會(huì)更好。在過去的兩年里,我們一直在實(shí)驗(yàn)各種版本的這個(gè)概念。我們還沒有部署任何東西,但我們一直在技術(shù)方面進(jìn)行實(shí)驗(yàn),試圖真正理解技術(shù)問題。我們已經(jīng)取得了一些進(jìn)展,但這確實(shí)是一個(gè)非常困難的問題。
Dr. Joy: 我敢打賭會(huì)有很多新公司試圖為此構(gòu)建解決方案。
米拉·穆拉蒂:是的,還有其他公司。
Dr. Joy: 這太難了。
米拉·穆拉蒂:是的。
主持人: 非常感謝你抽出時(shí)間來和我們談話。我的問題很簡單。如果你今天重返學(xué)校,重新來到Thayer或Dartmouth,你會(huì)做什么,會(huì)不做什么?你會(huì)選擇什么專業(yè),或者你會(huì)參與更多的事情嗎?類似這樣的事情。
米拉·穆拉蒂:我想我會(huì)學(xué)同樣的東西,但可能會(huì)少一些壓力。是的,我認(rèn)為我仍然會(huì)學(xué)習(xí)數(shù)學(xué)和其他… 也許我會(huì)多選一些計(jì)算機(jī)科學(xué)課程。但我會(huì)減少壓力,因?yàn)檫@樣你會(huì)以更多的好奇心和快樂去學(xué)習(xí),這會(huì)更高效。但我記得,作為學(xué)生,我總是有點(diǎn)擔(dān)心未來會(huì)怎樣。如果我現(xiàn)在知道這些,對(duì)年輕的自己,我會(huì)說,其實(shí)每個(gè)人都會(huì)告訴我,“不要有壓力”,但不知為何這并沒有用。當(dāng)我與年長的校友交談時(shí),他們總是說:“盡量享受它,完全沉浸其中,少些壓力。”我認(rèn)為,特別是在具體課程上,現(xiàn)在有廣泛的科目范圍并對(duì)每件事都有一點(diǎn)理解是好的。我發(fā)現(xiàn)這在學(xué)校和以后都非常有幫助,因?yàn)榧词宫F(xiàn)在我在一個(gè)研究機(jī)構(gòu)工作,我也在不斷學(xué)習(xí)。你永遠(yuǎn)不會(huì)停止。這對(duì)理解每件事都有一點(diǎn)幫助非常有用。
杰弗里·布萊克本: 非常感謝!
米拉·穆拉蒂:謝謝你們今天的到來,也感謝你們?yōu)樯鐣?huì)所做的極其重要的工作,說實(shí)話。這真的很重要,我很高興你在這個(gè)位置上
杰弗里·布萊克本:我們所有人,包括Thayer和Dartmouth的所有人都感謝你。所以我認(rèn)為這是一個(gè)結(jié)束的好地方,對(duì)我們的學(xué)生來說也是一個(gè)很好的建議。這是一個(gè)非常有趣的對(duì)話,再次感謝大家的到來。享受畢業(yè)周末的剩余時(shí)間吧。