一本在线视频精品,精品国产一区二区三区AV片,日本免费a级毛,久久精品国产在热99

.CN 三亞資訊 生活散文
用戶名:    密碼:   注冊(cè)
  工行 中行 建行 交行 農(nóng)行 郵政銀行   百度翻譯        京東 微博 網(wǎng)易 新浪 百度        163郵箱 QQ郵箱     
首頁(yè)> 熱點(diǎn)資訊
Llama成大模型頂流
2024-07-31 10:23    3841次

開源與閉源的紛爭(zhēng)已久,現(xiàn)在或許已經(jīng)達(dá)到了一個(gè)新的高潮。

說到開源大模型,Llama 系列自誕生以來就是典型代表,其優(yōu)秀的性能與開源特點(diǎn)讓人工智能技術(shù)的應(yīng)用性和可訪問性大大提升。任何研究人員和開發(fā)者都能夠從中獲益,讓研究和應(yīng)用變得更加廣泛。

在官方博客中,Meta 表示:「直到今天,開源大語言模型在功能和性能方面大多落后于封閉模型?,F(xiàn)在,我們正在迎來一個(gè)開源引領(lǐng)的新時(shí)代?!?/p>

與此同時(shí),Meta 創(chuàng)始人、CEO 扎克伯格親自撰寫長(zhǎng)文闡述開源對(duì)所有開發(fā)者、對(duì) Meta、對(duì)世界的意義。他表示,開源是 AI 積極發(fā)展的必要條件。以 Unix 和 Linux 的發(fā)展為例,開源 AI 將更有利于創(chuàng)新、數(shù)據(jù)保護(hù)和成本效益。

他還認(rèn)為,開源 Llama 模型能夠建立一個(gè)完整的生態(tài)系統(tǒng),確保技術(shù)進(jìn)步,并且不會(huì)因?yàn)楦?jìng)爭(zhēng)而失去優(yōu)勢(shì)。Meta 有著成功的開源歷史,通過開源 AI 模型,扎克伯格希望促進(jìn)全球技術(shù)的平等和安全應(yīng)用。

原文鏈接:https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/

以下是原文內(nèi)容:

扎克伯克為 Meta 注入開源基因

在高性能計(jì)算的早期,各大主流科技公司都投入大量資金開發(fā)各自的閉源 Unix 版本。當(dāng)時(shí)很難想象會(huì)有其他方法能開發(fā)出如此先進(jìn)的軟件。

然而,開源的 Linux 逐漸流行起來:最初是因?yàn)樗试S開發(fā)人員自由修改代碼且價(jià)格更實(shí)惠,而后來它變得更先進(jìn)、更安全,并且擁有比任何閉源 Unix 更廣泛的生態(tài)系統(tǒng),支持更多的功能。今天,Linux 已成為云計(jì)算和運(yùn)行大多數(shù)移動(dòng)設(shè)備的操作系統(tǒng)的行業(yè)標(biāo)準(zhǔn)基礎(chǔ), 大家都因其卓越的產(chǎn)品受益。

我相信人工智能的發(fā)展也與其發(fā)展軌跡類似。今天,一些科技公司正在開發(fā)領(lǐng)先的閉源模型,但開源正在迅速縮小差距。

去年,Llama 2 僅能與一代舊型號(hào)相媲美。而在今年,Llama 3 在某些領(lǐng)域已經(jīng)可以與行業(yè)中領(lǐng)先的模型競(jìng)爭(zhēng)甚至領(lǐng)先。明年開始,我們預(yù)計(jì)未來的 Llama 模型將成為行業(yè)中最先進(jìn)的大模型。在此之前,Llama 也已經(jīng)在開放性、可修改性和成本效益方面領(lǐng)先。

今天,我們正邁出下一步 —— 使開源 AI 成為行業(yè)標(biāo)準(zhǔn)。我們發(fā)布了首個(gè)前沿級(jí)開源 AI 模型 Llama 3.1 405B,以及改進(jìn)版的 Llama 3.1 70B 和 8B 模型。較于閉源模型,這些開源模型在成本效益上顯著提升,特別是 405B 模型的開源特性,使其成為微調(diào)和蒸餾小型模型的最佳選擇。

除了發(fā)布這些模型,我們還與多家公司合作,拓展更廣泛的生態(tài)系統(tǒng)。亞馬遜、Databricks 和英偉達(dá)正在推出全套服務(wù),支持開發(fā)者微調(diào)和蒸餾他們自己的模型。像 Groq 這樣的創(chuàng)新者已經(jīng)為所有新模型構(gòu)建了低延遲、低成本的推理服務(wù)。

這些模型將在包括 AWS、Azure、Google、Oracle 等所有主要云平臺(tái)上可用。Scale.AI、戴爾、德勤等公司已經(jīng)準(zhǔn)備好幫助企業(yè)采用 Llama 并使用他們自己的數(shù)據(jù)訓(xùn)練定制模型。隨著社區(qū)的成長(zhǎng)和更多公司開發(fā)新服務(wù),我們可以共同使 Llama 成為行業(yè)標(biāo)準(zhǔn),并將 AI 的益處帶給每個(gè)人。

Meta 致力于開源 AI,以下是我認(rèn)為開源是最佳開發(fā)平臺(tái)的原因,為什么開源 Llama 對(duì) Meta 有利,以及為什么開源 AI 對(duì)世界有益,并由此將長(zhǎng)期存在。

開源 AI 之于開發(fā)者

當(dāng)我與全球的開發(fā)者、CEO 和政府官員交談時(shí),通常聽到幾個(gè)主題:

我們需要訓(xùn)練、微調(diào)和蒸餾自己的模型。每個(gè)組織都有不同的需求,這些需求最好通過使用不同規(guī)模并使用特定數(shù)據(jù)訓(xùn)練或微調(diào)的模型來滿足。設(shè)備上的任務(wù)和分類任務(wù)需要小型模型,而更復(fù)雜的任務(wù)則需要大型模型。現(xiàn)在,你可以使用最先進(jìn)的 Llama 模型,繼續(xù)用自己的數(shù)據(jù)訓(xùn)練它們,然后將它們蒸餾成最適合你需求的模型規(guī)模 —— 無需我們或任何其他人看到你的數(shù)據(jù)。

我們需要掌控自己的命運(yùn),而不是被閉源供應(yīng)商「鎖死」。許多組織不希望依賴他們無法自己運(yùn)行和控制的模型。他們不希望閉源模型供應(yīng)商能夠更改模型、改變使用條款,甚至完全停止服務(wù)。他們也不希望被鎖定在擁有模型專有權(quán)的單一云平臺(tái)上。開源使得兼容工具鏈的廣泛生態(tài)系統(tǒng)成為可能,你可以輕松地在這些工具之間切換。

我們需要保護(hù)我們的數(shù)據(jù)。許多組織處理需要保護(hù)的敏感數(shù)據(jù),無法通過云 API 發(fā)送到閉源模型。一些組織則根本不信任閉源模型供應(yīng)商對(duì)其數(shù)據(jù)的處理。開源解決了這些問題,因?yàn)樗鼓憧梢栽谌魏文阆胍牡胤竭\(yùn)行模型。眾所周知,開源軟件會(huì)因?yàn)殚_發(fā)過程更加透明,而更安全。

我們需要一個(gè)高效且經(jīng)濟(jì)的模型。開發(fā)者可以在自己的基礎(chǔ)設(shè)施上運(yùn)行 Llama 3.1 405B,進(jìn)行推理,成本大約是使用閉源模型(如 GPT-4)的 50%,適用于用戶端和離線推理任務(wù)。

我們希望投資于將成為長(zhǎng)期標(biāo)準(zhǔn)的生態(tài)系統(tǒng)。許多人看到開源的發(fā)展速度快于封閉模型,他們希望在能夠長(zhǎng)期提供最大優(yōu)勢(shì)的架構(gòu)上構(gòu)建自己的系統(tǒng)。

開源 AI 之于 Meta

Meta 的商業(yè)模式是為人們構(gòu)建最佳體驗(yàn)和服務(wù)。為了實(shí)現(xiàn)這一目標(biāo),我們必須確保始終能夠獲取最佳技術(shù),而不是被鎖定在競(jìng)爭(zhēng)對(duì)手的封閉生態(tài)系統(tǒng)中,這樣他們就不能限制我們所開發(fā)的內(nèi)容。

我想分享一個(gè)重要經(jīng)歷:雖然蘋果公司允許我們?cè)谄淦脚_(tái)上構(gòu)建內(nèi)容,但是當(dāng)我們構(gòu)建服務(wù)時(shí)仍受到了限制。無論是他們對(duì)開發(fā)者的稅收、他們施加的任意規(guī)則,還是他們阻止的所有產(chǎn)品創(chuàng)新,顯而易見,如果我們能夠構(gòu)建產(chǎn)品的最佳版本,并且競(jìng)爭(zhēng)對(duì)手無法限制我們構(gòu)建的內(nèi)容,Meta 和許多其他公司將能夠?yàn)槿藗兲峁└玫姆?wù)。從哲學(xué)層面上講,這也是我如此堅(jiān)信在 AI 和 AR/VR 領(lǐng)域?yàn)橄乱淮?jì)算機(jī)建立開放生態(tài)系統(tǒng)的一個(gè)重要原因。

人們常常問我是否擔(dān)心因?yàn)殚_源 Llama 而失去技術(shù)優(yōu)勢(shì),但我認(rèn)為這忽略了大局,原因有以下幾點(diǎn):

首先,為了確保我們能夠長(zhǎng)期保持技術(shù)領(lǐng)先,并且不被鎖定在閉源生態(tài)系統(tǒng)中,Llama 需要發(fā)展成一個(gè)完整的生態(tài)系統(tǒng),包括工具、效率改進(jìn)、硬件優(yōu)化和其他集成。如果只有我們公司使用 Llama,這個(gè)生態(tài)系統(tǒng)將不會(huì)發(fā)展,我們的境況也不會(huì)比 Unix 的閉源變種好多少。

其次,我預(yù)計(jì) AI 開發(fā)將繼續(xù)保持高度競(jìng)爭(zhēng),這意味著在任何給定時(shí)刻,開源某個(gè)模型不會(huì)使我們?cè)谂c下一個(gè)最佳模型的競(jìng)爭(zhēng)中失去巨大優(yōu)勢(shì)。Llama 成為行業(yè)標(biāo)準(zhǔn)的途徑是通過一代又一代地保持競(jìng)爭(zhēng)力、高效性和開放性。

第三,Meta 與閉源模型提供商的一個(gè)關(guān)鍵區(qū)別在于,銷售 AI 模型的訪問權(quán)限并不是我們的商業(yè)模式。這意味著公開發(fā)布 Llama 不會(huì)削弱我們的收入、可持續(xù)性或投資研究的能力,而閉源提供商則會(huì)受到影響。(這也是為什么一些閉源提供商一直在游說公共管理者反對(duì)開源的原因之一。)

最后,Meta 在開源項(xiàng)目上有著豐富的成功經(jīng)驗(yàn)。通過與開放計(jì)算項(xiàng)目分享我們的服務(wù)器、網(wǎng)絡(luò)和數(shù)據(jù)中心設(shè)計(jì),并使供應(yīng)鏈標(biāo)準(zhǔn)化,我們節(jié)省了數(shù)十億美元。通過開源 PyTorch、React 等領(lǐng)先工具,我們從生態(tài)系統(tǒng)的創(chuàng)新中受益匪淺。這種方法長(zhǎng)期以來一直極具效果。

開源 AI 之于世界

我相信開源對(duì)于 AI 的未來是有必要的。AI 比任何其他現(xiàn)代技術(shù)都更有潛力提高人類的生產(chǎn)力、創(chuàng)造力和生活質(zhì)量,并且能夠在加速經(jīng)濟(jì)增長(zhǎng)的同時(shí)推動(dòng)醫(yī)學(xué)和科學(xué)研究的進(jìn)步。開源將確保全球更多的人能夠從 AI 的發(fā)展中獲得利益和機(jī)會(huì),權(quán)力不會(huì)集中在少數(shù)幾家公司手中,并且技術(shù)能夠更均勻和安全地在社會(huì)中部署。

關(guān)于開源 AI 模型的安全性,存在著持續(xù)的爭(zhēng)論。我的觀點(diǎn)是,開源 AI 將比替代方案更安全。我認(rèn)為各國(guó)政府最終會(huì)得出支持開源的結(jié)論,因?yàn)檫@將使世界更加繁榮和安全。

在我理解的安全性框架中,我們需要防范兩類危害:無意和故意。

無意的危害是指 AI 系統(tǒng)可能在運(yùn)行時(shí)非故意地造成傷害。例如,現(xiàn)代 AI 模型可能在無意中給出錯(cuò)誤的健康建議。或者,在未來場(chǎng)景中,有人擔(dān)心模型可能會(huì)無意中自我復(fù)制或過度優(yōu)化目標(biāo),從而對(duì)人類造成損害。

故意的危害是指不良行為者使用 AI 模型以造成傷害為目的。

值得注意的是,無意的危害涵蓋了人們對(duì) AI 的多數(shù)擔(dān)憂 —— 從 AI 系統(tǒng)對(duì)數(shù)十億用戶的影響到大多數(shù)真正災(zāi)難性的科幻場(chǎng)景。在這方面,開源所帶來的安全性更加顯著,因?yàn)橄到y(tǒng)更透明,可以被廣泛審查。

歷史上,開源軟件由于這一原因一直更安全。同樣,使用 Llama 及其安全系統(tǒng)如 Llama Guard,可能會(huì)比閉源模型更安全和更可靠。因此,大多數(shù)關(guān)于開源 AI 安全性的討論集中在故意的危害上。

我們的安全流程包括嚴(yán)格的測(cè)試和紅隊(duì)評(píng)估,以檢驗(yàn)我們的模型是否有可能造成實(shí)質(zhì)性傷害,此目標(biāo)是在發(fā)布前減輕風(fēng)險(xiǎn)。由于這些模型是開源的,任何人都可以自行進(jìn)行測(cè)試。我們必須牢記,這些模型是通過互聯(lián)網(wǎng)上已有的信息訓(xùn)練的,所以在考慮危害時(shí),起點(diǎn)應(yīng)該是模型是否能比從 Google 或其他搜索結(jié)果快速獲取的信息造成更多的危害。

通過區(qū)分個(gè)體或小規(guī)模行為者與擁有大量資源的大規(guī)模行為者(如國(guó)家)所能做的事情,將會(huì)有益于推理故意傷害。

在未來的某個(gè)時(shí)候,個(gè)別惡意行為者可能會(huì)利用 AI 模型的智能,從互聯(lián)網(wǎng)上現(xiàn)有的信息中制造出新型危害。在這一點(diǎn)上,力量的均衡對(duì) AI 安全至關(guān)重要。

我認(rèn)為生活在一個(gè) AI 廣泛部署的世界中會(huì)更好,因?yàn)檫@樣可以使大型行為者制衡小型惡意行為者。這也是我們?cè)谏缃痪W(wǎng)絡(luò)上管理安全的方式,憑借更強(qiáng)大的 AI 系統(tǒng)識(shí)別并阻止那些經(jīng)常使用小規(guī)模 AI 系統(tǒng)的不太復(fù)雜的行為者。

更廣泛地說,大型機(jī)構(gòu)在大規(guī)模部署 AI 時(shí)將促進(jìn)社會(huì)的安全和穩(wěn)定。只要每個(gè)人都能訪問類似代際的模型,那么擁有更多算力資源的政府和機(jī)構(gòu)將能夠制衡擁有較少計(jì)算資源的惡意行為者。

在考慮未來的機(jī)遇時(shí),請(qǐng)記住,今天的大多數(shù)領(lǐng)先科技公司和科學(xué)研究都是建立在開源軟件之上的。如果我們共同投資于開源 AI,下一代公司和研究就會(huì)獲得使用的機(jī)會(huì)。這包括剛剛起步的初創(chuàng)企業(yè),以及那些可能沒有資源從頭開發(fā) SOTA AI 的大學(xué)和國(guó)家的人們。

總而言之,開源 AI 代表了在全球范圍內(nèi)我們可以利用這項(xiàng)技術(shù)為所有人創(chuàng)造最大的經(jīng)濟(jì)機(jī)會(huì)和安全保障。

合作行穩(wěn),開源致遠(yuǎn)

在過去的 Llama 模型中,Meta 為自身開發(fā)發(fā)布了這些模型,但并未重點(diǎn)關(guān)注建立更廣泛的生態(tài)系統(tǒng)。這次發(fā)布,我們采取了不同的方式。我們正在內(nèi)部組建團(tuán)隊(duì),使盡可能多的開發(fā)者和合作伙伴能夠使用 Llama,并且積極建立合作伙伴關(guān)系,以便生態(tài)系統(tǒng)中的更多公司能夠?yàn)樗麄兊目蛻籼峁┆?dú)特的功能。

我相信 Llama 3.1 的發(fā)布將成為行業(yè)的一個(gè)轉(zhuǎn)折點(diǎn),大多數(shù)開發(fā)者將開始使用開源技術(shù),我預(yù)計(jì)這種方式將會(huì)以我們的開源為起點(diǎn)。

我希望我們可以共同努力將 AI 的益處帶給全世界。

  • 網(wǎng)友評(píng)論僅供網(wǎng)友表達(dá)個(gè)人看法,并不表明三亞資訊同意其觀點(diǎn)或證實(shí)其描述:
  • 驗(yàn)證碼:
  • 池州清溪河景
    雪山嶂
    МЕГАСТО - тран
    МЕГАСТО - стр?
    Настройтесь на
    МЕГАСТО - стр?
    МЕГАСТО - л?нт
    tuchjxxs
    新加坡隨拍
    BwSMk00UoUk4kW
    春立歲首,新花照眼
    合肥岸上草原
    Clava is the b
    大小洞天落日
    泰國(guó)海邊
    351國(guó)道 翻越——夾金山
    二叉樹形
    報(bào)春梅
    福州西禪寺
    窯雞
    冬顏
    林憶蓮
    when wind and
    配色
    三亞崖州灣插畫藝術(shù)節(jié)
    斜陽作畫,古墻生輝
    萬物有品
    海南興隆熱帶植物園
    18元烤鴨調(diào)查:大吃一驚 你
    石人嶂
     常用網(wǎng)址
    ?? 設(shè)計(jì)寶藏網(wǎng)
    ?? ckeditor4 文檔
    ?? 在線翻譯
    ?? Boost C++ Li
    ?? Vue (一款用于構(gòu)建用
    ?? 視覺中國(guó)
    ?? Stable Diffu
    ?? 微信官方文檔
    ?? 通義千問
    ?? 文心一言
     電腦雜記
    ?? 阿里云ECS使用465端
    ?? 避免識(shí)別為VPN訪問的方
    ?? 簡(jiǎn)潔的響應(yīng)式CSS框架選
    ?? Linux上配置IKEv
    ?? PHP購(gòu)物車類
    ?? Apache禁止目錄列表
    ?? js 對(duì)本地文件的操作
    ?? AI畫路徑結(jié)束后如何再接
    ?? MyISAM引擎特性
    ?? 插入鼠標(biāo)自動(dòng)關(guān)閉觸摸板
     三亞便民
    ?? 賀師傅開鎖配汽車鑰匙店服
    ?? 海南省小客車保有量調(diào)控管
    ?? 三亞車輛年檢
    ?? 維修家庭普通電路,電話1
    ?? 對(duì)中醫(yī)推拿有多年工作經(jīng)驗(yàn)
    ?? 海南遷禧搬家貨運(yùn)
    ?? 中國(guó)南方電網(wǎng)天涯供電所桶
    ?? 三亞中法供水有限公司
    ?? 電腦桌,保密柜,辦公家具
    ?? 泉源康體養(yǎng)生
     三亞新聞
    ?? 2023極光三亞露營(yíng)節(jié)
    ?? 來,帶你去看不一樣的崖州
    ?? 三亞擬增設(shè)一條新公交線路
    ?? 三亞市新建商品房購(gòu)房問答
    ?? 海南省住房和城鄉(xiāng)建設(shè)廳:
    ?? 崖州灣科技城一年一度“嗨
    ?? 海南省漁業(yè)監(jiān)察總隊(duì)原政委
    ?? 全球最大潛水培訓(xùn)機(jī)構(gòu)PA
    ?? 習(xí)近平總書記重要講話思維
    ?? 黨的二十大報(bào)告全文
     三亞美食
    ?? 湖南老湘味(黃流店)20
    ?? 麻辣甲魚,香辣小龍蝦
    ?? 朋友相聚商務(wù)接待,江伴月
    ?? 【春余燒烤涮】主打綠色自
    ?? 大糖糖小吃明天正式推出正
    ??  祖?zhèn)髅刂扑椒?/a>
    ?? 海掌柜海鮮
    ?? 漢密欣語(商品街店)
    ?? 小湖南家常菜館
    ?? 【牛太郎】 大型無煙
    信息發(fā)布
    瓊粹美好
    遷禧搬家
    天涯家居
    林控軟件
    三亞資訊公眾號(hào)
    關(guān)于我們      版權(quán)聲明      服務(wù)條款      聯(lián)系我們      站點(diǎn)地圖      sitemaps    瓊ICP備05002060號(hào)       ©Copyright 2003 - 2025  axa2e.cn  三亞資訊
    Powered by 霄榮廣告 傳遞美好