目前 AI 技術(shù)的謀智快速發(fā)展已經(jīng)讓很多用戶(hù)日常工作離不開(kāi) AI,不過(guò)現(xiàn)在的基金 AI 多數(shù)都是基于云端運(yùn)行的,也就是計(jì)劃推廣州海珠外圍上門(mén)服務(wù)(預(yù)約外圍)外圍vx《365-2895》提供外圍女上門(mén)服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)用戶(hù)提交的數(shù)據(jù)有潛在的泄露風(fēng)險(xiǎn)。
這個(gè)時(shí)候關(guān)注隱私的出離謀智基金會(huì)站出來(lái)了,謀智基金會(huì)宣布推出一個(gè)名為 Llamafile 的本地新開(kāi)源計(jì)劃,該開(kāi)源計(jì)劃目標(biāo)是個(gè)人幫助人們?cè)谧约旱挠布线\(yùn)行大型語(yǔ)言模型,不需要專(zhuān)用的私密使用 GPU、CPU 或者 NPU(但有 GPU 的藍(lán)點(diǎn)話(huà)可以更好的運(yùn)行)。
Llamafile 的謀智工作原理是將人工智能聊天機(jī)器人的所有復(fù)雜性壓縮為一個(gè)文件,然后該文件可以在 Windows、基金Mac、計(jì)劃推廣州海珠外圍上門(mén)服務(wù)(預(yù)約外圍)外圍vx《365-2895》提供外圍女上門(mén)服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)Linux、出離OpenBSD、本地FreeBSD、個(gè)人NetBSD 上運(yùn)行,私密使用并且?guī)缀醪恍枰惭b或者配置,也就是即開(kāi)即用。

這種 LLM 是完全在本地運(yùn)行的,不需要以來(lái)第三方商業(yè)公司提供的云端算力,數(shù)據(jù)也都是保存在本地的,不會(huì)離開(kāi)用戶(hù)的設(shè)備,甚至如果用戶(hù)愿意的話(huà),可以將自己的日常對(duì)話(huà)后的機(jī)器人模型復(fù)制到其他機(jī)器上繼續(xù)使用,這樣不用重新優(yōu)化提示詞。
目前謀智基金會(huì)并不是唯一一家要打造本地 AI 的公司,谷歌最近向 Pixel 8 Pro 提供的 Gemini 變種版本 AiCore 實(shí)際上就是一種本地 AI,利用本地設(shè)備的算力來(lái)執(zhí)行某些操作,不過(guò)目前 AiCore 的公開(kāi)信息還比較少。
謀智基金會(huì)相信開(kāi)源是解決各類(lèi)隱私問(wèn)題最有力的解決方案之一,可以通過(guò)開(kāi)源解決隱私、訪(fǎng)問(wèn)、控制的問(wèn)題,也就是我們的對(duì)話(huà)被誰(shuí)聽(tīng)到?我們的數(shù)據(jù)會(huì)被如何處理?誰(shuí)能決定 AI 回答或不回答某些問(wèn)題。
至于 Llamafile 項(xiàng)目,目前謀智基金會(huì)已經(jīng)注意到一些比較有潛力的項(xiàng)目,第一個(gè)是 Llama.cpp 項(xiàng)目,這個(gè)開(kāi)源項(xiàng)目讓普通的消費(fèi)級(jí)設(shè)備也可以運(yùn)行 LLM,而且速度并不算慢;第二個(gè)是 Cosmopolitan 項(xiàng)目,該項(xiàng)目可以一次編譯程序在各種操作系統(tǒng)和硬件上運(yùn)行。
當(dāng)然這個(gè)項(xiàng)目沒(méi)這么快搞定,謀智基金會(huì)希望開(kāi)發(fā)者或者對(duì) LLM 感興趣的用戶(hù)一起參與:https://github.com/Mozilla-Ocho/llamafile




.gif)
.gif)
.gif)
.gif)
.gif)
.gif)
.gif)
.gif)
.gif)
.gif)



