文章庫ARTICLE COLUMN
2023年12月28日 英偉達宣布正式發(fā)布GeForce RTX 4090D，對比于一年前上市的4090芯片，兩者的區(qū)別與差異在哪？而在當前比較火熱的大模型推理、AI繪畫場景方面 兩者各自的表現(xiàn)又如何呢？規(guī)格與參數(shù)信息對比現(xiàn)在先來看看GeForce RTX 4090D到底與之前的GeForce RT...
自2022年年末英偉達發(fā)布4090芯片以來，這款產(chǎn)品憑借著其優(yōu)異的性能迅速在科技界占據(jù)了一席之地?，F(xiàn)如今，不論是在游戲體驗、內(nèi)容創(chuàng)作能力方面還是模型精度提升方面，4090都是一個繞不過去的名字。而A100作為早些發(fā)布的產(chǎn)品，其優(yōu)異的能力和適配性已經(jīng)為它打下...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得廉價算力，進行AI視頻生成等模型開發(fā)和應用呢？Compshare是隸屬于UCloud云計算的GPU算力平臺，專注提供高性價比的NVIDIA RTX 40 系列資源，滿足 AI應用、模型推理/微...
在深度學習和人工智能應用，選最合的硬件對于模型訓練和推任務關(guān)。在大模型訓練，英偉達4090并不是最的選。訓練任務通常要更大的顯存容量、更的內(nèi)存帶寬的計算能。這些求，英偉達的高性能顯卡系列，比如A100和H100，更適合處理大數(shù)據(jù)集和復雜模型。，在推理任...
DeepSeek V3憑借多頭潛注意力（MLA）與優(yōu)化的混合專家網(wǎng)絡（MoE）架構(gòu)，奠定了高效訓練的基礎(chǔ)，僅以557.6萬元成本實現(xiàn)媲美OpenAI O1的性能；而R1則基于V3進一步突破，通過無監(jiān)督強化學習與知識蒸餾技術(shù)，在推理能力上對標頂尖模型，同時開源多尺寸版本，推動...
Coze 官方宣布，他們已經(jīng)成功集成了 OpenAI 推出的最新AI 助手 GPT-4o，為用戶帶來了更智能、更強大的聊天體驗。GPT-4o 是 OpenAI 的力作，它的加入將為 Coze 用戶提供更便捷、更高效的溝通和交流方式。這里演示創(chuàng)建一個Google Web Search和DALLE 3插件的的聊...
DeepSeek-R1-671b動態(tài)量化版，由unsloth.ai發(fā)布，推薦使用多卡進行部署，具體操作如下。本鏡像還附帶32b的無限制版蒸餾模型，使用open-webui和ollama以及l(fā)lama.cpp進行部署，內(nèi)置所有環(huán)境，即拉即用。第一步：登錄「優(yōu)云智算」算力共享平臺并進入「鏡像社區(qū)」...
DeepSeek-R1 Distill系列基于DeepSeek-R1的推理能力，通過蒸餾技術(shù)將推理能力遷移到較小的模型上，在保持高效性能的同時，成功降低了計算成本，實現(xiàn)了小身材、大智慧的完美平衡！該鏡像使用vLLM部署提供支持，適用于高性能大語言模型的推理和微調(diào)任務，第...
在人工智能領(lǐng)域，每一天都可能發(fā)生顛覆性的變革。就在Midjourney剛剛進行大更新的第二天，開源圖像生成領(lǐng)域就迎來了一匹令人矚目的黑馬——FLUX.1。這個突如其來的新玩家不僅在性能上聲稱大幅超越了DALL·E3、Midjourney V6等閉源模型，還將開源的SD3系列全線...
自從OpenAI公布了Sora后，震爆了全世界，但由于其技術(shù)的不成熟和應用的局限性，未能大規(guī)模推廣，只有零零散散的幾個公布出來的一些視頻。昨日，快手成立13周年，可靈（Kling）大模型發(fā)布，體驗后不由得感嘆，炸裂，太震撼了，快手可靈，除了那個沒發(fā)布的Sora...
項目簡介DeepSeek-V2，一個專家混合(MoE)語言模型，其特點是經(jīng)濟高效的訓練和推理。它包含 2360 億個總參數(shù)，其中每個token激活了21億個參數(shù)。與 DeepSeek67B相比，DeepSeek-V2 實現(xiàn)了更強的性能，同時節(jié)省了 42.5%的訓練成本，將 KV 緩存減少了 93.3%，并將...
在當今的圖形處理領(lǐng)域，NVIDIA一直以其卓越的性能和創(chuàng)新的技術(shù)引領(lǐng)市場潮流。作為其最新的旗艦級顯卡，GeForce RTX 4090一經(jīng)發(fā)布便吸引了無數(shù)玩家的目光。作為最大的賣點，游戲性能以及功效無疑是這張顯卡作為佼佼者的地方；于此同時，其關(guān)于視頻編輯、3D建模...
當炒作出了「潑天的流量」，已經(jīng)沒人關(guān)心產(chǎn)品厲不厲害了。近日，OpenAI 的秘密項目「Q*」引起了業(yè)內(nèi)人士的廣泛關(guān)注。上個月，代號為「草莓（Strawberry）」的項目曝光，據(jù)說它是「Q*」的延續(xù)，并可能具備高級推理能力。而就在最近幾天，關(guān)于這個項目，網(wǎng)絡上...
優(yōu)刻得Compshare GPU平臺上線「黑悟空專屬套餐」啦！僅需3步，即可使用云端4090暢玩，新用戶還有20元免費體驗金！1、注冊Compshare賬號并完成實名認證https://www.compshare.cn/?ytag=seo2、創(chuàng)建GPU資源選擇單張40系顯卡，鏡像選擇黑神話悟空鏡像（預裝steam...
簡介一周前，由紅杉投資的硅谷初創(chuàng)公司UTA AI推出了其核心產(chǎn)品Wanderboat AI，這是一個基于GPT-4技術(shù)的智能旅行規(guī)劃工具。該平臺允許用戶通過對話交互來明確旅行的偏好和需求，并提供包括目的地、活動和實用建議在內(nèi)的定制化旅行建議。Wanderboat AI整合了視...
Compshare是一個專注于提供高性價比算力資源的平臺，它為AI訓練、深度學習、科研計算等場景提供強大的支持。平臺的核心優(yōu)勢在于其高效的GPU算力資源，用戶可以根據(jù)自己的需求，靈活選擇不同的GPU配置，實現(xiàn)一鍵部署和即算即用，從而顯著提升工作效率。100% GP...
【compshare】推薦一個GPU按小時租的平臺，使用實體機部署，可以方便快速的部署xinf推理框架并提供web展示，部署qwen大模型，特別方便UCloud(優(yōu)刻得)是中國知名的中立云計算服務商，科創(chuàng)板上市(股票代碼：688158)，中國云計算第一股，專注于提供可靠的企業(yè)級...
GLM-4-Plus是智譜AI最新推出的旗艦級預訓練語言模型，標志著公司在人工智能技術(shù)上取得了重大突破。相比前一代GLM-3模型，GLM-4-Plus在多個關(guān)鍵指標上實現(xiàn)了大幅提升，尤其是在語言理解能力、指令遵循能力和長文本處理能力方面。這些進步使得GLM-4-Plus在各類...
OpenAI最近發(fā)布了新一代AI推理模型——o1，標志著其在復雜推理任務上的重大進展。該模型包括兩個版本：o1-preview和o1-mini，分別針對復雜推理和快速處理任務。模型需要長時間思考，非GPT家族，調(diào)用方式需要修改調(diào)用成本3倍起步調(diào)用次數(shù)嚴格限制，每周幾十次...
在人工智能的浪潮中，個性化體驗已成為創(chuàng)新的關(guān)鍵。而隨著各種各樣的模型迭代更新，如何為AI應用提供持久、智能的記憶系統(tǒng)逐漸成為了一個關(guān)鍵挑戰(zhàn)。最近開源的Mem0項目為我們提供了一個強大的解決方案。它為大型語言模型(LLM)提供了一個智能、自我優(yōu)化的記憶...
號稱地表最強人形機器人，來了。當?shù)貢r間周二早晨，獲得微軟、英偉達、OpenAI投資的硅谷著名智能創(chuàng)業(yè)公司 Figure 正式發(fā)布了自己的新一代人形機器人Figure 02?；跈C載算力和各個組件的全方位升級，AI人形機器人朝著進廠打工又邁進了一大步。據(jù)介紹...
DeepSeek Janus-Pro開源模型DeepSeek團隊于1月28日凌晨發(fā)布了開源多模態(tài)大語言模型Janus-Pro，這是一款基于DeepSeek-LLM-1.5b-base和DeepSeek-LLM-7b-base構(gòu)建的模型。第一步：登錄「優(yōu)云智算」算力共享平臺并進入「鏡像社區(qū)」地址：https://www.compshare.cn...
2月10日，清華大學KVCache.AI團隊聯(lián)合趨境科技發(fā)布的KTransformers開源項目公布更新：一塊24G顯存的4090D就可以在本地運行DeepSeek-R1、V3的671B滿血版。預處理速度最高達到286 tokens/s，推理生成速度最高能達到14 tokens/s。KTransformers通過優(yōu)化本地...
DeepSeek 的持續(xù)火熱，吸引了大量個人開發(fā)者和企業(yè)用戶，他們期望借助 DeepSeek 大模型的強大能力，融合私有知識庫，訓練出契合自身需求的專屬大模型，因此紛紛選擇通過云端或本地部署的方式來獨立部署 DeepSeek。今天，優(yōu)刻得就為大家?guī)淼谝黄诔瑢嵱酶韶洠?..
Llama3 中文聊天項目綜合資源庫，該文檔集合了與Lama3 模型相關(guān)的各種中文資料，包括微調(diào)版本、有趣的權(quán)重、訓練、推理、評測和部署的教程視頻與文檔。1. 多版本支持與創(chuàng)新：該倉庫提供了多個版本的Lama3 模型，包括基于不同技術(shù)和偏好的微調(diào)版本，如直接中文...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
一、活動亮點：全球31個節(jié)點覆蓋 + 線路升級，跨境業(yè)務福音！爆款云主機0.5折起：香港、海外多節(jié)點...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
89542767
白馬嘯西風