文章庫(kù)ARTICLE COLUMN
摘要：在過(guò)去幾年中，深度學(xué)習(xí)改變了整個(gè)人工智能的發(fā)展。在本文中，我將介紹年深度學(xué)習(xí)的一些主要進(jìn)展，與年深度學(xué)習(xí)進(jìn)展版本一樣，我沒(méi)有辦法進(jìn)行詳盡的審查。最后的想法與去年的情況一樣，年深度學(xué)習(xí)技術(shù)的使用持續(xù)增加。 在過(guò)去幾年中，深度學(xué)習(xí)改變了整...
摘要：特征匹配改變了生成器的損失函數(shù)，以最小化真實(shí)圖像的特征與生成的圖像之間的統(tǒng)計(jì)差異。我們建議讀者檢查上使用的損失函數(shù)和相應(yīng)的性能，并通過(guò)實(shí)驗(yàn)驗(yàn)證來(lái)設(shè)置。相反，我們可能會(huì)將注意力轉(zhuǎn)向?qū)ふ以谏善餍阅懿患褧r(shí)不具有接近零梯度的損失函數(shù)。 前 ?...
摘要：是為了大規(guī)模分布式訓(xùn)練和推理而設(shè)計(jì)的，不過(guò)它在支持新機(jī)器學(xué)習(xí)模型和系統(tǒng)級(jí)優(yōu)化的實(shí)驗(yàn)中的表現(xiàn)也足夠靈活。本文對(duì)能夠同時(shí)兼具規(guī)模性和靈活性的系統(tǒng)架構(gòu)進(jìn)行了闡述。盡管大多數(shù)訓(xùn)練庫(kù)仍然只支持，但確實(shí)能夠支持有效的推理。 TensorFlow 是為了大規(guī)模...
摘要：層常用的操作集大多數(shù)情況下，在編寫(xiě)機(jī)器學(xué)習(xí)模型代碼時(shí)，您希望在比單個(gè)操作和操作單個(gè)變量更高的抽象級(jí)別上進(jìn)行操作。模型組合層機(jī)器學(xué)習(xí)模型中許多有趣的類層事物都是通過(guò)組合現(xiàn)有的層來(lái)實(shí)現(xiàn)的。 今天主要向大家介紹的內(nèi)容是：自定義層。我們建議使...
摘要：通用性一種新的基于數(shù)據(jù)類型的深度學(xué)習(xí)模型設(shè)計(jì)方法，使該工具可以跨許多不同的應(yīng)用領(lǐng)域使用?？衫斫庑陨疃葘W(xué)習(xí)模型內(nèi)部通常被認(rèn)為是黑匣子，但是該庫(kù)提供標(biāo)準(zhǔn)的可視化來(lái)理解它們的性能并比較它們的預(yù)測(cè)。 昨日，Uber官網(wǎng)重磅宣布新開(kāi)源深度學(xué)習(xí)框架Lud...
摘要：簡(jiǎn)稱，是基于聚焦行業(yè)應(yīng)用且提供商業(yè)支持的分布式深度學(xué)習(xí)框架，其宗旨是在合理的時(shí)間內(nèi)解決各類涉及大量數(shù)據(jù)的問(wèn)題。是負(fù)責(zé)開(kāi)發(fā)的用編寫(xiě)，通過(guò)引擎加速的深度學(xué)習(xí)框架，是目前受關(guān)注最多的深度學(xué)習(xí)框架。 作者簡(jiǎn)介魏秀參，曠視科技 Face++ 南京研究院...
摘要：這也是很多大廠都在研發(fā)的原因深度超分辨率層次結(jié)構(gòu)該文作者總結(jié)了一張非常棒的圖，可以盡覽深度學(xué)習(xí)超分辨率的方方面面作者介紹了深度學(xué)習(xí)圖像超分辨的監(jiān)督學(xué)習(xí)方法，從模型框架上采樣方法網(wǎng)絡(luò)設(shè)計(jì)方法網(wǎng)絡(luò)學(xué)習(xí)策略和可能的改進(jìn)策略進(jìn)行了細(xì)致總結(jié)。 ...
摘要：醫(yī)學(xué)圖像分析主要包含的模式識(shí)別任務(wù)是檢測(cè)定位分割配準(zhǔn)分類。面臨挑戰(zhàn)作者簡(jiǎn)述了深度學(xué)習(xí)用于醫(yī)學(xué)圖像分析面臨的挑戰(zhàn)，主要有缺少較精確的標(biāo)注數(shù)據(jù)。關(guān)注能對(duì)醫(yī)學(xué)圖像分析帶來(lái)啟發(fā)的其他計(jì)算機(jī)視覺(jué)機(jī)器學(xué)習(xí)領(lǐng)域的新工作。 今天arXiv新上一篇論文《Goin...
摘要：谷歌發(fā)布的一篇論文給出了較早的關(guān)于深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練相關(guān)的理論證明，實(shí)驗(yàn)觀察結(jié)果也為初步解釋梯度下降強(qiáng)于貝葉斯優(yōu)化奠定了基礎(chǔ)。 谷歌 AI 發(fā)布的一篇論文給出了較早的關(guān)于深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練相關(guān)的理論證明，實(shí)驗(yàn)觀察結(jié)果也為初步解釋梯度下降強(qiáng)于貝...
摘要：來(lái)自原作者，快如閃電，可稱目標(biāo)檢測(cè)之光。實(shí)現(xiàn)教程去年月就出現(xiàn)了，實(shí)現(xiàn)一直零零星星。這份實(shí)現(xiàn)，支持用自己的數(shù)據(jù)訓(xùn)練模型?，F(xiàn)在可以跑腳本了來(lái)自原作者拿自己的數(shù)據(jù)集訓(xùn)練快速訓(xùn)練這個(gè)就是給大家一個(gè)粗略的感受，感受的訓(xùn)練過(guò)程到底是怎樣的。 來(lái)自Y...
摘要：該研究成果由韓國(guó)團(tuán)隊(duì)發(fā)表于論文地址訓(xùn)練數(shù)據(jù)恰當(dāng)?shù)挠?xùn)練數(shù)據(jù)有助于提高網(wǎng)絡(luò)訓(xùn)練性能。在將損失函數(shù)應(yīng)用于輸入圖像之前，用輸入圖像替換了掩模外部的圖像的剩余部分?？傮w損失函數(shù)如下其中，發(fā)生器用進(jìn)行訓(xùn)練，鑒別器用進(jìn)行訓(xùn)練。 為一個(gè)設(shè)計(jì)師，是否整...
摘要：最近老顧收到很多讀者來(lái)信，絕大多數(shù)詢問(wèn)對(duì)抗生成網(wǎng)絡(luò)的最優(yōu)傳輸解釋，以及和蒙日安培方程的關(guān)系。蒙日安培方程的幾何解法硬件友好，可以用目前的并行實(shí)現(xiàn)。蒙日安培方程的正則性理論更加復(fù)雜，但是對(duì)于模式塌縮的理解非常關(guān)鍵。 最近老顧收到很多讀者...
摘要：我們將這些現(xiàn)象籠統(tǒng)稱為廣義的模式崩潰問(wèn)題。這給出了模式崩潰的直接解釋。而傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)只能逼近連續(xù)映射，這一矛盾造成了模式崩潰。 春節(jié)前夕，北美遭遇極端天氣，在酷寒中筆者來(lái)到哈佛大學(xué)探望丘成桐先生。新春佳節(jié)，本是普天同慶的日子，但對(duì)...
摘要：另外，在損失函數(shù)中加入感知正則化則在一定程度上可緩解該問(wèn)題。替代損失函數(shù)修復(fù)缺陷的最流行的補(bǔ)丁是。的作者認(rèn)為傳統(tǒng)損失函數(shù)并不會(huì)使收集的數(shù)據(jù)分布接近于真實(shí)數(shù)據(jù)分布。原來(lái)?yè)p失函數(shù)中的對(duì)數(shù)損失并不影響生成數(shù)據(jù)與決策邊界的距離。 盡管 GAN 領(lǐng)域...
摘要：如何把女神的黑白照片變成彩照今日小編發(fā)現(xiàn)新加坡數(shù)據(jù)科學(xué)與人工智能部門在上介紹了一個(gè)為百年舊照上色的項(xiàng)目。照片為新加坡華人女子學(xué)校，攝于年期間。來(lái)自新加坡國(guó)家檔案館的原始照片左和上色后的照片右。利用給年的湯加太平洋島國(guó)舊照上色。 一鍵點(diǎn)...
摘要：年月，騰訊機(jī)智機(jī)器學(xué)習(xí)平臺(tái)團(tuán)隊(duì)在數(shù)據(jù)集上僅用分鐘就訓(xùn)練好，創(chuàng)造了訓(xùn)練世界紀(jì)錄。訓(xùn)練期間采用預(yù)定的批量變化方案。如此，我們也不難理解騰訊之后提出的層級(jí)的思想了。你可能覺(jué)得這對(duì)于索尼大法而言不算什么，但考慮到維護(hù)成本和占地，這就很不經(jīng)濟(jì)了...
摘要：現(xiàn)在英偉達(dá)官方終于承認(rèn)了缺陷的存在。財(cái)報(bào)后股價(jià)暴跌麻煩還不止于此。今天早間，英偉達(dá)的新一季度財(cái)報(bào)發(fā)布。第三季度財(cái)報(bào)顯示，英偉達(dá)營(yíng)收億美元，同比增長(zhǎng)凈利潤(rùn)億美元，同比增長(zhǎng)。這份財(cái)報(bào)發(fā)布后，英偉達(dá)盤(pán)后股價(jià)一度跳崖暴跌。 RTX 2080 Ti，英偉達(dá)...
摘要：目前，支持尚未完成僅支持加載編碼的和，還未支持編碼。部分支持對(duì)象檢測(cè)網(wǎng)絡(luò)的版本缺少一些提供矩形列表的最終圖層。而且，此更改也已添加到分支。請(qǐng)注意，僅在英特爾上進(jìn)行測(cè)試，因此仍需要額外的。為了使實(shí)時(shí)采集處理有高效，在模塊中更新了支持。 O...
摘要：為了探索多種訓(xùn)練方案，何愷明等人嘗試了在不同的迭代周期降低學(xué)習(xí)率。實(shí)驗(yàn)中，何愷明等人還用預(yù)訓(xùn)練了同樣的模型，再進(jìn)行微調(diào)，成績(jī)沒(méi)有任何提升。何愷明在論文中用來(lái)形容這個(gè)結(jié)果。 何愷明，RBG，Piotr Dollár。三位從Mask R-CNN就開(kāi)始合作的大神搭...
摘要：第二部分高級(jí)概念我們現(xiàn)在對(duì)卷積有了一個(gè)良好的初步認(rèn)識(shí)，也知道了卷積神經(jīng)網(wǎng)絡(luò)在干什么為什么它如此強(qiáng)大。 譯自Tim Dettmers的Understanding Convolution in Deep Learning。有太多的公開(kāi)課、教程在反復(fù)傳頌卷積神經(jīng)網(wǎng)絡(luò)的好，卻都沒(méi)有講什么是卷積...
摘要：大家好，今天我們來(lái)給講講關(guān)于在中的使用規(guī)則。在某些情況下，最理想的是進(jìn)程只分配可用內(nèi)存的一個(gè)子集，或者僅根據(jù)進(jìn)程需要增加內(nèi)存使用量。 大家好，今天我們來(lái)給講講關(guān)于 TensorFlow 在 GPU 中的使用規(guī)則。支持的設(shè)備在一套標(biāo)準(zhǔn)系統(tǒng)中通常有多臺(tái)計(jì)算...
摘要：早在年，就知道將成為其未來(lái)的關(guān)鍵部分，與其他一些科技公司一樣，專注于深度學(xué)習(xí)，將其專門用于分類照片和進(jìn)行人臉識(shí)別。表示，如果沒(méi)有深度學(xué)習(xí)，尤其無(wú)法運(yùn)作。深度學(xué)習(xí)也有助于的內(nèi)容過(guò)濾，并有助于從社交網(wǎng)絡(luò)中刪除仇恨言論等內(nèi)容。 如果沒(méi)有人工...
摘要：直播改變了這兩條線。他們被允許攜帶手機(jī)和平板電腦，用來(lái)接收教輔資料。屏幕那端，熱情洋溢的七中老師提出了問(wèn)題，七中的學(xué)生七嘴八舌地回答。一塊屏幕帶來(lái)了想象不到的震蕩。 過(guò)去一段時(shí)間，我們的記者試著去了解這樣一件事情：248所貧困地區(qū)的中學(xué)，...
摘要：有了我們的新方法，叫做神經(jīng)架構(gòu)優(yōu)化，我們利用基于梯度的方法在更緊密的空間中做優(yōu)化。表如下展示了不同卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)在圖片分類數(shù)據(jù)集上的表現(xiàn)，這些架構(gòu)由不同算法生成。 如果你是一名深度學(xué)習(xí)實(shí)踐者，你可能發(fā)現(xiàn)自己經(jīng)常會(huì)遇到同一個(gè)關(guān)鍵問(wèn)題：...
摘要：量子計(jì)算碰上機(jī)器學(xué)習(xí)，谷歌今日的博客介紹了他們?cè)诹孔由窠?jīng)網(wǎng)絡(luò)方面的進(jìn)展。在論文中，谷歌構(gòu)建了一個(gè)量子神經(jīng)網(wǎng)絡(luò)，該模型專為短期內(nèi)可能出現(xiàn)的量子處理器而設(shè)計(jì)。 量子計(jì)算碰上機(jī)器學(xué)習(xí)，谷歌今日的博客介紹了他們?cè)诹孔由窠?jīng)網(wǎng)絡(luò)方面的進(jìn)展。谷歌人...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
一、活動(dòng)亮點(diǎn)：全球31個(gè)節(jié)點(diǎn)覆蓋 + 線路升級(jí)，跨境業(yè)務(wù)福音！爆款云主機(jī)0.5折起：香港、海外多節(jié)點(diǎn)...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說(shuō)合適，...
89542767
社區(qū)管理員
白馬嘯西風(fēng)