如何使用大數(shù)據(jù)SEARCH AGGREGATION
回答:我先假設(shè)題主問(wèn)的大文件在1G~20G左右，這應(yīng)該算常規(guī)的大文件。平常我在做機(jī)器學(xué)習(xí)模型時(shí)候我喜歡先在本機(jī)上做玩具模型，里面有個(gè)步驟就是經(jīng)常要讀取文件數(shù)據(jù)，也差不多這么一個(gè)數(shù)據(jù)量。一般來(lái)說(shuō)，Python讀取大文件的方式可以使用原生的open函數(shù)或者pandas的read_csv函數(shù)都可以達(dá)到目的。open函數(shù)Python讀取文件一般是用open函數(shù)讀取，例如f=open(xx,r)后f.read()...
Tangpj
|
1374人閱讀
回答:目前階段大數(shù)據(jù)技術(shù)及體系已經(jīng)逐漸趨于成熟，不再是以概念貫穿的模式，大數(shù)據(jù)越來(lái)越多的被使用，伴隨互聯(lián)網(wǎng)化的發(fā)展更多的企業(yè)信息化已經(jīng)由IT時(shí)代轉(zhuǎn)變?yōu)镈T時(shí)代，以數(shù)據(jù)為核心，用數(shù)據(jù)進(jìn)行決策，基于數(shù)據(jù)驅(qū)動(dòng)企業(yè)的創(chuàng)新與發(fā)展，相信在將來(lái)大數(shù)據(jù)也會(huì)有更廣泛的應(yīng)用空間，對(duì)于大數(shù)據(jù)的理解主要分為以下幾個(gè)層面。1.數(shù)據(jù)來(lái)源：對(duì)于大數(shù)據(jù)時(shí)代而言更多強(qiáng)調(diào)基于業(yè)務(wù)數(shù)據(jù)的沉淀，在一定規(guī)模的數(shù)據(jù)上進(jìn)行進(jìn)一步的分析、處理、轉(zhuǎn)換，...
arashicage
|
1327人閱讀
回答:大數(shù)據(jù)是處理海量數(shù)據(jù)的一種技術(shù)，你說(shuō)的寫SQL只能處理結(jié)構(gòu)化數(shù)據(jù)，更多的是非結(jié)構(gòu)化數(shù)據(jù)（文本數(shù)據(jù)），和半結(jié)構(gòu)化數(shù)據(jù)。并且通過(guò)SQL處理的數(shù)據(jù)量一般很少，幾個(gè)T就根本不行，大數(shù)據(jù)涉及存儲(chǔ)（存儲(chǔ)級(jí)別為PB級(jí)別），資源調(diào)度（一般是分布式系統(tǒng)，不是一臺(tái)機(jī)器），計(jì)算框架（hadoop;storm;spark）這三部分，缺一不可，你說(shuō)的寫SQL只是相當(dāng)于計(jì)算框架（勉強(qiáng)算得上，性能差遠(yuǎn)了）。
tracymac7
|
893人閱讀
回答:這是一個(gè)非常好的問(wèn)題，作為一名IT從業(yè)者，同時(shí)也在帶大數(shù)據(jù)方向的研究生，所以我來(lái)回答一下這個(gè)問(wèn)題。首先，從技術(shù)體系結(jié)構(gòu)上來(lái)看，當(dāng)前的大數(shù)據(jù)技術(shù)已經(jīng)趨于成熟了，在數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)分析、數(shù)據(jù)呈現(xiàn)和數(shù)據(jù)應(yīng)用等方面，已經(jīng)形成了一整套技術(shù)框架，相關(guān)的技術(shù)生態(tài)也在不斷完善當(dāng)中。當(dāng)前大型科技公司也開(kāi)始逐漸形成自己的大數(shù)據(jù)平臺(tái)，不同平臺(tái)也都有自身的技術(shù)特點(diǎn)，總的來(lái)說(shuō)，當(dāng)前在技術(shù)上已經(jīng)為大數(shù)據(jù)的行業(yè)應(yīng)用創(chuàng)新奠定了基礎(chǔ)...
alexnevsky
|
1395人閱讀
回答:謝謝邀請(qǐng)！大數(shù)據(jù)是我的主要研究方向之一，同時(shí)也在帶大數(shù)據(jù)方向的研究生，所以我來(lái)回答一下這個(gè)問(wèn)題。學(xué)習(xí)大數(shù)據(jù)首先要根據(jù)自身的知識(shí)結(jié)構(gòu)選擇學(xué)習(xí)方向，比如數(shù)學(xué)和統(tǒng)計(jì)學(xué)專業(yè)的學(xué)生可以選擇數(shù)據(jù)分析方向，而計(jì)算機(jī)專業(yè)的學(xué)生可以選擇大數(shù)據(jù)開(kāi)發(fā)方向，不同的學(xué)習(xí)方向需要制定不同的學(xué)習(xí)計(jì)劃。雖然不同的學(xué)習(xí)方向往往需要學(xué)習(xí)不同的內(nèi)容，但是對(duì)于零基礎(chǔ)的學(xué)習(xí)者來(lái)說(shuō)，以下三方面基礎(chǔ)知識(shí)是都需要學(xué)習(xí)的：第一：編程語(yǔ)言。不論是選...
546669204
|
725人閱讀
...數(shù)據(jù)中心龐大、復(fù)雜的運(yùn)維問(wèn)題，以及設(shè)備老化問(wèn)題；但如何采納云計(jì)算仍有沒(méi)有成熟做法，是否應(yīng)該公有云+私有云一體，即混合云的方式？2.云計(jì)算對(duì)大型企業(yè)的挑戰(zhàn)與機(jī)會(huì)，主要原因是傳統(tǒng)企業(yè)決策者、管理者對(duì)于新技...
...資源而提供的。我們已經(jīng)進(jìn)入了新一輪技術(shù)驅(qū)動(dòng)的時(shí)代那如何理解大數(shù)據(jù)與云計(jì)算的關(guān)系？在中國(guó)計(jì)算機(jī)學(xué)會(huì)大數(shù)據(jù)專家委員會(huì)副主任車品覺(jué)看來(lái)：人工智能、深度學(xué)習(xí)，這些都是二十年前就有的技術(shù)，但是二十年前沒(méi)有大數(shù)據(jù)...
...：從信息獲得動(dòng)力，危機(jī)和機(jī)遇同時(shí)存在，未來(lái)的前景會(huì)如何？ 7.VISCOSITY：是否受到困擾？需要采取進(jìn)一步行動(dòng)嗎？ 8.VIRALITY：它是否傳達(dá)了一個(gè)可以粘貼到演示文檔中的信息？ 2.如何能夠接觸大數(shù)據(jù)？ 數(shù)據(jù)在現(xiàn)實(shí)生活中無(wú)處不...
...了數(shù)據(jù)孤島；其三，伴隨著數(shù)據(jù)量逐漸擴(kuò)大，分散的數(shù)據(jù)如何聯(lián)動(dòng)，挖掘更大的價(jià)值成為諸多公司探索重點(diǎn)；而數(shù)據(jù)分析、數(shù)據(jù)資產(chǎn)管理、數(shù)據(jù)安全也面臨越來(lái)越嚴(yán)峻的挑戰(zhàn)。企業(yè)用戶在云端搭建大數(shù)據(jù)平臺(tái)時(shí)，往往會(huì)被大數(shù)據(jù)...
...上也成為業(yè)內(nèi)人士焦慮的一種誘因了。 但無(wú)論技術(shù)熱點(diǎn)如何變換，我們能看到的是，隨著行業(yè)沉下心來(lái)進(jìn)行實(shí)質(zhì)的落地，大數(shù)據(jù)生態(tài)也越來(lái)越細(xì)分。今天就我和大家來(lái)談?wù)劥髷?shù)據(jù)領(lǐng)域的一些新變化、新趨勢(shì)。 一、數(shù)據(jù)治理與安...
...上也成為業(yè)內(nèi)人士焦慮的一種誘因了。 但無(wú)論技術(shù)熱點(diǎn)如何變換，我們能看到的是，隨著行業(yè)沉下心來(lái)進(jìn)行實(shí)質(zhì)的落地，大數(shù)據(jù)生態(tài)也越來(lái)越細(xì)分。今天就我和大家來(lái)談?wù)劥髷?shù)據(jù)領(lǐng)域的一些新變化、新趨勢(shì)。 一、數(shù)據(jù)治理與安...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
一、活動(dòng)亮點(diǎn)：全球31個(gè)節(jié)點(diǎn)覆蓋 + 線路升級(jí)，跨境業(yè)務(wù)福音！爆款云主機(jī)0.5折起：香港、海外多節(jié)點(diǎn)...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說(shuō)合適，...
孫吉亮
