摘要:場景和痛點說明我們工作場景都常會導(dǎo)出相關(guān)的數(shù)據(jù),有時候需要大量的數(shù)據(jù),,都有可能我們現(xiàn)有方案都是直接利用等類庫來操作,的加載或是寫入一次導(dǎo)出會遇到超時內(nèi)存和時間限制問題,就算我們依舊不是最好的方案下面我們利用輸出,把數(shù)據(jù)依次輸出清空再輸出的
場景和痛點 說明
我們工作場景都常會導(dǎo)出相關(guān)的excel數(shù)據(jù),有時候需要大量的數(shù)據(jù),10W,100W都有可能編寫過程 說明我們現(xiàn)有方案都是直接利用phpexcel等類庫來操作,phpexcel的load加載或是寫入一次導(dǎo)出會遇到超時內(nèi)存和時間限制問題,就算我們ini_set依舊不是最好的方案
下面我們利用php輸出csv,把數(shù)據(jù)依次輸出清空再輸出的方式到輸出終端(瀏覽器訪問就是瀏覽器輸出)
關(guān)鍵具體在代碼里注釋代碼
$v) { $column_name[$i] = iconv("utf-8", "GBK", $v); } // 將標(biāo)題名稱通過fputcsv寫到文件句柄 fputcsv($fp, $column_name); $export_data = []; for ($i = 0; $i < 10; $i++) { foreach (range(1, 100000) as $k => $v) { $export_data[] = [ "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v ]; } foreach ($export_data as $item) { $rows = array(); foreach ($item as $export_obj) { $rows[] = iconv("utf-8", "GBK", $export_obj); } fputcsv($fp, $rows); } $export_data = []; //重新復(fù)制,釋放掉舊數(shù)據(jù) } fclose($fp); $endTime = microtime(true); $memoryUse = memory_get_usage(); file_put_contents("11.log", "內(nèi)存占用:" . convert($memoryUse) . "; 用時:" . ($endTime - $startTime) . PHP_EOL, 8); exit(0);結(jié)果 測試說明
我們模擬數(shù)據(jù),輸入了100萬(10000 * 10)數(shù)據(jù)日志記錄內(nèi)存使用率
# 文件大小:84.7 MB (88,889,540 字節(jié)) # 這里的用時因為業(yè)務(wù)模擬,所以具體根據(jù)操作業(yè)務(wù)數(shù)據(jù)可能會更長,內(nèi)存占用同理 內(nèi)存占用:118.99 kb; 用時:74.375253915787
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/29002.html
關(guān)于 PHP 導(dǎo)出 excel csv 常用的有 PHPexcel ,本文整理了一些其他方案。 高性能 Excel 擴展 sudo apt-get install -y zlib1g-dev git clone https://github.com/jmcnamara/libxlsxwriter.git cd libxlsxwriter make && sudo make install // ...
摘要:而常用的包需要把所有數(shù)據(jù)拿到后才能生成,在面對生成超大數(shù)據(jù)量的文件時這顯然是會造成內(nèi)存溢出的,所以考慮使用讓邊寫入輸出流邊讓瀏覽器下載的形式來完成需求。 最近接到一個需求,通過選擇的時間段導(dǎo)出對應(yīng)的用戶訪問日志到excel中, 由于用戶量較大,經(jīng)常會有導(dǎo)出50萬加數(shù)據(jù)的情況。而常用的PHPexcel包需要把所有數(shù)據(jù)拿到后才能生成excel, 在面對生成超大數(shù)據(jù)量的excel文件時這顯然...
摘要:最近在做后臺管理的項目,后臺通常有數(shù)據(jù)導(dǎo)出到的需要,經(jīng)過之前搜索通常推薦使用的是,我經(jīng)常使用的是,對于也有很好用的對應(yīng)。 最近在做后臺管理的項目,后臺通常有數(shù)據(jù)導(dǎo)出到 excel 的需要,經(jīng)過之前搜索通常推薦使用的是 php excel ,我經(jīng)常使用的是 laravel ,對于 php excel 也有很好用的對應(yīng) package。 開始使用是非常好用的,但是當(dāng)需要導(dǎo)出的數(shù)據(jù)達到上萬...
摘要:目前導(dǎo)出方式占用內(nèi)存較大。比如有些狀態(tài)字段,數(shù)據(jù)庫存的就是數(shù)字或只占一個字節(jié),完全換成中文狀態(tài)的話,可能達個字節(jié)甚至更多。若是必須要用中文形式。中文亂碼解決的話,其實也很簡單,函數(shù),將轉(zhuǎn)為編碼,在中打開就不會錯了 問題描述:目前、一般情況下,在web開發(fā)過程中,使用導(dǎo)入導(dǎo)出報表的情形很多。我們先說導(dǎo)出。項目數(shù)據(jù)量多導(dǎo)出行數(shù)較多,50萬行左右,選擇的是csv方式導(dǎo)出。針對以下應(yīng)用場景,導(dǎo)...
閱讀 1619·2023-04-25 14:12
閱讀 1085·2021-08-27 16:24
閱讀 2542·2019-08-30 15:44
閱讀 2921·2019-08-30 13:16
閱讀 1673·2019-08-29 14:10
閱讀 972·2019-08-29 13:54
閱讀 1306·2019-08-29 13:09
閱讀 1814·2019-08-26 18:37