红穆笔记
首頁 語言筆記 php 將百萬的txt文件分批次導入數據庫
語言筆記 PHP

php 將百萬的txt文件分批次導入數據庫

php 将百万的txt文件分批次导入数据库

目前,MySQL數據庫用來存數據是非常不錯的,所以代碼爲:

<?php
// 調用函數
// moveFilesByExtension('./回收站', './句子採集', '.txt');die;

// 數據庫連接信息
$servername = "localhost";
$username = "";
$password = "";
$dbname = "";

// 創建數據庫連接
$conn = new mysqli($servername, $username, $password, $dbname);
if ($conn->connect_error) {
    die("數據庫連接失敗: " . $conn->connect_error);
}

// 設置每次讀取的文件數量
$fileLimit = 100;

// 打開文件夾
$folderPath = './句子採集/';  // 替換爲實際的文件夾路徑
if ($dh = opendir($folderPath)) {
    $fileCount = 0;  // 計算已讀取的文件數量
    while (($file = readdir($dh)) !== false) {
        if ($file != '.' && $file != '..' && pathinfo($file, PATHINFO_EXTENSION) == 'txt') {
            $filePath = $folderPath . $file;
            $content = file_get_contents($filePath);
            $title = basename($filePath);
           // 將文件內容插入數據庫表
            $sql = "INSERT INTO caiji_juzi (title, content) VALUES ('" . $conn->real_escape_string($title) . "', '" . $conn->real_escape_string($content) . "')";   // 根據你的表結構修改表名和字段名
            if ($conn->query($sql) === TRUE) {
                if (rename($filePath, str_replace('句子採集', '回收站', $filePath))) {
                    echo "文件 " . $file . " 插入成功並移動到回收站<br>";
                    echo '<meta http-equiv="refresh" content="1">';
                } else {
                    echo "文件 " . $file . " 插入成功但移動失敗<br>";
                }
            } else {
                echo "文件 " . $file . " 插入失敗: " . $conn->error . "<br>";
            }

            $fileCount++;

            // 如果已讀取的文件數量達到設定的限制,停止讀取
            if ($fileCount >= $fileLimit) {
                break;
            }
        }
    }
    closedir($dh);
}

// 關閉數據庫連接
$conn->close();

function moveFilesByExtension($sourceDir, $targetDir, $fileExtension) {
    if (!is_dir($sourceDir) || !is_dir($targetDir)) {
        echo '源文件夾或目標文件夾不存在';
    } else {
        if ($dh = opendir($sourceDir)) {
            while (($file = readdir($dh)) !== false) {
                if (substr($file, -strlen($fileExtension)) === $fileExtension) {
                    rename("$sourceDir/$file", "$targetDir/$file");
                }
            }
            closedir($dh);
        }
    }
}

 

微信赞赏

微信

支付宝赞赏

支付寶

✍️ 作者: 紅穆

網站管理員 · 感謝閱讀,更多精彩內容敬請關注

作者主頁 查看主頁 →

相關文章

PHP ob函数记录

PHP ob函數記錄 語言筆記 PHP

下面3個函數的用法 ob_get_contents(); ob_end_clean(); ob_start(); 可以藉助這幾個函數實現緩衝本地文件,以及執行本地腳本代碼。 使用ob_start()把輸出的代碼存到緩衝區,頁面不會顯示出來; 然後用ob_get_contents得到緩衝區的數據。 o…
👁 143
PHP preg

PHP preg 語言筆記 PHP

preg_match_all 函數用於執行一個全局正則表達式匹配。preg_match_all() 語法int preg_match_all ( string $pattern , string $subject [, array &amp;$matches [, int $flags = PREG…
👁 169
PHP 三元运算符与if的详解

PHP 三元運算符與if的詳解 語言筆記 PHP

三元運算符語條件 ? 結果1 : 結果2 說明:問號前面的位置是判斷的條件,如果滿足條件時結果1,不滿足時結果2。本文對三元運算符和if...else...進行對比詳解,希望對大家有所幫助。今天在改論文在線的時候遇到了一個語句看不懂:$if_summary = $row['IF_SUMMARY']=…
👁 191
PHP强制转换类型

PHP強制轉換類型 語言筆記 PHP PHP採集 PHP與mysql

獲取數據類型1.如果想查看某個表達式的值和類型,用var_dump()。 2.如果只是想得到一個易讀懂的類型的表達方式用於調試,用 gettype()。3.要查看某個類型,不要用 gettype(),而用is_type() 函數。字符串轉換爲數值當一個字符串被當作數字來求值時,根據以下規則來決定結果…
👁 232
php 字符串中是否包含指定字符串的多种方法

php 字符串中是否包含指定字符串的多種方法 語言筆記 PHP

strstrstrstr() 函數搜索一個字符串在另一個字符串中的第一次出現。該函數返回字符串的其餘部分(從匹配點)。如果未找到所搜索的字符串,則返回 false。代碼如下:&lt;?php $email = 'user@example.com'; $domain = strstr($email, …
👁 138

推薦閱讀

响应式青少年成长训练营培训网站模板 0184

響應式青少年成長訓練營培訓網站模板 0184 實用收藏 易優模板

一款針對青少年成長訓練營與培訓行業的eyoucms響應式網站模板。設計風格活力教育,能夠展示訓練營課程、營地環境、師資力量及學員成長案例。有助於素質教育機構在線上吸引家長與青少年。模板展示 安裝說明 網站後臺:/login.php 賬號:admin 密碼:admin 相關文章易優CMS安裝常見問題總…
👁 53
(PC+WAP)绿色环保设备pbootcms企业网站模板 环保企业网站源码下载 0088

(PC+WAP)綠色環保設備pbootcms企業網站模板 環保企業網站源碼下載 0088 實用收藏 pbootcms模板

這套PbootCMS模板是專爲環保設備企業打造的綠色風格公司官網,支持PC與移動端。設計風格清新自然,能夠很好地展示污水處理、空氣淨化等環保設備產品。有助於環保公司在線上樹立專業形象,拓展業務合作渠道。模板展示 安裝說明 網站後臺:/admin.php 賬號:admin 密碼:admin 解壓密碼:…
👁 46
老年康养健身协会网站模板 0844

老年康養健身協會網站模板 0844 實用收藏 易優模板

一款針對老年康養與健身協會的eyoucms網站模板。設計風格溫馨健康,能夠展示康養服務、健身活動、協會職能及會員風采。有助於老年康養機構在線上吸引老年羣體與家屬。模板展示 安裝說明 網站後臺:/login.php 賬號:admin 密碼:admin 相關文章易優CMS安裝常見問題總結易優CMS(Ey…
👁 39
(自适应手机端)挖土机工程机械设备网站pbootcms模板 推土机挖掘机设备网站源码下载 0720

(自適應手機端)挖土機工程機械設備網站pbootcms模板 推土機挖掘機設備網站源碼下載 0720 實用收藏 pbootcms模板

一款挖土機與推土機工程機械設備PbootCMS網站模板,支持PC與WAP端。設計風格黃色硬朗,適合展示挖掘機、推土機等大型工程機械。有助於工程機械企業在線上展示產品,吸引基建與礦山客戶。模板展示 安裝說明 網站後臺:/admin.php 賬號:admin 密碼:admin 解壓密碼:www.4s5.…
👁 51
响应式汽车发动机配件网站模板 0185

響應式汽車發動機配件網站模板 0185 實用收藏 易優模板

此套eyoucms響應式模板適用於汽車發動機與配件行業,設計風格專業汽車,能夠展示發動機產品、汽車配件、技術參數及維修服務。有助於汽配企業在線上展示產品,吸引汽車後市場客戶。模板展示 安裝說明 網站後臺:/login.php 賬號:admin 密碼:admin 相關文章易優CMS安裝常見問題總結易優…
👁 30
(PC+WAP)绿色环保设备pbootcms网站模板 资源回收新能源网站源码下载 0089

(PC+WAP)綠色環保設備pbootcms網站模板 資源回收新能源網站源碼下載 0089 實用收藏 pbootcms模板

一款專注於資源回收與新能源行業的PbootCMS環保設備網站模板,支持PC和WAP端。設計風格綠色簡潔,能夠展示廢舊物資處理方案及新能源技術。模板有助於再生資源或新能源企業在線上展示企業實力,獲取更多合作機會。模板展示 安裝說明 網站後臺:/admin.php 賬號:admin 密碼:admin 解…
👁 46