PHP查詢大量數據內存耗盡問題的解決方法
文章主要為大家詳細介紹了PHP查詢大量數據內存耗盡問題的解決方法,具有一定的參考價值,感興趣的小夥伴們可以參考一下。
從數據庫查詢大量數據時會出現內容不夠的提示:
PHP Fatal error: Allowed memory size of 268 435 456 bytes exhausted
這個問題在PHP的網站上叫緩衝查詢和非緩衝查詢(Buffered and Unbuffered queries)。PHP的查詢缺省模式是緩衝模式。也就是説,查詢數據結果會一次全部提取到內存裏供PHP程序處理。這樣給了PHP程序額外的功能,比如説,計算行數,將指針指向某一行等。更重要的是程序可以對數據集反覆進行二次查詢和過濾等操作。但這種緩衝查詢模式的缺陷就是消耗內存,也就是用空間換速度。
相對的`,另外一種PHP查詢模式是非緩衝查詢,數據庫服務器會一條一條的返回數據,而不是一次全部返回,這樣的結果就是PHP程序消耗較少的內存,但卻增加了數據庫服務器的壓力,因為數據庫會一直等待PHP來取數據,一直到數據全部取完。
很顯然,緩衝查詢模式適用於小數據量查詢,而非緩衝查詢適應於大數據量查詢。
對於PHP的緩衝模式查詢大家都知道,下面列舉的例子是如何執行非緩衝查詢API。
非緩衝查詢方法一: mysqli
?
1
2
3
4
5
6
7
8
9
10
<?php
$mysqli = new mysqli("localhost", "my_user", "my_password", "world");
$uresult = $mysqli->query("SELECT Name FROM City", MYSQLI_USE_RESULT);
if ($uresult) {
while ($row = $uresult->fetch_assoc()) {
echo $row['Name'] . PHP_EOL;
}
}
$uresult->close();
?>
非緩衝查詢方法二: pdo_mysql
?
1
2
3
4
5
6
7
8
9
10
<?php
$pdo = new PDO("mysql:host=localhost;dbname=world", 'my_user', 'my_pass');
$pdo->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);
$uresult = $pdo->query("SELECT Name FROM City");
if ($uresult) {
while ($row = $uresult->fetch(PDO::FETCH_ASSOC)) {
echo $row['Name'] . PHP_EOL;
}
}
?>
非緩衝查詢方法三: mysql
?
1
2
3
4
5
6
7
8
9
10
<?php
$conn = mysql_connect("localhost", "my_user", "my_pass");
$db = mysql_select_db("world");
$uresult = mysql_unbuffered_query("SELECT Name FROM City");
if ($uresult) {
while ($row = mysql_fetch_assoc($uresult)) {
echo $row['Name'] . PHP_EOL;
}
}
?>
畢竟編程這麼多年,我隱約記得PHP裏提供有非一次全部加載數據的API,是像處理流媒體那樣,隨用隨取隨丟、數據並不會積累在內存的查詢方法。經過簡單的搜索,果然在網站上找到的正確的用法。
這個問題在PHP的網站上叫緩衝查詢和非緩衝查詢(Buffered and Unbuffered queries)。 PHP的查詢缺省模式是緩衝模式。也就是説,查詢數據結果會一次全部提取到內存裏供PHP程序處理。這樣給了PHP程序額外的功能,比如説,計算行數,將 指針指向某一行等。更重要的是程序可以對數據集反覆進行二次查詢和過濾等操作。但這種緩衝查詢模式的缺陷就是消耗內存,也就是用空間換速度。
相對的,另外一種PHP查詢模式是非緩衝查詢,數據庫服務器會一條一條的返回數據,而不是一次全部返回,這樣的結果就是PHP程序消耗較少的內存,但卻增加了數據庫服務器的壓力,因為數據庫會一直等待PHP來取數據,一直到數據全部取完。