導航:首頁 > 編程語言 > phpcurl採集不完整

phpcurl採集不完整

發布時間:2022-06-27 09:09:11

php curl 取不到數據 幫我看下 是為什麼

有以下幾種可能:

1、伺服器端確實沒有數據返回;

2、curl寫錯了;

3、試試下面這個,我在用的

functioncurl($url,$post='POST',$data=array()){
$ch=curl_init();
$headers[]="Accept-Charset:utf-8";
curl_setopt($ch,CURLOPT_URL,$url);

curl_setopt($ch,CURLOPT_CUSTOMREQUEST,$post);
curl_setopt($ch,CURLOPT_POSTFIELDS,$data);
curl_setopt($ch,CURLOPT_SSL_VERIFYPEER,FALSE);
curl_setopt($ch,CURLOPT_SSL_VERIFYHOST,FALSE);
curl_setopt($ch,CURLOPT_SSLVERSION,1);
curl_setopt($ch,CURLOPT_HTTPHEADER,$headers);

curl_setopt($ch,CURLOPT_USERAGENT,'Mozilla/5.0(compatible;MSIE5.01;WindowsNT5.0)');
curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);
curl_setopt($ch,CURLOPT_AUTOREFERER,1);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,true);

$result=curl_exec($ch);
curl_close($ch);
returnjson_decode($result,1);
}

❷ 這個頁面不知道為什麼採集不了希望php高手給寫個php的curl的採集,我是新手就是想知道為什麼。

解決這類問題需要研究瀏覽器控制台里的網路請求信息,建議使用火狐瀏覽器Firebug擴展
會比較方便一些。

關於此類問題的解決請參考我的博客《PHPcURL實現模擬登錄與採集使用方法詳解》
http://www.zjmainstay.cn/php-curl

補充:
測試代碼如下,本地測試可以,阿里雲測試失敗。
懷疑網站有針對區域性ip做限制的情況,這種情況請試用代理實現採集。

<?php
$url='http://cx.xtbus.com:83/gpsSelectLineDirect.action?gps_line_id=0103&gps_line_name=33C2B7';
$ch=curl_init($url);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);//返回數據不直接輸出
curl_setopt($ch,CURLOPT_ENCODING,"gzip");//指定gzip壓縮
$content=curl_exec($ch);//執行並存儲結果
curl_close($ch);
echo$content;

❸ php curl如何讀取一部分網頁,而不是全部

可以用回調函數

❹ php抓取網頁內容不完整

用CURL可以抓取到的 可能是你網速太慢超時了 所以抓取不完整 用 curl_setopt($ch, CURLOPT_TIMEOUT, 360) 試試看

❺ 想咨詢下關於PHP的CURL採集的問題

摘要 1、開啟curl支持

❻ 為什麼我用php的curl獲取到的數據不完整,無法獲取列表全部數據

你好,一般有倆原因:
①介面本身數據不完整;
②介面中數據量過大,可以調整一下伺服器配置,PHP配置文件:memory_limit 每個PHP頁面所吃掉的最大內存

❼ php curl 採集問題

經對正則表達進行測試,獲取數據正確:

❽ php curl 大量數據採集

這個需要配合js,打開一個html頁面,首先js用ajax請求頁面,返回第一個頁面信息確定處理完畢(ajax有強制同步功能),ajax再訪問第二個頁面。(或者根據伺服器狀況,你可以同時提交幾個URL,跑幾個相同的頁面)
參數可以由js產生並傳遞url,php後台頁面根據URL抓頁面。然後ajax通過php,在資料庫或者是哪裡設一個標量,標明檢測到哪裡。由於前台的html頁面執行多少時候都沒問題,這樣php的內存限制和執行時間限制就解決了。
因為不會浪費大量的資源用一個頁面來跑一個瞬間500次的for循環了。(你的500次for循環死了原因可能是獲取的數據太多,大過了php限制的內存)
不過印象中curl好像也有強制同步的選項,就是等待一個抓取後再執行下一步。但是這個500次都是用一個頁面線程處理,也就是說肯定會遠遠大於30秒的默認執行時間。

閱讀全文

與phpcurl採集不完整相關的資料

熱點內容
文件夾合並了怎麼拆開 瀏覽:256
波段副圖源碼無未來函數 瀏覽:84
livecn伺服器地址 瀏覽:255
程序員這個工作真的很吃香嗎 瀏覽:842
程序員和數學分析師待遇 瀏覽:676
壓縮氣彈簧怎麼拆 瀏覽:319
華為公有雲伺服器添加虛擬ip 瀏覽:207
程序員和運營哪個累 瀏覽:22
抖音安卓信息提示音怎麼設置 瀏覽:454
光速虛擬機的共享文件夾 瀏覽:246
程序員培訓機構發的朋友圈真實性 瀏覽:742
天乾地支簡單演算法 瀏覽:299
下載個壓縮文件 瀏覽:298
普通人電腦關機vs程序員關機 瀏覽:628
米酷建站源碼 瀏覽:115
氫氣app怎麼搜搭配 瀏覽:619
pdf綠盟 瀏覽:505
固態硬碟編譯器重建 瀏覽:391
怎樣編輯硬碟文件夾 瀏覽:660
安卓系統如何打開電腦軟體 瀏覽:572