GooSeeker瀏覽器:
集搜客網(wǎng)絡(luò)爬蟲(chóng)工具,能夠采集網(wǎng)頁(yè)文字、圖片、表格、超鏈接等多種網(wǎng)頁(yè)元素,不限深度和廣度抓取網(wǎng)頁(yè)數(shù)據(jù),可視化免編程,網(wǎng)頁(yè)內(nèi)容可見(jiàn)即可采,讓你輕松搞定網(wǎng)頁(yè)數(shù)據(jù),使用這些數(shù)據(jù)尋找潛在客戶,進(jìn)行數(shù)據(jù)研究,商機(jī)挖掘...等,讓你隨心所欲玩轉(zhuǎn)大數(shù)據(jù)。是學(xué)生、站長(zhǎng)、電商、研究人員、HR...的必備神器。
軟件特色
web如同一個(gè)大型的大數(shù)據(jù)庫(kù),其中包含各種各樣有價(jià)值的信息,當(dāng)您需要把某些特定信息采集下來(lái),卻往往可能面臨這樣的困境:
沒(méi)有系統(tǒng)學(xué)過(guò)Python、Ruby、PHP、Perl、Javascript、java這些編程語(yǔ)言,通過(guò)寫(xiě)代碼實(shí)現(xiàn)數(shù)據(jù)采集難度太大。
網(wǎng)絡(luò)爬蟲(chóng)、網(wǎng)頁(yè)抓取軟件雖然很多,但學(xué)習(xí)難度大,初學(xué)者難以上手。
集搜客GooSeeker與“技術(shù)小白”共同成長(zhǎng)。秉承此宗旨,集搜客GooSeeker抓取軟件操作簡(jiǎn)單,完全可視化操作,無(wú)需編程基礎(chǔ),熟悉電腦操作即可輕松掌握:
當(dāng)定義采集規(guī)則時(shí),用鼠標(biāo)點(diǎn)選的方式,告知集搜客軟件哪些是要抓取的內(nèi)容,系統(tǒng)會(huì)即刻自動(dòng)生成抓取規(guī)則,網(wǎng)絡(luò)爬蟲(chóng)的工作流程序會(huì)根據(jù)網(wǎng)頁(yè)特征自動(dòng)適配,連拖曳和編輯采集流操作都是多余的;
當(dāng)程序進(jìn)行采集時(shí),集搜客高仿真模擬真人操作,可以實(shí)現(xiàn)自動(dòng)登錄、輸入查詢條件、點(diǎn)擊鏈接、點(diǎn)擊按鈕等,還能自動(dòng)移動(dòng)鼠標(biāo),自動(dòng)改變焦點(diǎn),避過(guò)機(jī)器人判斷程序;
整個(gè)采集過(guò)程所見(jiàn)即所得,遍歷的鏈接信息、抓取結(jié)果信息、錯(cuò)誤信息等都會(huì)及時(shí)地反映在軟件界面中。讓您整個(gè)操作清晰明了,帶著輕松的心情完成自己的任務(wù)。
模板資源套用
集搜客GooSeeker的模板資源套用特性,讓您輕松快捷地獲得數(shù)據(jù)。
在集搜客資源庫(kù)中,分門(mén)別類存放著抓取規(guī)則,既可通過(guò)關(guān)鍵詞也可通過(guò)目標(biāo)網(wǎng)頁(yè)網(wǎng)址搜索到可用的抓取規(guī)則。在抓取規(guī)則的詳情頁(yè)面,您可以仔細(xì)考察一個(gè)規(guī)則的抓取結(jié)果是否滿足您的需要,如果滿足,只需點(diǎn)擊“下載”按鈕,即可在會(huì)員中心一鍵啟動(dòng)集搜客網(wǎng)絡(luò)爬蟲(chóng),抓取到你想要的數(shù)據(jù)。比如:
電商網(wǎng)站上價(jià)格、評(píng)論的抓取規(guī)則
B2B網(wǎng)站上的聯(lián)系人、聯(lián)系電話的抓取規(guī)則
微博上的消息、話題、興趣、活動(dòng)等網(wǎng)頁(yè)內(nèi)容的抓取規(guī)則s
省卻自己定義抓取規(guī)則的麻煩,像直接套用網(wǎng)頁(yè)模板一樣使用發(fā)布出來(lái)的規(guī)則。對(duì)于初學(xué)者或者業(yè)務(wù)目標(biāo)導(dǎo)向的用戶,模板資源套用是一條捷徑。
通用網(wǎng)絡(luò)爬蟲(chóng)
集搜客GooSeeker網(wǎng)絡(luò)爬蟲(chóng)與其它網(wǎng)絡(luò)爬蟲(chóng)相比,在易用性方面已經(jīng)遠(yuǎn)遠(yuǎn)勝出,加上 一鍵啟動(dòng)網(wǎng)絡(luò)爬蟲(chóng)這個(gè)獨(dú)特性功能和整個(gè)[資源共享平臺(tái)]的支撐,已經(jīng)大大降低了對(duì)用戶的技術(shù)基礎(chǔ)條件的要求。然而,網(wǎng)頁(yè)抓取畢竟是一個(gè)技術(shù)工作,需要適當(dāng)掌握HTML等基礎(chǔ)知識(shí)。也就是說(shuō)需要花費(fèi)一些時(shí)間學(xué)習(xí)這個(gè)軟件的使用方法。既然已經(jīng)有所投入(即便是時(shí)間上的),那么網(wǎng)絡(luò)爬蟲(chóng)的通用性高低顯得十分重要。
集搜客網(wǎng)絡(luò)爬蟲(chóng)歷經(jīng)8年行業(yè)歷練,采用功能強(qiáng)大的火狐瀏覽器內(nèi)核,所見(jiàn)即所得。很多動(dòng)態(tài)內(nèi)容并不在HTML文檔中出現(xiàn),而是動(dòng)態(tài)加載,都不影響精確抓取他們,而且不用網(wǎng)絡(luò)嗅探器從底層分析網(wǎng)絡(luò)通信消息,與抓取靜態(tài)網(wǎng)頁(yè)一樣可視化定義抓取規(guī)則。再加上開(kāi)發(fā)者接口,能夠模擬十分復(fù)雜的鼠標(biāo)和鍵盤(pán)動(dòng)作,一邊動(dòng)作一邊抓取。
抓取范圍可以歸納成如下幾類:
各種網(wǎng)站類型:新聞、論壇、電商、社交網(wǎng)站、行業(yè)資訊、金融網(wǎng)站、企業(yè)門(mén)戶、政府網(wǎng)站等各種網(wǎng)站都可抓??;
各種網(wǎng)頁(yè)類型:服務(wù)器側(cè)動(dòng)態(tài)頁(yè)面、瀏覽器側(cè)動(dòng)態(tài)頁(yè)面(AJAX內(nèi)容)、靜態(tài)頁(yè)面都可抓取,甚至可以抓取沒(méi)有終點(diǎn)的瀑布流頁(yè)面、web qq的會(huì)話過(guò)程等。集搜客爬蟲(chóng)在默認(rèn)狀態(tài)下就可抓取AJAX/Javascript動(dòng)態(tài)頁(yè)面、服務(wù)器動(dòng)態(tài)網(wǎng)頁(yè)等動(dòng)態(tài)頁(yè)面,無(wú)需其他設(shè)置;甚至還可以自動(dòng)滾屏抓取動(dòng)態(tài)加載的內(nèi)容。
與PC網(wǎng)站一樣,手機(jī)網(wǎng)站均可抓?。?爬蟲(chóng)可模擬移動(dòng)端agent;
所有語(yǔ)言文字:不用特殊設(shè)置,自動(dòng)支持所有語(yǔ)言編碼,國(guó)際語(yǔ)言一視同仁;
可見(jiàn),使用集搜客網(wǎng)絡(luò)爬蟲(chóng),整個(gè)互聯(lián)網(wǎng)成為你的數(shù)據(jù)庫(kù)!
會(huì)員互助抓取
這是爬蟲(chóng)群并行抓取的一種特殊情形,利用這個(gè)功能,您可以低成本快速匯集海量數(shù)據(jù)。場(chǎng)景描述如下:
當(dāng)你要大批量快速或者頻繁地抓取數(shù)據(jù)時(shí),從數(shù)據(jù)量方面考察,需要多臺(tái)電腦,您自己的電腦不夠用
時(shí)間緊張,從而采集活動(dòng)密度很高,比如,一秒鐘內(nèi)從微博上采集很多條消息,只用您自己的電腦,很容易被目標(biāo)網(wǎng)站封鎖
目標(biāo)網(wǎng)站對(duì)采集量有嚴(yán)格限制,比如,抓取機(jī)票價(jià)格
需要登錄以后才能抓取,您需要大量賬號(hào)同時(shí)登錄。
那么,您可以創(chuàng)建一個(gè)工作組,并邀請(qǐng)網(wǎng)友加入,為了得到更多會(huì)員的響應(yīng),您可以發(fā)“紅包”,接受任務(wù)的社友就會(huì)用他的的電腦幫你分擔(dān)采集數(shù)據(jù)。 在社區(qū)中別人會(huì)幫你采集數(shù)據(jù),當(dāng)然你也可以幫助社友抓取數(shù)據(jù),賺取更多的積分,后面有任務(wù)時(shí)再把積分懸賞發(fā)給社友。
使用過(guò)程中要注意:
發(fā)布:可在社區(qū)圈中發(fā)布,發(fā)布時(shí)選擇懸賞類型、懸賞積分?jǐn)?shù)、時(shí)間限制,懸賞發(fā)布后不可刪除、編輯。
回復(fù):指對(duì)懸賞任務(wù)進(jìn)行回復(fù)、解答幫助
不限深度不限廣度
從網(wǎng)站上采集數(shù)據(jù),尤其采集大型網(wǎng)站時(shí),被采集的數(shù)據(jù)往往位于網(wǎng)站的不同層級(jí)的網(wǎng)頁(yè)上,大大增加了網(wǎng)絡(luò)爬蟲(chóng)采集數(shù)據(jù)的難度。百度或者google這樣的綜合網(wǎng)絡(luò)爬蟲(chóng),能夠自動(dòng)管理爬行的深度和廣度。我們這里討論的是聚焦網(wǎng)絡(luò)爬蟲(chóng),希望能夠以盡量低的成本獲得數(shù)據(jù),而且希望只獲取需要的網(wǎng)頁(yè)內(nèi)容。所謂聚焦,主要包含兩方面:
所抓取的網(wǎng)頁(yè)(無(wú)論深度還是廣度)都是預(yù)先規(guī)劃好的,不像綜合網(wǎng)絡(luò)爬蟲(chóng)那樣自動(dòng)去發(fā)現(xiàn)向深度和廣度發(fā)展的新線索??梢?jiàn),在受控范圍內(nèi)爬行必然會(huì)降低成本。
從網(wǎng)頁(yè)上抓取的內(nèi)容也是預(yù)先定義好的,這就是所謂的抓取規(guī)則。不像綜合網(wǎng)絡(luò)爬蟲(chóng)那樣把整個(gè)網(wǎng)頁(yè)文本內(nèi)容都抓下來(lái)??梢?jiàn),精確抓取可用于數(shù)據(jù)挖掘和情報(bào)分析,因?yàn)樵胍粢驯痪_地過(guò)濾掉了。
集搜客GooSeeker就是這樣的聚焦網(wǎng)絡(luò)爬蟲(chóng),但是跟其他市面上的采集器不同:
集搜客對(duì)網(wǎng)站深度和廣度不設(shè)限,任由您規(guī)劃。集搜客要做純粹的大數(shù)據(jù)能力開(kāi)放平臺(tái),不會(huì)用收費(fèi)版本方式把這個(gè)能力藏起來(lái)。
集搜客對(duì)采集數(shù)量不設(shè)限,不會(huì)根據(jù)時(shí)間或者根據(jù)網(wǎng)頁(yè)數(shù)量扣取積分或者費(fèi)用,您把整個(gè)互聯(lián)網(wǎng)下載下來(lái)都行
常見(jiàn)問(wèn)題
近期集搜客技術(shù)支持中心收到部分360安全衛(wèi)士用戶的反饋,在安裝和使用集搜客的過(guò)程中碰到了一些由于360的誤報(bào),而造成的如服務(wù)器連接失敗,個(gè)別文件被刪除,安裝過(guò)程不停出360的警告信息等問(wèn)題。這些問(wèn)題給部分用戶造成了困擾,影響了用戶正常的數(shù)據(jù)獲取。本文給出應(yīng)對(duì)的措施,同時(shí)附上第三方檢測(cè)機(jī)構(gòu)對(duì)集搜客的檢測(cè)報(bào)告。