欧美大屁股bbbbxxxx,狼人大香伊蕉国产www亚洲,男ji大巴进入女人的视频小说,男人把ji大巴放进女人免费视频,免费情侣作爱视频

歡迎來到入門教程網(wǎng)!

C#教程

當前位置:主頁 > 軟件編程 > C#教程 >

C#使用Selenium+PhantomJS抓取數(shù)據(jù)

來源:本站原創(chuàng)|時間:2020-01-10|欄目:C#教程|點擊: 次

手頭項目需要抓取一個用js渲染出來的網(wǎng)站中的數(shù)據(jù)。使用常用的httpclient抓回來的頁面是沒有數(shù)據(jù)。上網(wǎng)百度了一下,大家推薦的方案是使用PhantomJS。PhantomJS是一個沒有界面的webkit瀏覽器,能夠和瀏覽器效果一致的使用js渲染頁面。Selenium是一個web測試框架。使用Selenium來操作PhantomJS絕配。但是網(wǎng)上的例子多是Python的。無奈,下載了python按照教程搞了一下,卡在了Selenium的導入問題上。遂放棄,還是用自己慣用的c#吧,就不信c#上沒有。經(jīng)過半個小時的折騰,搞定(python折騰了一個小時)。記錄下這篇博文,讓我等搞c#的新手能用上PhantomJS。

第一步:打開visual studio 2017 新建一個控制臺項目,打開nuget包管理器。

第二部:搜索Selenium,安裝Selenium.WebDriver。注意:如果要使用代理的話最好安裝3.0.0版本。

第三步:寫下如下圖所示的代碼。但是執(zhí)行的時候會報錯。原因是找不到PhantomJS.exe。這時候可以去下載一個,也可以繼續(xù)看第四步。

using OpenQA.Selenium;
using OpenQA.Selenium.PhantomJS;
using System;
namespace ConsoleApp1
{
 class Program
 {
 static void Main(string[] args)
 {
  var url = "http://www.baidu.com";
  IWebDriver driver = new PhantomJSDriver(GetPhantomJSDriverService());
  driver.Navigate().GoToUrl(url);
  Console.WriteLine(driver.PageSource);
  Console.Read();
 }
 private static PhantomJSDriverService GetPhantomJSDriverService()
 {
  PhantomJSDriverService pds = PhantomJSDriverService.CreateDefaultService();
  //設(shè)置代理服務(wù)器地址
  //pds.Proxy = $"{ip}:{port}"; 
  //設(shè)置代理服務(wù)器認證信息
  //pds.ProxyAuthentication = GetProxyAuthorization();
  return pds;
 }
 }
}

第四步:打開nuget安裝Selenium.PhantomJS.WebDriver包。

第五步:運行。可以看到phantomjs.exe被自動下載了。

好了,這樣就可以開始你的數(shù)據(jù)抓取大業(yè)了。

以上就是本文的全部內(nèi)容,希望本文的內(nèi)容對大家的學習或者工作能帶來一定的幫助,同時也希望多多支持我們!

上一篇:C#基礎(chǔ)入門之算法:交換

欄    目:C#教程

下一篇:c#中Winform實現(xiàn)多線程異步更新UI(進度及狀態(tài)信息)

本文標題:C#使用Selenium+PhantomJS抓取數(shù)據(jù)

本文地址:http://mengdiqiu.com.cn/a1/C_jiaocheng/5870.html

網(wǎng)頁制作CMS教程網(wǎng)絡(luò)編程軟件編程腳本語言數(shù)據(jù)庫服務(wù)器

如果侵犯了您的權(quán)利,請與我們聯(lián)系,我們將在24小時內(nèi)進行處理、任何非本站因素導致的法律后果,本站均不負任何責任。

聯(lián)系QQ:835971066 | 郵箱:835971066#qq.com(#換成@)

Copyright © 2002-2020 腳本教程網(wǎng) 版權(quán)所有