利用PHP怎么對HTTPS的內容進行抓取

這篇文章給大家介紹利用PHP怎么對HTTPS的內容進行抓取，內容非常詳細，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

最近在研究Hacker News API時遇到一個HTTPS問題。因為所有的Hacker News API都是通過加密的HTTPS協議訪問的，跟普通的HTTP協議不同，當使用PHP里的函數 file_get_contents() 來獲取API里提供的數據時，出現錯誤，使用的代碼是這樣的：

<?php
$data = file_get_contents("https://hacker-news.firebaseio.com/v0/topstories.json?print=pretty");
......

當運行上面的代碼是遇到下面的錯誤提示：

PHP Warning:  file_get_contents(): Unable to find the wrapper "https" - did you forget to enable it when you configured PHP?

下面是截圖：

為什么會出現這樣的錯誤？

在網上經過一番搜索，發現遇到這樣錯誤的人還不少，問題很直接，是因為在PHP的配置文件里沒有開啟一個參數，在我本機上是 /apache/bin/php.ini 里的 ;extension=php_openssl.dll 這一項，需要將前面的分號去掉。你可以用下面的腳本來檢查你的PHP環境的配置：

$w = stream_get_wrappers();
echo 'openssl: ',  extension_loaded  ('openssl') ? 'yes':'no', "\n";
echo 'http wrapper: ', in_array('http', $w) ? 'yes':'no', "\n";
echo 'https wrapper: ', in_array('https', $w) ? 'yes':'no', "\n";
echo 'wrappers: ', var_dump($w);

運行上面的這個腳本片段，在我的機器上得到的結果是：

openssl: no
http wrapper: yes
https wrapper: no
wrappers: array(10) {
  [0]=>
  string(3) "php"
  [1]=>
  string(4) "file"
  [2]=>
  string(4) "glob"
  [3]=>
  string(4) "data"
  [4]=>
  string(4) "http"
  [5]=>
  string(3) "ftp"
  [6]=>
  string(3) "zip"
  [7]=>
  string(13) "compress.zlib"
  [8]=>
  string(14) "compress.bzip2"
  [9]=>
  string(4) "phar"
}

替代方案

發現錯誤，改正錯誤，這很簡單，困難的是，發現錯誤后無法改正錯誤。我原本是想將這個腳本方法遠程主機上，但我無法修改遠程主機的PHP配置，結果是，我無法使用這一方案，但我們不能在一棵樹上吊死，這條路走不通，看看有沒有其它路。

另外一個我經常用的PHP里抓取內容的函數是 curl ，它比 file_get_contents() 更強大，提供了很多的可選參數。對于訪問 HTTPS 內容的問題，我們需要使用的 CURL 配置參數是：

curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, FALSE);

你可以從語義上看出，它是忽略/跳過了SSL安全驗證。也許這不是一個很好的做法，但對于普通的場景中，這幾經足夠了。

下面是利用 Curl 封裝的一個能訪問HTTPS內容的函數：

function getHTTPS($url) {
  $ch = curl_init();
  curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, FALSE);
  curl_setopt($ch, CURLOPT_HEADER, false);
  curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
  curl_setopt($ch, CURLOPT_URL, $url);
  curl_setopt($ch, CURLOPT_REFERER, $url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, TRUE);
  $result = curl_exec($ch);
  curl_close($ch);
  return $result;
}

關于利用PHP怎么對HTTPS的內容進行抓取就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。