PHP: Извличане текст от интернет страница

Един примерен скрипт за извличане на текстово съдържание от интернет страница.
Ползва функцията get_page_content($url), която извлича цялото съдържание на страница - пълния HTML документ. Тази функция ползва CURL библиотеката. Ако в инсталацията на PHP няма разширението CURL, скрипта ще даде грешка. Повечето хостинги имат по подразбиране CURL. Така, че това не би трябвало да е проблем. Препоръчвам използването на тази функция вместо вградените в PHP средства, защото може да се задава време за изчакване, както за свързване, така и за цялостна обработка. Ако това време изтече скрипта продължава работа без да дава грешка. По подразбиране съм задал 10 сек за свързване и 20 за извличане на страницата. Ако се очаква страниците да бъдат много дълги може времето да се увеличи от 20 на 30 сек.

$url = 'https://ganbox.com/news'; # адрес на страницата, която ще се извлича

$html = get_page_content($url);

$html = preg_replace('|^(.*?)<body|si','<body',$html); #="" всичко="" пред="" отварящ="" таг="" body="" се="" изтрива="" (ако="" има="" таг)="" $html="preg_replace('|</body">(.*)$|si','',$html); # всичко след затварящ таг body се изтрива (ако има таг)
$aBlockTags = array('form','noscript','script','style','object');
foreach($aBlockTags as $blockTag){
$html = preg_replace('|&lt;'.$blockTag.'(.*?)<!--'.$blockTag.'-->|si','',$html); # изчистване на някои блокови тагове, между които не се очаква да има текст
}
#$aSpecialDivs = array('header','head','top','menu','menuBar','footer','foot');
$text = strip_tags($html); # премахва тагове
$text = html_entity_decode($text); # превръща HTML спец. символи в съответните знаци. Напр. &lt; става &lt; и " става " print $text; exit; /** * Извличане на съдържанието на уеб страница * @param string $url - адрес на уеб страница, от която се извлича текст * @param int $CURLOPT_CONNECTTIMEOUT optional - максимално изчакване за свързване в сек. * @param int $CURLOPT_TIMEOUT optional - време за цялостна обработка в сек. * @return string - целият HTML документ на страницата **/ function get_page_content($url, $CURLOPT_CONNECTTIMEOUT=10, $CURLOPT_TIMEOUT=20){ $ch = curl_init (); @curl_setopt($ch, CURLOPT_URL, $url); @curl_setopt($ch, CURLOPT_HEADER, false); /* без HTTP headers */ @curl_setopt ( $ch, CURLOPT_CONNECTTIMEOUT, $CURLOPT_CONNECTTIMEOUT ); /* време за свързване */ @curl_setopt ( $ch, CURLOPT_TIMEOUT, $CURLOPT_TIMEOUT ); /* общо време за изпълнение */ @curl_setopt ( $ch, CURLOPT_RETURNTRANSFER, true ); @curl_setopt ( $ch, CURLOPT_FOLLOWLOCATION, true ); @curl_setopt ( $ch, CURLOPT_USERAGENT, $_SERVER ['HTTP_USER_AGENT'] ); $data = curl_exec ( $ch ); curl_close($ch); return $data; } 

В сегашния си вид скрипта извлича всички текстове между body таговете, като премахва CSS, JavaScript и някои блокови тагове заедно с кода между тях. Текстовете от хедъра, футъра и менюто остават. След като извлече текста този скрипт просто го отпечатва на екрана, но ти можеш да направиш и други неща с него. Все пак добре помисли какво ще правиш с него! Възможно е текста да е защитен от Закон за авторското право и сродните му права и да нямаш право да го публикуваш без разрешението на автора.
Напомням ти още веднъж, че ако вземаш текст от друг сайт и го показваш в твои сайт е задължително да поставиш реален линк към източника. В противен случай е много вероятно да получиш наказание от Гугъл за дублирано съдържание и сайта ти да падне назад в резултатите на Гугъл.
Кодът е тестван и работи. За всякакви идеи за подобрение и забележки, пиши коментари по публикацията.
.
.
Подобна статия: PHP парсване на XML новини за твоя сайт