PHP: Извличане текст от интернет страница

Един примерен скрипт за извличане на текстово съдържание от интернет страница.
Ползва функцията get_page_content($url), която извлича цялото съдържание на страница – пълния HTML документ. Тази функция ползва CURL библиотеката. Ако в инсталацията на PHP няма разширението CURL, скрипта ще даде грешка. Повечето хостинги имат по подразбиране CURL. Така, че това не би трябвало да е проблем. Препоръчвам използването на тази функция вместо вградените в PHP средства, защото може да се задава време за изчакване, както за свързване, така и за цялостна обработка. Ако това време изтече скрипта продължава работа без да дава грешка. По подразбиране съм задал 10 сек за свързване и 20 за извличане на страницата. Ако се очаква страниците да бъдат много дълги може времето да се увеличи от 20 на 30 сек.

$url = 'http://ganbox.com/news'; # адрес на страницата, която ще се извлича

$html = get_page_content($url);

$html = preg_replace('|^(.*?)<body|si','<body',$html); # всичко пред отварящ таг body се изтрива (ако има таг)
$html = preg_replace('|</body>(.*)$|si','</body>',$html); # всичко след затварящ таг body се изтрива (ако има таг)
$aBlockTags = array('form','noscript','script','style','object');
foreach($aBlockTags as $blockTag){
    $html = preg_replace('|<'.$blockTag.'(.*?)</'.$blockTag.'>|si','',$html); # изчистване на някои блокови тагове, между които не се очаква да има текст
}
#$aSpecialDivs = array('header','head','top','menu','menuBar','footer','foot');
$text = strip_tags($html); # премахва тагове
$text = html_entity_decode($text); # превръща HTML спец. символи в съответните знаци. Напр. &lt; става < и &quot; става "
print $text;

exit;

/**
* Извличане на съдържанието на уеб страница
* @param string $url - адрес на уеб страница, от която се извлича текст
* @param int $CURLOPT_CONNECTTIMEOUT optional - максимално изчакване за свързване в сек.
* @param int $CURLOPT_TIMEOUT optional - време за цялостна обработка в сек.
* @return string - целият HTML документ на страницата
**/

function get_page_content($url, $CURLOPT_CONNECTTIMEOUT=10, $CURLOPT_TIMEOUT=20){
    $ch = curl_init ();
    @curl_setopt($ch, CURLOPT_URL, $url);
    @curl_setopt($ch, CURLOPT_HEADER, false);   /* без HTTP headers */
    @curl_setopt ( $ch, CURLOPT_CONNECTTIMEOUT, $CURLOPT_CONNECTTIMEOUT ); /* време за свързване */
    @curl_setopt ( $ch, CURLOPT_TIMEOUT, $CURLOPT_TIMEOUT ); /* общо време за изпълнение */
    @curl_setopt ( $ch, CURLOPT_RETURNTRANSFER, true );
    @curl_setopt ( $ch, CURLOPT_FOLLOWLOCATION, true );
    @curl_setopt ( $ch, CURLOPT_USERAGENT, $_SERVER ['HTTP_USER_AGENT'] );
    $data = curl_exec ( $ch );
    curl_close($ch);
    return $data;
}

В сегашния си вид скрипта извлича всички текстове между body таговете, като премахва CSS, JavaScript и някои блокови тагове заедно с кода между тях. Текстовете от хедъра, футъра и менюто остават.
След като извлече текста този скрипт просто го отпечатва на екрана, но ти можеш да направиш и други неща с него.
Все пак добре помисли какво ще правиш с него! Възможно е текста да е защитен от Закон за авторското право и сродните му права и да нямаш право да го публикуваш без разрешението на автора.
Напомням ти още веднъж, че ако вземаш текст от друг сайт и го показваш в твои сайт е задължително да поставиш реален линк към източника. В противен случай е много вероятно да получиш наказание от Гугъл за дублирано съдържание и сайта ти да падне назад в резултатите на Гугъл.
Кодът е тестван и работи. За всякакви идеи за подобрение и забележки, пиши коментари по публикацията.
.
.
Подобна статия: PHP парсване на XML новини за твоя сайт

Прочетена:11446
« Предишна публикация

Бъг в WordPress: визуалния редактор не работи

Преди малко открих бъг в WordPress 2.8.4 (последната версия в момента). Грешка Докато за пореден път актуализирах любимата си статия Популяризиране на сайт с външни връзки, открих следния неприятен ефект - в админ панела при промяна ... Повече информация »

Следваща публикация »

Лоши връзки и добри връзки към сайт

Много хора погрешно смятат, че колкото повече връзки сочат към техния сайт, толкова по-добре. За съжаление качеството на връзките е от много по-съществено значение. Ето няколко примера за добри и лоши линкове. Лоши линкове Най-опасните линкове ... Повече информация »

2 коментара

  1. Petyr 29.12.2009
  2. gan 29.12.2009