Един примерен скрипт за извличане на текстово съдържание от интернет страница.
Ползва функцията get_page_content($url), която извлича цялото съдържание на страница – пълния HTML документ. Тази функция ползва CURL библиотеката. Ако в инсталацията на PHP няма разширението CURL, скрипта ще даде грешка. Повечето хостинги имат по подразбиране CURL. Така, че това не би трябвало да е проблем. Препоръчвам използването на тази функция вместо вградените в PHP средства, защото може да се задава време за изчакване, както за свързване, така и за цялостна обработка. Ако това време изтече скрипта продължава работа без да дава грешка. По подразбиране съм задал 10 сек за свързване и 20 за извличане на страницата. Ако се очаква страниците да бъдат много дълги може времето да се увеличи от 20 на 30 сек.
$url = 'http://ganbox.com/news'; # адрес на страницата, която ще се извлича
$html = get_page_content
($url);
$html = preg_replace('|^(.*?)<body|si','<body',$html); # всичко пред отварящ таг body се изтрива (ако има таг)
$html = preg_replace('|</body>(.*)$|si','</body>',$html); # всичко след затварящ таг body се изтрива (ако има таг)
$aBlockTags = array('form','noscript','script','style','object');
foreach($aBlockTags as $blockTag){
$html = preg_replace('|<'.$blockTag.'(.*?)</'.$blockTag.'>|si','',$html); # изчистване на някои блокови тагове, между които не се очаква да има текст
}
#$aSpecialDivs = array('header','head','top','menu','menuBar','footer','foot');
$text = strip_tags($html); # премахва тагове
$text = html_entity_decode($text); # превръща HTML спец. символи в съответните знаци. Напр. < става < и " става "
print $text;
exit;
/**
* Извличане на съдържанието на уеб страница
* @param string $url - адрес на уеб страница, от която се извлича текст
* @param int $CURLOPT_CONNECTTIMEOUT optional - максимално изчакване за свързване в сек.
* @param int $CURLOPT_TIMEOUT optional - време за цялостна обработка в сек.
* @return string - целият HTML документ на страницата
**/
function get_page_content
($url, $CURLOPT_CONNECTTIMEOUT=10, $CURLOPT_TIMEOUT=20){
$ch = curl_init ();
@curl_setopt($ch, CURLOPT_URL
, $url);
@curl_setopt($ch, CURLOPT_HEADER
, false); /* без HTTP headers */
@curl_setopt ( $ch, CURLOPT_CONNECTTIMEOUT
, $CURLOPT_CONNECTTIMEOUT ); /* време за свързване */
@curl_setopt ( $ch, CURLOPT_TIMEOUT
, $CURLOPT_TIMEOUT ); /* общо време за изпълнение */
@curl_setopt ( $ch, CURLOPT_RETURNTRANSFER
, true );
@curl_setopt ( $ch, CURLOPT_FOLLOWLOCATION
, true );
@curl_setopt ( $ch, CURLOPT_USERAGENT
, $_SERVER ['HTTP_USER_AGENT'] );
$data = curl_exec ( $ch );
curl_close($ch);
return $data;
} В сегашния си вид скрипта извлича всички текстове между body таговете, като премахва CSS, JavaScript и някои блокови тагове заедно с кода между тях. Текстовете от хедъра, футъра и менюто остават.
След като извлече текста този скрипт просто го отпечатва на екрана, но ти можеш да направиш и други неща с него.
Все пак добре помисли какво ще правиш с него! Възможно е текста да е защитен от Закон за авторското право и сродните му права и да нямаш право да го публикуваш без разрешението на автора.
Напомням ти още веднъж, че ако вземаш текст от друг сайт и го показваш в твои сайт е задължително да поставиш реален линк към източника. В противен случай е много вероятно да получиш наказание от Гугъл за дублирано съдържание и сайта ти да падне назад в резултатите на Гугъл.
Кодът е тестван и работи. За всякакви идеи за подобрение и забележки, пиши коментари по публикацията.
.
.
Подобна статия: PHP парсване на XML новини за твоя сайт
VN:F [1.9.16_1159]
Рейтинг: 10.0/10 (1 глас)
Брой разглеждания на тази статия: 3472
(след дата 20 декември 2009)
Сподели статията в
Бутончета на сайтове, в които можете да споделите линк към тази страница.
Подобни статии:
- Видео клип в уеб страница В тази статия ще покажа как бързо и лесно да включиш филм в уеб страница на твоя сайт. Като резултат...
