Как я могу сделать этот скрипт PHP работать быстрее / асинхронно?

У меня есть скрипт-скребок, который предназначен для поиска просочившихся писем и паролей, чтобы сделать сайт похожим на HaveIBeenPwned.

Вот что делает мой скрипт:
— Соскоб Pastebin ссылки с https://psbdmp.ws/dumps
— Получение случайного прокси с использованием этого API случайного прокси (потому что Pastebin блокирует ваш IP, если вы забиваете слишком много запросов): https://api.getproxylist.com/proxy
— Выполнение запроса CURL для ссылок Pastebin, затем выполнение preg_match_all найти все адреса электронной почты и пароли в формате email:password,

Кажется, что настоящий скрипт работает нормально, но он недостаточно оптимизирован, и через некоторое время выдает ошибку времени ожидания 524, что, как я подозреваю, происходит из-за всех этих запросов CURL.

Вот мой код:
api.php

    function comboScrape_CURL($url) {
// Get random proxy
$proxies->json = file_get_contents("https://api.getproxylist.com/proxy");
$proxies->decoded = json_decode($proxies->json);
$proxy = $proxies->decoded->ip.':'.$proxies->decoded->port;
list($ip,$port) = explode(':', $proxy);

// Crawl with proxy
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL,$url);
curl_setopt($ch, CURLOPT_PROXY, $proxy);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HEADER, 1);
$curl_scraped_page = curl_exec($ch);
curl_close($ch);
comboScrape('email:pass',$curl_scraped_page);
}

index.php

require('api.php');
$expression = "/(?:https\:\/\/pastebin\.com\/\w+)/";

$extension = ['','1','2','3','4','5','6','7','8','9','10','11','12','13','14','15','16','17','18','19','20'];
foreach($extension as $pge_number) {
$dumps = file_get_contents("https://psbdmp.ws/dumps/".$pge_number);
preg_match_all($expression,$dumps,$urls);
$codes = str_replace('https://pastebin.com/','',$urls[0]);
foreach ($codes as $code) {
comboScrape_CURL("https://pastebin.com/raw/".$code);
}
}

-1

Решение

524 timeout error — э-э, кажется, что вы запускаете php за веб-сервером (apache? nginx? lighthttpd? IIS?), не делайте этого, вместо этого запускайте код из php-cli, php-cli может работать бесконечно и никогда не прерываться.

because Pastebin bans your IP if you hammer too many requests — вместо этого купите учетную запись pastebin.com pro ( https://pastebin.com/pro ), это стоит около 50 долларов (или 20 долларов на Рождество & Черная пятница), и это пожизненный аккаунт с единовременным платежом, который дает вам доступ к очищающему API ( https://pastebin.com/doc_scraping_api ), с помощью очищающего API вы можете получать около 1 вставки в секунду, или 86400 вставок в день, без запрета ip.

и из-за ограничений скорости pastebin.com, нет необходимости делать это асинхронно с несколькими подключениями (это возможно, но не стоит хлопот. Однако, если вам действительно нужно это сделать, вам придется использовать curl_multi API)

0

Другие решения

Других решений пока нет …

По вопросам рекламы [email protected]