У меня есть HTTP-прокси для потоков, то есть для каждого запроса клиентов я создаю поток: теперь я хочу собирать некоторые статистические данные, такие как биты в секунду (бит / с) и пакеты в секунду (бит / с).
Мне нравится, что мой код делает только одну вещь, поэтому, если поток обрабатывает соединение, он не будет также вычислять бит / с и pps для каждого пакета, я оставляю это другому потоку.
Я создаю поток для каждого HTTP-запроса от клиента, и если прокси-сервер успешно подключается к запрошенному удаленному серверу, proxt отправляет фактический HTTP-запрос на сервер, и перед маршрутизацией данных поток подключения создает поток регистрации: поток регистрации рассчитывает бит / с и pps, пока соединение не будет открыто. Поток соединения предоставляет информацию потока регистрации о том, какие пакеты фильтровать (локальный IP-адрес, локальный порт, удаленный IP-адрес, удаленный порт), поэтому каждый поток регистрации будет фильтровать только пакеты из родительского потока подключения.
У меня проблемы с подсчетом бит / с и pps для каждого пакета.
Вот псевдокод моего циклического перехвата пакетов в логи:
// pcap variables
pcap_t *handle;
struct pcap_pkthdr *header;
const u_char *pkt_data;
// timevals used to calculate delay from last filtered packet
struct timeval oldTimevalUpload;
struct timeval oldTimevalDownload;
memset(&oldTimevalUpload, 0, sizeof(oldTimevalUpload));
memset(&oldTimevalDownload, 0, sizeof(oldTimevalDownload));
// stopLogging is a boolean flag declared in connection "parent" thread:
// it is set to false when connection thread has done sending and
// receiving data and connection is going to be closed
while (((res = pcap_next_ex(handle, &header, &pkt_data)) >= 0) && (!stopLogging)) {
// check res
if (packet is upload) {
struct timeval difference;
timeval_subtract(&difference, &(header->ts), &oldTimevalUpload);
long long delay = (difference.tv_sec * 1000000) + difference.tv_usec;
long long acceptedPackets = ((long long)(pkt_data)) * 1000000;
long long acceptedBits = ((long long)(pkt_data+8)) * 8 * 1000000;
long long pps = acceptedPackets / delay;
long long bps = acceptedBits / delay;
debugRed(host << ", UPLOAD DIVIDE ACCEPTED PKTS " << acceptedPackets <<
" AND ACCEPTED BITS " << acceptedBits << " PER DELAY " << delay <<
" IS PPS " << pps << " AND BPS " << bps);
oldTimevalUpload.tv_sec = header->ts.tv_sec;
oldTimevalUpload.tv_usec = header->ts.tv_usec;
} else if (packet is download) {
// basically the same as above
}
}
debug("Quit logging connection " << localIPaddr << ":" << localPort << " and "<< remoteIPaddr << ":" << remotePort);
pcap_close(handle);
А вот пример вывода:
www.netflix.com UPLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 1479811349890053 IS PPS 0 AND BPS 0
www.netflix.com DOWNLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 1479811350032141 IS PPS 0 AND BPS 0
www.netflix.com DOWNLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 4344 IS PPS 22845174953 AND BPS 182761414364
www.netflix.com UPLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 146464 IS PPS 677568822 AND BPS 5420551015
www.netflix.com DOWNLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 2815 IS PPS 35253797513 AND BPS 282030402841
www.netflix.com UPLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 2808 IS PPS 35341680911 AND BPS 282733470085
www.netflix.com DOWNLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 1120 IS PPS 88606642857 AND BPS 708853200000
www.netflix.com UPLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 1134 IS PPS 87512733686 AND BPS 700101925925
www.netflix.com UPLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 39658 IS PPS 2502381360 AND BPS 20019052498
www.netflix.com DOWNLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 176317 IS PPS 562846690 AND BPS 4502773890
www.netflix.com UPLOAD, DIVIDE ACCEPTED PKTS 99239440000000 AND ACCEPTED BITS 793915584000000 PER DELAY 136687 IS PPS 726034224 AND BPS 5808274261
Я никогда не знал, что моя домашняя сеть может выдержать более 500 Мбит / с, поэтому что-то должно быть не так.
Эта страница показывает, как рассчитать BPS и PPS и объясняет сдвиг 8 chars
в acceptedBits
Но я все равно сообщу об этом. Здесь вы можете увидеть второй и третий параметр функции pcap_next_ex
:
В основном я сделал все, что он сказал! Почему я получаю такие большие и странные биты и pps?
Работа над Ubuntu 14.04; не знаю как проверить libpcap
версия, но locate libpcap
дает это:
/home/dexter/Desktop/wireshark-1.99.9/wiretap/libpcap.c
/home/dexter/Desktop/wireshark-1.99.9/wiretap/libpcap.h
/usr/lib/x86_64-linux-gnu/libpcap.a
/usr/lib/x86_64-linux-gnu/libpcap.so
/usr/lib/x86_64-linux-gnu/libpcap.so.0.8
/usr/lib/x86_64-linux-gnu/libpcap.so.1.5.3
/usr/share/doc/libpcap-dev
/usr/share/doc/libpcap0.8
/usr/share/doc/libpcap0.8-dev
/usr/share/doc/libpcap-dev/changelog.Debian.gz
/usr/share/doc/libpcap-dev/copyright
/usr/share/doc/libpcap0.8/CREDITS.gz
/usr/share/doc/libpcap0.8/README.Debian
/usr/share/doc/libpcap0.8/README.gz
/usr/share/doc/libpcap0.8/changelog.Debian.gz
/usr/share/doc/libpcap0.8/copyright
/usr/share/doc/libpcap0.8-dev/changelog.Debian.gz
/usr/share/doc/libpcap0.8-dev/copyright
/var/lib/dpkg/info/libpcap-dev.[list,md5sums]
/var/lib/dpkg/info/libpcap0.8-dev.[list,md5sums,preinst]
/var/lib/dpkg/info/libpcap0.8:amd64.[list,md5sums,postinst,postrm,shlibs,symbols]
В вашем коде:
long long acceptedPackets = ((long long)(pkt_data)) * 1000000;
long long acceptedBits = ((long long)(pkt_data+8)) * 8 * 1000000;
Пока pkt_data является указателем.
То, что вы делаете, это в основном получение адреса пакетных данных, преобразование его в long long
добавив 8 (для второй строки), умножив это на константу и посчитав это вашим значением, что семантически неверно. Вы должны разыменовать этот указатель, принимая во внимание ваш тип данных (преобразовать pkt_data
на указатель на long long
).
В коде:
long long acceptedPackets = (*(long long*)(pkt_data)) * 1000000;
long long acceptedBits = (*(long long*)(pkt_data+8)) * 8 * 1000000;
// this also works:
//long long acceptedPackets = *(long long*)pkt_data * 1000000;
//long long acceptedBits = *((long long*)pkt_data + 1) * 8 * 1000000;
Например, см. http://ideone.com/JqmRre
РЕДАКТИРОВАТЬ:
От это руководство:
Последний аргумент является самым интересным из них всех и наиболее
сбивает с толку среднего начинающего программиста pcap. Это еще один указатель
на u_char, и он указывает на первый байт фрагмента данных
содержащий весь пакет
Это означает, что pkt_data
это само содержимое пакета. Если ваши первые 16 байтов пакета не содержат желаемой информации (что неверно, поскольку он содержит необработанный пакет, то есть заголовки ETH, IP и TCP / UDP), вы не сможете использовать эти данные. Для того чтобы получить метрики PPS, вам нужно будет внедрить в свой цикл простой счетчик (поскольку вы печатаете эту метрику каждый кадр, простой long long pps = (long long)(1.0 / delay);
должно хватить — обратите внимание, что деление находится в плавающей запятой. Для ваших метрик BPS вы должны использовать информацию заголовка кадра. Так long long bps = (long long)(header->caplen * 8.0 / delay);
следует сделать.
Как примечание, для метрик времени, так как вы используете C ++ 11, попробуйте использовать chrono
, Это яснее и безопаснее, чем время:
Добавить #include <chrono>
,
Ваш окончательный код должен выглядеть примерно так:
// pcap variables
pcap_t *handle;
struct pcap_pkthdr *header;
const u_char *pkt_data;
// Use of high_resolution_clock
std::chrono::high_resolution_clock::time_point oldTimeUpload = std::chrono::high_resolution_clock::now();
std::chrono::high_resolution_clock::time_point oldTimeDownload = std::chrono::high_resolution_clock::now();
// stopLogging is a boolean flag declared in connection "parent" thread:
// it is set to false when connection thread has done sending and
// receiving data and connection is going to be closed
while (((res = pcap_next_ex(handle, &header, &pkt_data)) >= 0) && (!stopLogging)) {
// check res
if (packet is upload) {
std::chrono::high_resolution_clock::time_point now = std::chrono::high_resolution_clock::now();
long long delay = std::chrono::duration_cast<std::chrono::nanoseconds>(now - oldTimeUpload).count();
long long pps = (long long)(1000000000.0 / delay);
long long bps = (long long)(header->caplen * 8 * 1000000000.0 / delay);
debugRed(host << ", UPLOAD DIVIDE PER DELAY " << delay <<
" IS PPS " << pps << " AND BPS " << bps);
oldTimevalUpload.tv_sec = header->ts.tv_sec;
oldTimevalUpload.tv_usec = header->ts.tv_usec;
} else if (packet is download) {
// basically the same as above
}
}
debug("Quit logging connection " << localIPaddr << ":" << localPort << " and "<< remoteIPaddr << ":" << remotePort);
pcap_close(handle);
Как насчет выполнения вычислений pps и bps в другом процессе, а не в другом потоке? Я могу рекомендовать HttpAnalyzer Утилита, которая захватывает HTTP-пакеты прямо из сетевого интерфейса и вычисляет pps, bps и многие другие характеристики.
Поскольку он с открытым исходным кодом, вы можете изменить код в соответствии с вашими целями или использовать его как есть.
Вот пример выходных данных этой утилиты:
STATS SUMMARY
=============
General stats
--------------------
Sample time: 18.374 [Seconds]
Number of HTTP packets: 5662 [Packets]
Rate of HTTP packets: 291.910 [Packets/sec]
Number of HTTP flows: 55 [Flows]
Rate of HTTP flows: 2.836 [Flows/sec]
Number of HTTP pipelining flows: 0 [Flows]
Number of HTTP transactions: 322 [Transactions]
Rate of HTTP transactions: 16.601 [Transactions/sec]
Total HTTP data: 5916120 [Bytes]
Rate of HTTP data: 305011.600 [Bytes/sec]
Average packets per flow: 102.945 [Packets]
Average transactions per flow: 5.963 [Transactions]
Average data per flow: 107565.818 [Bytes]
HTTP request stats
--------------------
Number of HTTP requests: 323 [Requests]
Rate of HTTP requests: 16.653 [Requests/sec]
Total data in headers: 188596 [Bytes]
Average header size: 583.889 [Bytes]
HTTP response stats
--------------------
Number of HTTP responses: 332 [Responses]
Rate of HTTP responses: 17.117 [Responses/sec]
Total data in headers: 119577 [Bytes]
Average header size: 360.172 [Bytes]
Num of responses with content-length: 320 [Responses]
Total body size (may be compressed): 5409410 [Bytes]
Average body size: 16904.406 [Bytes]
HTTP request methods
--------------------
| Method | Count |
---------------------
| GET | 321 |
| POST | 2 |
---------------------
Hostnames count
--------------------
| Hostname | Count |
----------------------------------------------------
| images1.teny.co.qq | 180 |
| www.teny.co.qq | 82 |
| go.teny.co.qq | 14 |
| www.niwwin.co.qq | 8 |
| az835984.vo.msecnd.net | 5 |
| asset.pagefair.com | 3 |
| b.scorecardresearch.com | 3 |
| cdn.oolala.com | 3 |
| asset.pagefair.net | 2 |
| dy2.teny.co.qq | 2 |
| ecdn.firstimpression.io | 2 |
| pagead2.googlesyndication.com | 2 |
| server.exposebox.com | 2 |
| totalmedia2.teny.co.qq | 2 |
| vrp.mybrain.com | 1 |
| trc.oolala.com | 1 |
| zdwidget3-bs.sphereup.com | 1 |
| vrt.mybrain.com | 1 |
| www.googletagmanager.com | 1 |
| a.visualrevenue.com | 1 |
| tpc.googlesyndication.com | 1 |
| static.dynamicyield.com | 1 |
| st.dynamicyield.com | 1 |
| sf.exposebox.com | 1 |
| mediadownload.teny.co.qq | 1 |
| cdn.firstimpression.io | 1 |
| ajax.googleapis.com | 1 |
----------------------------------------------------
Status code count
--------------------
| Status Code | Count |
----------------------------------------
| 200 OK | 327 |
| 204 No Content | 1 |
| 301 Moved Permanently | 1 |
| 302 Moved Temporarily | 1 |
| 304 Not Modified | 2 |
----------------------------------------
Content-type count
--------------------
| Content-type | Count |
------------------------------------------
| application/javascript | 11 |
| application/json | 1 |
| application/x-javascript | 23 |
| image/gif | 22 |
| image/jpeg | 157 |
| image/png | 85 |
| text/css | 9 |
| text/html | 8 |
| text/javascript | 13 |
------------------------------------------