Разные, на мой взгляд, интересные замечания, связанные с компьютерами в частности и техникой вообще.

понедельник, 11 августа 2008 г.

Подсчёт траффика в Linux с помощью pmacctd.

Система подсчёта траффика

Учётная система работает на основе утилиты pmacctd. Утилита записывает весь, проходящий через интерфес траффик и скидывает это всё в лог-файл. После этого скрипты сортируют получившийся дамп по адресам клиентов, разделяет по дням недели и месяцам, а так же создаёт бекап дампа. Адреса клиентов система берёт из основного конфига прокси-сервера.

Скрипт запуска, останова и считывания адресов клиентов учётки

Находится в /etc/ini.d/ Отрабатывает с параметром start при старте системы и параметром stop, при останове. После добавления нового пользователя, надо делать /etc/ini.d/pmacct restart

#!/bin/sh
#

## Глобальные переменные
### Пути к утилитам, по которым скрипт может обращаться. Не обязательная переменная, но для подстраховки не помешает.
PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin
### Расположение собственно исполняемого файла утилиты pmacctd
DAEMON=/usr/sbin/pmacctd
### Имя работающего демона
NAME=pmacctd
### Описание.
DESC="traffic accounting system"
### Директория для хранения настроек учётной системы.
CONFDIR=/etc/pmacct
### Директория для хранения логов.
LOGDIR=/var/log/pmacctd
### Инклудим конфиг.
. $CONFDIR/pmacctd.conf

### Проверяем наличие исполняемого файла демона. Если отсутствует, завершаем работу.
test -x $DAEMON || exit 0

### Функция останова.
stop () {
 killall -INT $NAME
}

### Функция старта.
start () {
#### Вытягиваем из конфига прокси-сервера имена и ip-адреса пользователей и сохраняем из в файл stat.conf в директории конфигов.
     grep 255.255.255.255 /etc/squid/squid.conf | grep -v 127.0.0.1 | grep -v '#' | awk '{print $2, $4}' | cut -f 1 -d / > $CONFDIR/stat.conf
#### Собственно запускаем демона в фоновом режиме и складываем всю статистику по траффику в файл pmacctd.log в лог-директории.
     $DAEMON -c $PRIMITIVE -i $INTERFACE -r $INTERVAL -P print >> $LOGDIR/pmacctd.log &
}

### Меню выбора используемой функции из первого аргумента после скрипта.
case "$1" in
start)
     echo -n "Starting $DESC: "
     start
     echo "$NAME."
     ;;
stop)
     echo -n "Stopping $DESC: "
     stop
     echo "$NAME."
     ;;
restart)
     echo -n "Restarting $DESC: "
     stop
     sleep 1
     start
     echo "$NAME."
     ;;
*)
     N=/etc/init.d/$NAME
     echo "Usage: $N {start|stop|restart}" >&2
     exit 1
     ;;
esac

exit 0




Конфиг.


Значения берутся из man pmacctd.

PRIMITIVE=src_host,dst_host
INTERFACE=eth0
INTERVAL=1


Скрипт скидывания ежедневной статистики

Запуск скрипта прописан в файле /etc/crontab:
01 4 * * * root /usr/sbin/pmacctdaily
Он отрабатывает автоматически каждый день в 04:01:00 по времени сервера.

#!/bin/bash
#
## Конфигурационная директория
CONFDIR=/etc/pmacct
## Лог-директория
LOGDIR=/var/log/pmacctd
## Текущая дата в формате ддммгггг
DATE=`date +%d%m%Y`
## Вычисление пользовательских ip-адреса.
USERSIP=`cat $CONFDIR/stat.conf | awk '{print $2}'`
## Останов учётной системы для того, чтобы она не обращалась к логам во время работы с ними данного скрипта.
/etc/init.d/pmacct stop >/dev/null
## Создание директории для траффика за сутки до текущей даты
mkdir $LOGDIR/$DATE 2>/dev/null
## Пока в памяти лежат пользовательские ip-адреса, обработать каждый из них по-очереди.
for i in $USERSIP
do
#### Вычисляем количество бит в каждой следующей записи из лога, в которой упоминается текущий ip-адрес
BYTES=`grep -w $i $LOGDIR/pmacctd.log | awk '{print $16}'`
ALLBYTES=0
##### Прибавляем каждое новое вычисленное количество битов к переменной ALLBYTES
for b in $BYTES
do
ALLBYTES=$((ALLBYTES+b))
done
##### Вычисляем имя пользователя с текущим ip-адресом
USERNAME=`grep -w $i $CONFDIR/stat.conf | awk '{print $1}'`
#### Скидываем в файл с именем текущего пользователя значение переменной ALLBYTES
echo $ALLBYTES > $LOGDIR/$DATE/$USERNAME
done
##### Архивируем общий лог и сохраняем его в директорию с файлами статистики пользователей за сутки.
gzip $LOGDIR/pmacctd.log
mv $LOGDIR/pmacctd.log.gz $LOGDIR/$DATE/
Запускаем учётную систему.
/etc/init.d/pmacct start >/dev/null
В общей сложности при нынешней нагрузке скрипт отрабоатывает примерно за 10-15 секунд. Чем больше будет пользователей и траффика, тем больше понадобится времени, но для того, чтобы дойти хотя бы до минуты выполнения, надо увеличить объёмы в несколько раз.


Скрипт скидывания ежемесячной статистики

Запуск скрипта прописан в файле /etc/crontab:
01 5 1 * * root /usr/sbin/pmacctdmonthly
Он отрабатывает автоматически каждый первый день месяца в 05:01:00 по времени сервера.
#!/bin/bash
#
### Конфигурационная директория
CONFDIR=/etc/pmacct
### Лог-директория
LOGDIR=/var/log/pmacctd
### Текущий месяц в формате мм
MONTH=`date +%-m`
### Текущий год в формате гггг
YEAR=`date +%Y`
Временная директория
TMPDIR=/tmp/pmacctd
## Так как скрипт выполняется первого числа, а нам надо сделать статистику за предыдущий месяц, делаем проверку, не первое ли сегодня января и присваиваем переменным месяца и года нужные нам значения.
#### Отдельное примечание. Из-за того, что в bash по умолчанию числа, начинающиеся с 0, автоматически считаются числами восьмеричой системы счисления,
#### приходится делать более сложную проверку, сравнивая значения месяцев, как строки, и только потом присваивать им какие-либо значения.
if [[ $MONTH == 01 ]]
then
LASTMONTH=12
LASTYEAR=$((YEAR-1))
else
if [[ $MONTH == 11 || $MONTH == 12 ]]
then
LASTMONTH=$((MONTH-1))
LASTYEAR=$YEAR
else
LASTMONTH=$((MONTH-1))
LASTMONTH=0$LASTMONTH
LASTYEAR=$YEAR
fi
fi
## Создаём директорию вида ммгггг для хранения статистики за месяц.
mkdir $LOGDIR/$LASTMONTH$LASTYEAR
## Считываем все директории с файлам посуточной статистики за прошедший месяц.
DIR=`ls $LOGDIR | grep $LASTMONTH$LASTYEAR`
for i in $DIR
do
#### Поочереди, в каждой из этих директорий находим файлы по именам пользователей
USERNAME=`ls $LOGDIR/$i/`
for n in $USERNAME
do
###### Во временной директории создаём файл с несуммированной статистикой на каждого пользователя.
BYTES=`cat $LOGDIR/$i/$n`
echo $BYTES >> $TMPDIR/$n
done
done
#### Суммируем статистику из временной директории на каждого пользователся,
#### Складываем её в вышесозданную директорию и
#### удаляем временные файлы.
for i in $DIR
do
USERNAME=`ls $LOGDIR/$i/ | grep -v gz`
for nn in $USERNAME
do
ALLBYTES=0
BYTES=`cat $TMPDIR/$nn`
for b in $BYTES
do
ALLBYTES=$((ALLBYTES+b))
echo $ALLBYTES > $LOGDIR/$LASTMONTH$LASTYEAR/$nn
done
done
done
rm -rf $TMPDIR
В итоге в Лог-директории мы получаем каталог с номером прошедшего месяца и года вида ммгггг, в котором лежат файлы, имя каждого из которых - это имя пользователя, а содержимое - траффик за прошедший месяц.

четверг, 19 июля 2007 г.

Настройка протокола связи turbocell

1. Введение.
Сейчас довольно сильно распространенны разнообразные Wi-Fi устройства, применяемые для связи в тех местах, где нет возможности(или очень дорого) протянуть кабель. По поводу настройки связи по протоколам IEEE 802.11 a/b/g написанно довольно много документации, но мне по работе недавно пришлось столкнуться с настройкой протокола TurboCell(программная "надстройка" для устройств, разработанных для IEEE 802.11 a/b/g, реализующаяя маркерный протокол доступа и гарантирующая стабильную связь в тех условиях, в которых ресурсы 802.11 a/b/g уже исчерпаны). Проще говоря, этот протокол даёт возможность "выжать больше" из того же оборудования по сравнению с 802.11 a/b/g. Однако при настройке я столкнулся снекоторыми проблемами, а информации в интернете по этому поводу, как оказалось, практически нет. Поэтому я решил описать процедуру настройки.
2. Получение драйверов и прошивки.
Я использую такую схему связи:
Устройство RG+KN-105 Outdoor на базе pcmcia-карточки Orinoco Silver в качестве Точки Доступа.
Компьютер с установленной ОС Linux(подробнее дальше) и pcmcia-карточкой Orinoco в качестве клиента.
Так как этот протокол является закрытым, прошивку для ТД и ключи для работы драйверов придётся покупать. Вам должны предоставить файл прошивки xxx.bin и ключ к нему xxx.lkf для устройства. Для клиента - исходные тексты драйверов wavelan2_cs-TC1.04.tar.gz и 20-ти значный ключ. Всё кроме драйверов генерируется при помощи MAC-адресов карточек. Связываться надо с представителями компании KarlNet Inc (ныне Terabeam/Proxim).
3. Прошивка устройства.
Для прошивки Вам понадобится утилита "TeraBeam Configurator and Management Program", разработанная под Windows, но прекрасно работающая под wine(если у Вас, как и у меня в качестве Desktop-системы используется Linux).
Итак, непосредственно процедура прошивки:
а) сбрасываем устройство к заводским настройкам(в моём случае надо было зажать кнопку reset при отключенном питании и потом включить устройство в сеть, после чего несколько секунд подождать пока все индикаторы устройства не успокоятся);
б) запустив утилиту, идём в File -> Open Config/Bin File -> Отвечаем Ok во всплывшем окне -> Выбираем файл прошивки (xxx.bin) -> Жмём Import License Key -> Выбираем фал ключа(xxx.lkf) -> Отвечаем Ok во всех окнах после этого.
Если всё прошло успешно, мы возвращаемся к главному окну утилиты. Теперь File -> Upload Software -> Scan -> Выбираем устройство(ip-адрес запоминаем, либо меняем на тот, который Вам нравится) -> Во всех окнах жмём Ok и ждём.
После всего этого устройство должно быть готово к работе с протоколом TurboCell. Для настройки запускаем ту же утилиту, вводим в поле под "Enter an IP address or select from above" адрес указанный при прошивке, ждём появления надписи <указанный_Вами_ip-адрес> is online и нажимаем Configure Remote. Остальные настройки на Ваше усмотрение кроме одного замечания: В Interface Setup, в настройках интерфейса 802.11(у меня второй) нужно указать режим TurboCell Base Station и ISP Base Station, иначе связи не будет(во всяком случае у меня не вышло и информации о том, что у кого-то получилось запустить это в другом режиме у меня нет).

4. Установка драйверов.
Драйвера для Linux мне удалось запустить только с ядром 2.4.2. С другими ядрами модуль wavelan_cs2 получающийся после сборки не подгружается из-за ошибок в совместимости. Я использовал систему Debian Sarge 3r1, указывая при установке, что мне требуется ядро 2.4.27. После установки я скачал и собрал ядро 2.4.2. Главное замечание при сборке - правильно указать параметры pcmcia. В качестве примера я использовал дефолтный конфиг ядра из RedHat Linux 7.1. Также для сборки драйверов понадобится компилятор gcc только из второй ветки(старше нельзя).
Далее тянем из инета драйвера для pcmcia (я использовал pcmcia-cs-3.1.30.tar.gz). Распаковываем их куда-нибудь, а уже в корень директории с этими драйверами распаковываем wavelan2_cs-TC1.04.tar.gz. Конфигурим при помощи make config pcmcia-драйвера и запускаем скрипты ./Build и ./Install.
Драйвера готовы.
5. Настройка и запуск.
Для настройки правим файл /etc/pcmcia/config.opts, добавляя в него строку:
module "wavelan2_cs" opts "protocol=1 channel=1 port_type=3 nwid=0 license=12345678901234567890 pp=password station_name=name", где nwid, pp и channel должны совпадать с соответствующими параметрами на ТД, station_name ставится на Ваше усмотрение, а license - 20-ти значный ключ, выданный Вам продавцом лицензии. Остальное всегда остаётся таким, как у меня указанно.
Рестартуем pcmcia и связь должна появиться. Маленькое замечание. wireless-tools можно не ставить. iwconfig не отображает практически ничего связанного с TurboCell, т.е. ни наличия/отсутствия сигнала, ни действующих ключей, ничего кроме канала и имени клиентской точки.
6. P.S.
Описание получилось коротким, но на самом деле надо быть готовым ко множеству проблем. Не знаю, как и когда писались эти драйвера, но всё, что здесь описанно, я изучал на протяжении долгого времени методом проб и ошибок. В более новых версиях linux могут возникнуть проблемы с binutils - придётся менять на более старую версию, про gcc я уже говорил(я использовал 2.96). Так же могут возникнуть проблемы с модулями, если в Вашем дистрибутиве нельзя при установке выбрать ядро из ветки 2.4.х. В общем, пробуйте. Эту статью не следует воспринимать, как руководство к действию, это всего лишь описание удавшейся и работающей конфигурации.