some image

Обо всем

Разработка парсера kad.arbitr.ru

Обо всем

Разработан парсер http://kad.arbitr.ru/. С возможностью выбора периода и выгрузки всех дел в удобном формате. Реализован интеллектуальный алгоритм поиска для обхода ограничения в 1000 записей.
Если вы хотите купить этот парсер, либо заказать любой другой, свяжитесь со мной любым удобным способом, указанным в разделе «Контакты».

[Выполнено] Парсер cian.ru с выгрузкой в XML

Обо всем

Выполнен парсер cian.ru с автоматической выгрузкой в XML в формате cian.ru. Парсер подготавливает объявления, подходящие под нужные параметры, к загрузке на циан со своего номера, изменяя, если нужно, цену.

[Выполнено] Парсер zakupki.gov.ru

Обо всем

Разработано 2 парсера: парсер тендеров с http://zakupki.gov.ru/epz/contract/contractQuickSearch/search.html и парсер банковский гарантий с http://zakupki.gov.ru/epz/bankguarantee/quicksearch/search.html. Реализована возможность непрерывного обновления и парсинга информации за определенный промежуток времени. Для заказа, покупки парсера свяжитесь со мной любым удобным для вас способом, представленным в разделе «Контакты».

mysql разрешить подключения

Обо всем

Для открытия доступа для внешних подключений нужно в консоли залогиниться под любым пользователем с административными правами

mysql -u root если вы только установили mysql и пароль не задан или

mysql -u root -p если пароль задан, далее потребуется ввести пароль.

Выполнить следующий запрос:
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'password';

Так же нужно поредактировать /etc/mysql/my.cnf

Поменяйте

bind-address = 127.0.0.1 на #bind-address = 127.0.0.1

Перезапустите mysql сервер

service mysql restart

mysql сменить пароль

Обо всем

Для того чтоб сменить пароль mysql по ssh нужно в консоли залогиниться под любым пользователем с административными правами

mysql -u root если вы только установили mysql и пароль не задан или

mysql -u root -p если пароль задан, далее потребуется ввести пароль.

Cменить пароль любому пользователю можно следующим запросом

UPDATE mysql.user SET Password=PASSWORD('MyNewPass') WHERE User='root';
FLUSH PRIVILEGES;

[Выполнено] Парсер inteksar.ru; копия каталога

Обо всем

Разработан парсер, собраны все товарные позиции, категории и изображения с сайта inteksar.ru, настроено автоматическое обновление и выгрузка товаров на tiu.ru. Для заказа этого каталога свяжитесь со мной любым способом, указанным в разделе «Контакты».

[Выполнено] Парсер sportoptovik.ru, наполнение магазина контентом

Обо всем

Для заказчика разработан парсер сайта sportoptovik.ru и программа-загрузчик контента в его каталог. Категории, товары, цены, изображения — все загружено в полном обеме.

Для покупки этого парсера свяжитесь со мной одним из способов, указанных в разделе «Контакты».

linux debian настройка анонимного прокси

Обо всем

С помощью этой записи вы сможете настроить анонимный прокси для конкретного ip без авторизации за несколько минут.
Первым делом устанавливаем squid3:

sudo apt-get update
sudo apt-get upgrade
sudo apt-get install squid3

Далее идем в директорию с конфиг файлом и делаем резервную копию файла настроек:

cd /etc/squid3
cp squid.conf squid.backup.conf

Заменяем содержимое файла squid.conf:


acl client src ВАШ_IP_С_КОТОРОГО_БУДЕТ_ОСУЩЕСТВЛЯТЬСЯ_ДОСТУП
http_access allow client
http_port 3128
tcp_outgoing_address ВНЕШНИЙ_IP_ВАШЕГО_СЕРВЕРА
forwarded_for off
request_header_access Allow allow all
request_header_access Authorization allow all
request_header_access WWW-Authenticate allow all
request_header_access Proxy-Authorization allow all
request_header_access Proxy-Authenticate allow all
request_header_access Cache-Control allow all
request_header_access Content-Encoding allow all
request_header_access Content-Length allow all
request_header_access Content-Type allow all
request_header_access Date allow all
request_header_access Expires allow all
request_header_access Host allow all
request_header_access If-Modified-Since allow all
request_header_access Last-Modified allow all
request_header_access Location allow all
request_header_access Pragma allow all
request_header_access Accept allow all
request_header_access Accept-Charset allow all
request_header_access Accept-Encoding allow all
request_header_access Accept-Language allow all
request_header_access Content-Language allow all
request_header_access Mime-Version allow all
request_header_access Retry-After allow all
request_header_access Title allow all
request_header_access Connection allow all
request_header_access Proxy-Connection allow all
request_header_access User-Agent allow all
request_header_access Cookie allow all
request_header_access All deny all

Сохраняем, перезагружаем прокси.

service squid3 restart

После этого прокси будет доступен по адресу ВНЕШНИЙ_IP_ВАШЕГО_СЕРВЕРА:3128.

phantomjs click event, клик на любом элементе страницы не работает

Обо всем

В phantomjs 1.9+ есть очень неприятный баг, связанный с тем, что вы не можете кликнуть по-настоящему практически не по какому элементу. Вы можете вызвать событие click() с помощью jQuery, например, но это не заменяет стандартного поведения браузера. Например, кликнув на label в обычном браузере, вы меняете значение чекбокса, привязанного к нему. Здесь этого нет. Так же здесь нет каскадной передачи клика родительским элементам.
Для решения данной проблемы существует следующий хак, проверен лично на avito.ru:

function mouseclick( element ) { //расширяем возможности phantomjs, делаем новую функцию настоящего клика по элементу
    // create a mouse click event
    var event = document.createEvent( 'MouseEvents' );
    event.initMouseEvent( 'click', true, true, window, 1, 0, 0 );
 
    // send click to element
    element.dispatchEvent( event );
}

page.evaluate( //выполняем яваскрипт на странице, при этом передаем туда созданную ранее функцию
        function( mouseclick_fn ) {
            var element = jQuery( "label[for=service_4]" )[0];
            mouseclick_fn( element );
        },
        mouseclick
    );
setTimeout(function(){
	//проверяем результат
	//обязательно подождите пару секунд после клика по элементу, дайте браузеру сделать то, что вы задумали и пройти всем сопутствующим эвентам
}, 2000);