Робимо свій проксі-сервер для парсинга в Key Collector і інших

Дата: 30.12.2015

Правки від: 27.07.2016

Стаття буде актуальна для тих, хто хоче підключити і використовувати два і більше Інтернет-з'єднання одночасно на одному комп'ютері, вказавши цей проксі в торрент менеджері, браузері і другом софт підтримує підключення Proxy серверів, а також тим, хто хоче підвищити безвідмовність зв'язку з Інтернетом на робочому місці.

Кожен хто використовував проксі-сервери для парсинга стикався з проблемами і неприємностями пов'язаними з їх роботою. У сучасних реаліях витрати на пошук робочого проксі в недорогому ціновому сегменті можуть стати вище, ніж оренда одного дорогого проксі, на покупку якого Ви не наважилися відразу. Крім того, багато компаній здають недорогі проксі сервери в оренду добирають прибуток продаючи результати вашого парсинга в різні бази. Тому прийшов час зробити собі парочку власних hand made проксі для SEO!

У статті описаний спосіб створення і налаштування проксі для парсинга з використанням одного ПК на Windows і декількох USB-модемів (3G, 4G, ADSL, Wi-Fi до роутера, Dial-Up тощо). При хорошому каналі зв'язку, такий локальний проксі буде набагато швидше будь-якого іншого і справа тут не в пропускної здатності каналу, а в тому, що він не буде витрачати час на перенаправлення трафіку з сервера, а його ГЕО локація і інші чинники, буде більш природними, що також дозволить знизити таймаут. Крім того, IP-адреси зазвичай динамічні і після блокування за IP-адресою досить перезапустити роутер а не купувати новий proxy. Та й основне з'єднання буде працювати швидше.

Кількох економічних варіантів з реєстрацією на приватна особа:

Для Москви, можна вибрати інтернет-тариф від МГТС за 150 руб в місяць і отримати вічний першокласний проксі без подальших пригод.

Інший варіант - провідний Акадо на один пристрій - 300 рублів (як основне підключення) і підключення через USB пристрій до будь-якого іншого постачальника Інтернет-послуг.

Дружите з сусідами, а сусіди дружать з Wi-Fi?
Отримайте свої проксі!

SIM-проксі! Тобто ми використовуємо для парсинга модеми мобільних операторів, бажано 4G. Собівартість дорівнює вартості трафіку. Це десь 300 рублів на місяць при цілодобовому парсінгу. Можна задіяти свій смартфон або планшет з функцією USB-модема на правах «турбо кнопки», а залишок пакетів витрачати собі на втіху. Виходить взагалі безкоштовний проксі. Також мобільний канал можна тримати про запас, на випадок відмови одного з звичайних проксі в Key Collector (режим відв'язування аккаунта від проксі при його неполадки).

    Мінуси SIM-проксі:
  • для стабільного зв'язку в будь-який час доби крім ночі бажаний підсилювач сигналу, особливо в ЮЗАО Москви через велику кількість РЛС,
  • не можна використовувати кілька сімок одного оператора при парсінгу тому мобільні IP-адреси сірі, інакше кажучи можуть бути однаковими в очах сайтів,
  • мобільний інтернет не любить паралельний з'їм пошукових підказок в Кей колектор з іншими джерелами (занадто маленькі таймаут).
  • все що нижче 4G може сильно гальмувати в вечірні години.

Про всяк випадок варто ще раз окремо прояснити, що для кожного з'єднання знадобиться Wi-Fi-адаптер типу "USB-флешка" або USB -модем будь-якого типу (включаючи працює як модем мобільний телефон підключений до комп'ютера через USB і до мережі Інтернет через 4G і тп або Wi-Fi). Основне з'єднання бажано зробити через мережевий кабель, що на пряму підвищить безвідмовність зв'язку в години нестабільної роботи бездротових каналів зв'язку в міських районах.

Складність реалізації таких, здавалося б, простих рішень в тому, що ОС сімейства Windows просто не здатні розподіляти трафік від кількох активних сполук! Тому я розповім вам про створення локальних проксі-серверів в малопотужних віртуальних машинах всередині вашого Windows, які дозволять обійти це обмеження. До кожного такого віртуального ПК Складність реалізації таких, здавалося б, простих рішень в тому, що ОС сімейства Windows просто не здатні розподіляти трафік від кількох активних сполук буде підключатися модем через монопольно зарезервований у основної системи USB-порт . Ми налаштуємо віртуальну локальну мережу і зможемо передавати по ній трафік через створений програмою UserGate інтернет-шлюз (він же локальний проксі-сервер), адреса і порт якого вкажемо в налаштуваннях потрібних програм.

Ми детально розберемо створення проксі-сервера на прикладі підключення 3G USB-модемів, як найзручнішого способу отримання робочих Proxy, проте спосіб підійде і для будь-яких інших типів USB-модемів, включаючи Wi-Fi і телефони з підтримкою цієї функції.

Отже, приступимо!

Для організації домашніх проксі серверів на Windows нам знадобиться тільки дві програми: VMware Workstation - програма, яка створює віртуальну систему і локальний проксі-сервер UserGate, який буде встановлений на кожну віртуальну машину.

Варто зазначити, що можливість підключення Інтернет-пристроїв до віртуальної машини присутня тільки в VMware Workstation, інші програми віртуальних машин, такі як Virtual PC і VirtualBox не здатні підключатися до мережі через фізичний пристрій самостійно, в тому числі і через USB модеми. Тому найкращою віртуальною машиною для Windows є VMware, з якої ми і будемо працювати далі.

Я використовував VMware Workstation v9.0.2 Build 1031769 Lite + VMware-tools 9.2.3 і саму стабільну версію UserGate 2.8. VMware Workstation повинна бути не нижче версії 9.0 і обов'язково з пакетом VMware-tools, який підвищує продуктивність віртуальних машин. Незабутній про русифікатори.

Тепер, коли загальні питання вирішені, ми можемо перейти до поетапного виконання настройки:

  1. Установка VMware Workstation і віртуальної машини c Windows на ПК .
  2. Налаштування Windows XP на віртуальній машині і оптимізація її продуктивності .
  3. Установка USB-модема всередині віртуальної машини VMware .
  4. Створення віртуальної локальної мережі в VMware Workstation .
  5. Створення інтернет-шлюзу в локальній мережі за коштами UserGate 2.8, заключні штрихи і міні FAQ .

Дружите з сусідами, а сусіди дружать з Wi-Fi?