Кун с сервером в германии на связи. Вчера мы написали скрипт, который сохранял один тред. Сегодня я его дописал до парсера /b
Попадают в него не все треды, а только те, которые он увидит на нулевой, раз в минуту на нее заглядывая. Скрипт, очевидно, очень не быстрый, надо чтобы файлы загружались в несколько потоков, но на сегодня с меня хватит. Пока так, а завтра постараюсь дописать, чтобы все как надо работало
Пока принцип такой: 1. Первый скрипт периодически открывает нулевую и закидывает в базу номера тредов 2. Второй скрипт раз в минуту смотрит в базу и выгребает задания для загрущки 3. Если треда больше нет, задание на его загрузку удаляется 4. Все хранится в sqlight 5. Скрипты запускаются по крону раз в минуту. Сейчас увеличу интервал второго скрипта до раз в пять минут
>>242719720 (OP) Салам оп, как вижу это Питон? За какой период изучения питона можно добиться уровня аля написания скриптов на лайтах? учу пока неделю лол, до этого изучал плюсы, но как доходит до сложных прог теряюсь как как долго душить удава, чтобы написать такое?
>>242720401 >Выкладывать собираешься в открытый доступ? Да, на выходных это сделаю. Сегодня просто был порыв и я только писал код
>Можешь как-то помечать удаленные треды? Я бы составил психологический портрет модераторов. И посты и треды будут помечаться, если они удалены. Поэтому отказался от первоначального решения хранения в json файлах, так как они хранили только существующие посты
>>242720426 Вряд ли. Наоборот, буду делать все как можно менее ресурсоемким
>>242720516 Деньги мне платят на работе, а это так, зарядка для ума. Игры уже не доставляют, вот я и вкатываюсь
>>242720571 Все очень индивидуально. От недели до месяца (если ты не знаком ни с одним другим ЯП)
>>242720582 Хз, просто фантазирую на досуге. Часто мне самому чего-то не достает, вот и появляются мысли это сделать
>>242720892 Я тоже лол, но с деньгами даже приятнее. Генерация заголовков и кукис, обход капчи, это все очень пиздатый досуг, я понимаю, просто делая его за бесплатно ты будешь сидеть без гроша в кармане, /b/rat
>>242721199 Я не все беру, а только те, что встречаются на нулевой в момент, когда я туда захожу. У нас живой тред и он почти всегда должен быть там. Ну сейчас проверим
>>242721107 >Знаю циклы и условные конструкторы Не, ну это уже совсем уровень сеньора, вам надо в крупные айти компании, боюсь наша оплата вряд ли вам хватит
>>242721256 на фриланс сайте. 650 р в месяц, коммисии нет. Доход не ограничен, у меня от 30к в неделю(как в эту неделю) до нихуя в месяц(как в январе) колеблется, так что тут как повезет.
>>242719720 (OP) Поясни, а в чем космический смысл платить за аренду сервера в швятой Германии, если ты можешь купить недорогой комп или сервер и поставить у себя дома??
Так и не нашел нашего треда. Нужно что-то с этим делать, да. Ну и + всплыл косяк небольшой с датой, это тоже надо поправить
Вообще, что-то мне sqlight не очень зашел в роли хранилища. Или это проблема фреймворка, который я использую, я пока не понял. Проблема в том, что файл базы блокируется на время зааиси в него данных и если совпадет так, что он понадобится второму скрипту, будет не очень.
>>242721777 У меня на сервере еще vpn крутится. Споилер: дешевле платить за этот сервер, чем покупать услуги у vpn провайдера
>>242720853 ты бесплатно программируешь? ты совсем еблан? Давай я тебе свои заказы буду присылать, а ты мне на интузиазме их за спасибо делать, братан?
Так. Настало написать третью версию парсера, которая будет отправлять асинхронно запросы на получения информации. А потом уже будем думать что делать с базой
Ладно, анончики, сегодня я вряд ли закончу что-то и смогу показать. Тред будет завтра. И вот вам статья, на которую я буду оглядываться в написании парсера
>>242730736 В статье просто фантастический код. переписал под получение 100 раз этого треда и в итоге меньше секунды время заняло. Это примерно в 30 раз быстрее чем мой предыдущий вариант
>>242728277 На фрилансовых сайтах лол, отклики пишешь и ждешь. Ну я сперва отклики на курсовых по программированию получал, а потом когда уже чуть рейтинг набрал стал брать заказы на парсеры и подобное
>>242720516 >>242720788 Хуя зумерки пошли. А я еще помню инет 20 летней давности, в котором все программировали что-то забесплатно, еще и с гордостью об этом постили.