[WT] [Архив] [Поиск] [Главная] [Управление]
[Совместно с IIchan.ru]

[Назад] [Вся нить] [Первые 100 сообщений] [Последние 50 сообщений]
Ответ в нить
Имя
Animapcha image [@] [?]
Тема   (reply to 773)
Сообщение flower
Файл 
Пароль  (для удаления файлов и сообщений)
Параметры   
  • Прежде чем постить, ознакомьтесь с правилами.
  • Поддерживаемые типы файлов: 7Z, BZ, GIF, JPG, MO, MP3, OGG, PDF, PNG, PSD, RAR, SVG, SWF, TXT, XCF, ZIP
  • Максимально допустимый размер файлов: 10000 кБ.
  • Изображения, размер которых превышает 200 на 200 пикселей, будут уменьшены.
  • Ныне 1618 unique user posts. Посмотреть каталог
  • Радио:

Файл: 125161436960.gif-(1.67KB, 68x150, 1.gif)
773 No. 773 watch    
Здравствуй, Ычик!
Появилась идея разработать Gelbooru downloader.
Суть такова - пользователь задаёт теги, по которым хочет искать, кол-во страниц которые нужно выкачать и папку куда качать.
Программа же будет сама искать по этим тегам и скачает пользователю в папку заданное кол-во пикч.
Потом возможно добавление поддержки других сайтов, вроде danbooru и т.д.
В принципе, я вполне могу взяться за разработку, и скорее всего, смогу сделать такую прогу, но вопрос - нужно ли? Анон, тебе нужна такая прога?
Развернуть все изображения
>> No. 774    
Пригодится. Делай.
>> No. 775    
Нужно.
>> No. 776    
Нужно. На гелбоору есть тонны арта, которые релевантны моим интересам, но качать мне лень и некогда, поэтому тягаю оттуда по мере необходимости.
>> No. 777    
Нужно, делай.
>> No. 778    
Ок, значит будем делать.
Никто не подскажет какой-нибудь поисковой запрос для Gelbooru, который выдаст только одну пикчу?
>> No. 779    
>>778
cacodemon
>> No. 780    
тег "thrall"
1 результат только.
>> No. 781    
Можно за основу взять http://nopaste.info/cee56adf98.html , кстати.
>> No. 782    
POC (ProofOfConcept) версия почти готова,но она качает только первую найденную пикчу.
Правда, почему-то, все ссылки достаются нормально, но пикчи с сервера грузиться не хотят >_<
Буду разбираться, как заработает - обязательно выложу.
>> No. 783    
>>782
Ты лучше сделай, чтобы выдавало список ссылок, а не скачивало первую найденную.
Алсо, венда-онли чтоли?
>> No. 784    
С одной стороны и хорошо, с другой стороны, подобные скачиватели часто используются чрезмерно и нагинают сервер, из-за чего страдают нормальные пользователи.
>> No. 786    
Файл: 125162805936.jpg-(95.02KB, 750x940, 18411.jpg)
786
Хотеть нечто подобное для Пиксива.
>> No. 788    
Так есть такие штуки уже.
Правда скриптец, который я гоняю, скачивает всё что есть по этим тегам, с гибкими настройками прога пригодится, да.
И двачую качалку с пиксива. И сейфбору заодно прикрути.
>> No. 789    
>>783
Первую найденную качает только ProofOfConcept-версия.
Да, венда-онли(пока).
>с гибкими настройками
будут
>И двачую качалку с пиксива. И сейфбору заодно прикрути.
сейфбору сделаем, там вроде с гелбору различий нет.
пиксив - я нихуя не понимаю в лунном, если кто-то объяснит мне, как он устроен, может и будет качалка.
>> No. 790    
Итак, POC-версия готова.
Это очень ограниченная версия, она качает только одну пикчу и её предпросмотр в папку C:\gelbooru_test
Линк на РОС - http://dl.getdropbox.com/u/1474642/galboorudl.exe
Ждите полной версии
>> No. 791    
И, да, иконка временная и извиняюсь за опечатку в названии эксешника.
>> No. 792    
>>790
На чём писал?
Исходники выложи под лицензией WTFPL.
>> No. 793    
>>792
AutoHotkey, потому-то скорее всего и не будет линукс-версии.
Да, знаю, быдлокод.
Исходники будут у финальных версий, сырцы сырых версий я выкладывать не буду.

Насчёт WTFPL - хорошая идея, скорее всего, под ней и буду выкладывать %)
>> No. 794    
Кстати, а это что такое?
http://danbooru.donmai.us/forum/show/19498
>> No. 795    
>>794
Просто еще граббер данборы.
>> No. 796    
>>789
Если не можешь зойрегестрироваться, можешь использовать mylingual.net
>> No. 797    
Файл: 125165572723.jpg-(118.12KB, 480x619, 1250467476735.jpg)
797
Делал идентичную консольную прогу для сайта rule34.paheal на быдлошарпе, она записывала ссылки на изображения в текстовый файл, а оттуда можно было дмастером все быстро скачать, хотел делать виндоблядский интерфейс но жутко гребет, если кому надо могу выложить.
>> No. 798    
>>797
Выкладывай.
В хозяйстве всё пригодится. :3

Алсо, я тут подумал.
Очевидно, что у каждого быдлокодера есть небольшая кучка наработок/программок/классов/библиотек самописных или исправленных||модифицированных и прочего полезного и не очень в быту.
Был бы неплох какой-нибудь сервис, где можно было бы выложить свои небольшие поделия, которые для крупных (CodePlex, Sourceforge и других) как-то не солидно.
>> No. 799    
Файл: Rule34_Console.rar-(18.79KB)
799
>>797
>> No. 802    
Писал скрипт на похапэ, который выковыривал с данборы все ссылки на картинки для нужного тега.
>> No. 803    
Итак, прогресс есть, новая версия качает уже не одно, а два изображения %)
>> No. 804    
>>798
googlecode, например.
>> No. 811    
http://code.google.com/p/danbooru-v7sh-grabber/wiki/Main
>> No. 812    
>>811
Как заставить работать это под виндой?
>> No. 813    
>>803
Жду версия под номером 900.
>> No. 814    
>>813
slfxd

>версия

версию
>> No. 817    
>>812
cygwin + bash же.
>> No. 818    
>>817
Мне это ничего не сказало. Совсем. Можно как-нибудь, совсем для немощных.
>> No. 819    
>>818
cygwin http://www.cygwin.com/
1) Качаешь
2) Ставишь
3) Устанавливаешь в т.ч. bash, curl, что-то там еще (см. внутренности скрипта)
4) запускаешь по манулу на странице в гуглкоде
5) ??????
>> No. 822    
Файл: 125192264930.jpg-(28.42KB, 677x342, 111.jpg)
822
>>819
Скачал. Поставил все с дефолтными настройками. Скрипт засунул в C:\cygwin\home\user
Пытался писать, как в гуглокоде, но что-то видать, оно отказывается со мной сношаться. Вернее ничего не происходит.
>> No. 827    
>>822
Хммм.
ок, я посмотрю его в цигвине сегодня вечерком, как винду загружу.
>> No. 828    
>>827
Спасибо, буду ждать вестей <3
>> No. 829    
>>828
Извини, но я его тоже не осилил.
У меня, например, не работал curl. Вообще никак, т.е. Никаких ошибок никуда не выводилось, ничего - просто curl выдавал пустой выхлоп на любой запрос.
В общем, значит способов запустить это под виндовс нету.
>> No. 830    
>>829
Хм, в теме на данбору (http://danbooru.donmai.us/forum/show/19498) :
>Also i have reports of running it on MinGW for windows, so it most likely should run in every posix-compatible environment.
>running it on MinGW for windows
>MinGW
Что это есть? :3
>> No. 831    
>>830
Ты меня извини, но загуглить по слову mingw и найти mingw.org ты, по-моему, вполне мог.
>> No. 832    
>>831
Мог и даже и пробовал. Результат таков же. Хотя, толком не разобрался в этом деле.
>> No. 833    
Оп, задумка уже стухла?
>> No. 852    
Бамп.
ОП, что с граббером?
>> No. 853    
Файл: 125258589167.png-(9.23KB, 483x190, gelboorudl_beta1.png)
853
>>833
Нет.
>>852
Всё охуенно.

Текущая бета может скачивать до 25 найденных пикч(ровно столько находится на одной странице с выдаче поиска).
Сейчас пытаюсь пофиксить небольшие баги и сделать возможность качать больше 25 изображений.
>> No. 854    
UPD: Теперь граббер может качать любое кол-во пикч(вроде) но пиздец как медленно.
Сейчас буду пытаться снизить кол-во скачиваемых временных файлов.
>> No. 855    
>popoffka
>> No. 856    
>>855
О боже, ты меня деанонимизировал! :O
Теперь буду подписываться так
>> No. 857    
Файл: 125259219814.jpg-(30.14KB, 283x283, d0f2adc170c456cc612230261b633609.jpg)
857
>popoffka
>> No. 858    
>>854
>Теперь граббер может качать любое кол-во пикч(вроде) но пиздец как медленно.
Сколько он одновременно тянет? (пикч).
И да, на гелборе скорость всегда не очень, так что особо не парься.
>> No. 859    
>Сколько он одновременно тянет? (пикч).
Одну, больше встроенными возможностями языка сделать нельзя, так-что буду пытаться реализовыать это через внешние либы.
>> No. 867    
>>859
Скоро ли будет выложено?
>> No. 870    
>>867
К сожалению, есть определённые, пока-что ещё не решённые проблемы, которые необходимо решить до релиза.
Такие дела, да.
>> No. 871    
Файл: 125319246382.png-(266.24KB, 589x813, 1237093414176.png)
871
>>870
Ничего, спасибо за то, что ты делаешь такую нужную программу.
>> No. 874    
Есть такое давно уже. На питоне и кроссплатформенно.
>> No. 875    
>>874
Питон - гавно.
>> No. 876    
>>875
Есть что-то лучшее для кроссплатформенных скриптов? Расскажи-ка.
>> No. 882    
А ссылку на подскажеш?
>> No. 883    
>>876
Кроссплатформенность не нужна.
>> No. 884    
Я имел в виду ссылку на скрипт.
>> No. 886    
>>884
Для данбуру выше кидали, вот для гельбуру http://dpaste.com/96197/

>>883
Пошла нахуй толстота, если по делу ничего сказать не можешь.
>> No. 894    
А есть подобные скрипты для chan.sankakucomplex.com?
>> No. 895    
>>894
Там движок данбуры, замени здесь http://nopaste.info/cee56adf98.html HOST.
>> No. 897    
Благодарствую.
>> No. 904    
>>829
А у меня запустилось, настраивал по этому мануалу:
http://www.linux.org.ru/view-message.jsp?msgid=3665745
>> No. 905    
Файл: 125385214784.jpg-(104.98KB, 667x332, Буфер обмена-1.jpg)
905
Забыл пруф.
>> No. 909    
>>904
А у меня напрочь отказалась сношаться с моей вин7. Или же со мной.
Олсо непонятно, что ты там настраивал.
Можно весь порядок произведенных действий, ось и т.д
>> No. 910    
Файл: 125388388115.jpg-(15.84KB, 666x335, Буфер обмена-1.jpg)
910
>>909
[spoiler]Возможно слегка сумбурно, но не программист.[/spoiler]
ось- Windows XP SP2, Net.Framework и всё, что нужно, папка Cygwin после установки занимает 3,31 ГБ
1.Скачал всё, что было предложено Cygwin, весит около 930 мб.
2.Затем перенёс граббер в папку "C:\cygwin\home\Аноним".
3.Запустил Cygwin, открылось окно , ввёл
>$ sh grab.sh -d -dm 333
для настройки папки, куда загружать.
4.
>$ sh grab.sh -w -u логин -p пароль
, указал свой логин и пароль.
5.
>$ sh grab.sh -d somethingtag
, для начала закачки.
>> No. 911    
>>909
>вин7
Несовместимость, Cygwin совместима с осями до XP.
>> No. 914    
Файл: 125393761871.png-(6.81KB, 669x338, Screenshot00037.png)
914
Запустил cygwin на XP, работает. Но качается довольно медленно (это проблемы Данбуры?) и при попытке скачать по двум тегам выдаёт ошибку 500.
>> No. 916    
>>914
Да скорость очень небольшая и дело в Данбуре, тут ничего не сделаешь. А 500 и у меня выдаёт.

910-кун
>> No. 917    
>>910
>3,31 ГБ
Не хрена себе. Она у меня не больше 50 метров весила установленная.
>Несовместимость, Cygwin совместима с осями до XP.
Бээ... не хочу на xp лезть =\
Спасибо :3
>> No. 921    
>>917
Ну я скачал, всё так, как вроде бы Cygwin позволяет запускать программы для Linux-осей.
>> No. 929    
>>917
http://ru.wikipedia.org/wiki/Сервисы_Microsoft_Windows_для_UNIX
>> No. 949    
>>773
Кстати Оп-кун, как идёт разработка твоей программы.
>> No. 968    
Я полагаю, что ОП-кун забросил программу.
Очень жаль, ведь она пригодилась бы каждому второму Анону.
>> No. 969    
Тред не читал, мимо проходил, видил ссылку на подобную прогу.
>> No. 970    
>>968
Да кому она нужна? Уже есть кросплатформенный скрипт-граббер.
>> No. 971    
>>970
Во, о нем и говорю.
>> No. 972    
>>970
Линк, или хотябы название.
>> No. 973    
>>972
В гугле забанили?
>> No. 974    
>>973
Я даже названия скрипта не знаю, как мне его искать?
>> No. 975    
>>974
Как можно быть таким идиотом? Все скрипты есть выше в _этом_ треде.
>> No. 976    
>>975
>http://nopaste.info/cee56adf98.html
>http://danbooru.donmai.us/forum/show/19498
>http://dpaste.com/96197/

Третья ссылка давно сдохла... Хотя возможно как раз она то и подошла.

Это собсно все что есть в _этом_ треде.
Если ты мне укажешь хоть на один скрипт подхдящий для Gelbooru, я буду тебе благодарен.
Если нет иди гадь в другом месте.
>> No. 977    
>>976
Потому что блядский dpaste удолил, надо же было быть разработчикам такими дебилами, чтобы ставить такое маленькое количество дней по умолчанию.

Вот на ЛNСПоте норм пацаны -- бесконечно по дефолту.
http://paste.lisp.org/display/88256
>> No. 978    
>>977
Спасибо за линк.
>> No. 979    
Файл: 125489022533.jpg-(132.46KB, 667x515, 2009-10-07_081920.jpg)
979
Таки я смог скачать через Цигвин и этот граббер.
Делал все по описанию >>910-куна.
Но скорость закачки просто убивает меня.

Что касается Гелбуры, с нее тоже можно граббить. Далеко не самый удобный и быстрый способ, но кое-как работает.
1. Нужен Firefox и два расширения к нему: Auto Pager и Image Host grabber.
2.Открываем Гелбуру, вбиваем нужный тег.
3. На первой открывшейся странице жмем левую кнопку мыши, выбираем Auto Pager->Загрузить немедленно->Все страницы. Ждем прогруза всех страниц с пикчами.
4.Когда все страницы прогрузились, выбираем Image Grabber->Get all pics on page. Указываем папку.
5.Качаем и радуемся.
Но это, понятное дело, то еще шаманство. Прога ОПа была бы в разы удобнее. Все же надеюсь, что он ее доделает.
>> No. 982    
>>979
Ну из-за таких, как мы любителей дампа, скорость такая и данбоора часто лежит. Я обычно ставлю загружаться и ухожу спать^H^H^H^H^H пить кофе.
>> No. 985    
Файл: downloader_pl.txt-(46B)
985
Анон, я слоу, потому что первый раз за последние полтора месяца на бордах, но на, держи мою однодневную поделку, недавно стояла подобная задача. Правда выкачку так и не дописал, но сохраняет ссылки картинки по тегу в файл, еще плохо обрабатывает обратные страницы(ссылок в 2 раза больше получается). В каких-то дальних планах допилить до нормального состояния, делать картинкам теговые имена, вместо хеша, в общем пообные красявости.
Алсо, вроде работает почти правильно.

Да, если подскажешь кросс-картинкосайтовое решение как с индеспоиска переместится сразу на теги без кучи кода, буду благодарен.
>> No. 986    
Я так же решил написать свой гельбуру довнлоадер, только на PHP.
>> No. 987    
>>986
С сохранением в фалы типа tag1 tag2 tag_3.jpg
>> No. 988    
Пример вывода: http://danbooru.itpaste.ru/780
>> No. 989    
>>988
Красявости это 20 минут написания кода. Да и вывод не сильно нужен, имхо скрипт лучше пускать демоном, чтоб на дохлых каналах не занимал отдельную консольку. Кросссайтовость намного важнее, чтоб и с гелбуры качал и с коначан-подобных, и разных еше. Одна вешь на все случаи жизни.
>> No. 1019    
И как это юзать? Объясните для гуманитария.
>> No. 1023    
>>1019
Читай тред там всё описано.
Если не понял — гугли доки.
>> No. 1025    
>Кросссайтовость
мне нравится это слово!
>> No. 1046    
Судя по всему идея Оп-куна спёклась.

капча с Кёном смотрит недоверчиво.
>> No. 1059    
Файл: 125648016538.png-(88.61KB, 761x538, ang.png)
1059
Будет вам граббер (если не забью, конечно). Пикрелейтед.

Не-ОП-кун
>> No. 1094    
ну как успехи?
>> No. 1102    
Файл: 125674828890.jpg-(202.28KB, 549x360, 124207810949.jpg)
1102
>>1059
Ни в коем случае не забивай. Принимай вагоны нефти авансом.
>> No. 1109    
>>1059
Анон, ты для каждого сайта хардкодишь ссылку, или что-то хитрее придумал? Поделись идеей, если хитрее, я допишу свой нищеперлограбер, за неимением средств на дорогие загуенные системы.
>> No. 1123    
Файл: 125694101448.jpg-(58.86KB, 950x592, Clip289.jpg)
1123
...Пока никто не заметил, подменяю первую версию второй

http://zefiris.su/files/imget.7z

Теперь должно нормально работать. Гельбуру поддерживает поиск по двум тегам сразу, мое.имото, вроде, нет, сразу выдает 0 результатов. Искать пустые теги по-прежнему не рекомендую. В целом должно работать нормально, расширить на другие сайты на подобном движке не должно быть сложно.
>> No. 1124    
Файл: 125694195943.png-(4.41KB, 648x205, Clip290.png)
1124
>>1109
Не знаю, как он, но я ничего сильно общего не углядел - отличий как между форчаном и автобусом. Потому сделал на внешнем файле всё. Там не так много и надо-то
- общий вид ссылки поиска
- общий вид ссылки на n-ную страницу результатов (для поиска номера последней страницы в частности - находим ссылку, подходящую под маску, с максимальным числом под звездочкми)
- общий вид ссылки на пост (главное - идентифицировать <a в котором идет нужная ссылка)
- общий вид ссылки на полноразмерную картинку (аналогично, находим <a со ссылкой на картину по какому-нить определителю)
- строки, отличающие СФВшность картинки
и, вроде, всё.
>> No. 1128    
Файл: danbooru_donmai_us.txt-(431B)
1128
Попытался сделать, чтоб работало на Данбуре, ничего не выходит. ЧЯДНТ.
>> No. 1129    
Файл: danbooru_donmai_us.txt-(419B)
1129
>>1128
На данбуре какая-то фигня с необходимостью регистрации и прочего, хотя вроде качает средствами ИЕ, так что если в ИЕ залогинен, то должно быть пучком. Сам с этим сайтом связываться не хочу, надеюсь, что в целом ссылки ты правильно написал, только под особенности программы исправил файл.

>listpage=http://danbooru.donmai.us/post/index?page=&commit=Search&tags=
убери последние две звездочки.
Программа будет искать ссылку, содержащую текст до двух звездочек и текст после двух звехдочек, и то что на месте звездочек прочитает как номер страницы в найденной ссылке. Из всех номеров найдет максимальное - и сочтет это номером последней страницы.

>link=/post/show//
link=/post/show/
Просто идентификатор, что обязательно содержит ссылка на пост

>prefix=http://danbooru.donmai.us/
prefix=http://danbooru.donmai.us
Что добавить к началу ссылки, найденной по link. Если там полная ссылка - то ничего не надо, если ссылка со /, то в префиксе / на конце не надо
>> No. 1130    
>>1124

Плохо глядел

1059-кун
>> No. 1131    
Файл: 12570210607.jpg-(159.98KB, 800x1050, 9d2e5987f54e15acf2f9cae59184b464.jpg)
1131
>>1129
Благодарю за помощь.
>> No. 1132    
>>1130
Пояснишь, или секрет фирмы?

>>1131
заработало?

Могу на досуге поработать над добавлением других сайтов, которые хорошо себя ведут, только скажите, какие надо.

Кстати, можно запускать скачку по разным наборам тегов одновременно - главное чтобы с одного и того же сайта (поэтому выбор сайта блокируется, когда идет хоть одна закачка).
>> No. 1133    
>>1132

http://gelbooru.com/index.php?page=dapi&s=post&q=index&tags=...

http://http://danbooru.donmai.us/post/index.xml?tags=...

1059-кун
>> No. 1134    
>>1133
интересно, спасибо

не знал, что у них апи есть, очень удобно
>> No. 1135    
>>1134

У всех сайтов что на моем скрине есть апи, документация в помощи

1059
>> No. 1136    
>>1124
>но я ничего сильно общего не углядел
достаточно много общего. страницы можно брать из блока с ид paginator, оно везде одинаково, только отсеять повторные.
Картинки берутся из ссылок внутри которых есть img(в коначанподобных можно сразу брать ссылку на картинку, в гелборе ее еще добыть надо, т.е. повторная загрузка страницы с одной картинкой).
единственная проблема для что ссылка поиска разная, если сделать, чтоб она сама формировалась, то можно будет создать скрипт, которому можно будет в ручную задавать хост с гелбору или коначан движком, и он будет качать и оттуда. Вроде как надо пост-запрос послать. Вот собственно форма:
<form action="index.php?page=search" method="post">
<input id="tags" name="tags" size="30" type="text" value="" /><br/>
<input name="searchDefault" type="submit" value="Search" />
</form>
а потом просто парсинг полученной страницы как первой в поиске.
>> No. 1137    
>>1133
А с этой штукой так вообще просто
>> No. 1138    
Файл: 125702948162.jpg-(99.57KB, 1067x591, Clip291.jpg)
1138
Итак, внезапно всё упростилось. В текстовиках теперь только сама ссылка. pid отличается от page тем, что начинается с нуля - нумерация страниц разнится от сайта к сайту. Danbooru лично у меня так и не заработал, но текстовик оставлю, вдруг у меня с айпишником проблема. Теперь можно запускать сколько угодно тегов откуда угодно - после нажатия на пуск программа немного потормозит, выкачивая странички и выгребая нужное число ссылок, дальше ссылки будут качаться в фоне. Индикатор внизу показывает прогресс от обещго числа запрошенных картинок.

http://zefiris.su/files/imget2.7z

Спасибо, 1059-кун, сильно облегчил жизнь.
>> No. 1139    
Файл: downld_pl.txt-(2.90KB)
1139
出来た же! Дописал свой свободноскрипт, теперь это качалка со всех коночан и гелбуру-подобных ресурсов. Требует LWP::Simple, XML::Parse(вроде в стандартной поставке идет). Что значат опции написано в юсаге, есть опция типа докачки(в планах докачка а не похожее действие). С гелборы качает почему-то на один файл меньше, причем откуда-то из середины, видимо где-то единицу пропустил. Качает по одному тагу, но имхо не сильно большая проблема. Проверил, вроде работает.
>> No. 1145    
>>1138
После того, как залогинился в данбуре через IE, всё заработало.
>> No. 1147    
Где-то выцепил.
http://pastie.org/private/fhmtm5xnkspj8qhrwmpw5w
>> No. 1148    
>>1147
Слишком много берет страниц, при работе с апи это не нужно, с гелбурой работать не будет, там страницы генерятся как /index.php? а не как /post/. Использовать вгет не нужно, можно по сути то же самое одним вгетом сделать, без лишних скриптов, опций надо будет в 6 раз больше, только обьем команды займет в 10 раз меньше места, чем оболочка.
Да и питон как бэ не создан для паринга. import re намекает.
>> No. 1150    
>>1145
Это очень хорошо. Какие ещё борды в народе пользуются хоть чем-нибудь?

Алсо, принимаются пожелания по улучшению программы, но ничего не обещаю.
>> No. 1152    
>>1150
крута бы сорцы
>> No. 1156    
>>1152
а) оно на дельфях
б) мне стыдно, я быдлокодер
>> No. 1158    
Натолкнулся на одну проблему. Если сохранять картинки с именами тагов по принципу "$id $tag", то ингда попадаются картинки, у которых этих тагов выше крыши, и они не лезут в файловую систему по длине имени файла. видимый выход - начать резать теги с конца, пока строка тегов не составит порядка 240 символов(ну там еще 15 под разрешение номер и т.п.). Анон как ты думаешь, можно решить эту проблему по другому?

>>1156
Максимум в 0 картинок должно качать все, а не 1 картинку. Интуитивно же.

Алсо, пилю прогрессбары и прочие красявости(точнее уже запилил, только додебажить осталось), еще думаю запилить линкер, который будет ходить по скачаным папкам и ставить симлинки в соответсвии с тегами, чтоб не качать по 2 раза одни и те же картинки.
>> No. 1159    
С данбуры не качает, ЧЯДНТ?
>> No. 1160    
>>1158
>Анон как ты думаешь, можно решить эту проблему по другому?
- вывод в архив без сжатия
- вывод в $id и текстовик с $id - $tag
- сокращение тегов

>Максимум в 0 картинок должно качать все, а не 1 картинку. Интуитивно же.
согласен, ступил.

>симлинки в соответсвии с тегами
а вот это интересная идея, факт.

Ещё стоит добавить поле исключений - с какими тегами НЕ качать.

>>1159
залогинься на данбуре через IE, чтобы в куках осталось. Иначе - никак, анонимусов данбура сильно режет.

т.к. моя прога лишь временное средство, написанное ради лулзов, я её давно дропнул, ждем релиза от >>1158-куна.
>> No. 1163    
Файл: dwnldr_tar.bz-(3.78KB)
1163
Версия 1.99. В принципе основная функциональность есть. Качает, прогрессбар рисует, время показывает. Из неудобств - зависимость от LWP, которого нет в стандартной поставке.
В комплекте линкер, там в юзаге(с -h опцией) написано как пользоваться.
Как скачаю пакователь, заверну в .exe, будет версия под проприетарные системы.
Работает со всеми данбуру-подобными иб, кроме самой данбуры(мне лень там акк регить, иначе бы приделал авторизацию для нее).

>>1160
Текстовик конечно годно, но тогда нужно будет его открывать, чтобы что-то найти. Хотя с текстовым файлом из скриптов работать проще, но это уже будет написание своей миниданбуры. Подумаю над развитием этой идеи, давно хотел в свою серверосмотрелку поиск приделать.
>> No. 1165    
>>1163
интересно, а просто http://danbooru.donmai.us/user/authenticate?user_name=<username>&user_password=<password>&url=<url> прокатит? возможно, правда, вместо user_name - user[name], я не помню, id используется или name. Я тоже не зареган, проверить не могу. Так что может кто из зарегеных попробует разголиниться и пройти по заполненной вышепредставленной ссылки и сказать, что вышло?
>> No. 1166    
Файл: downld.7z-(2.03MB)
1166
Немного приболел, да и активперл 5.10.1 коряв, и не хотел мне его паковать, но я все же победил.
Экзешник пускается из командлайна. В юзаге все есть. Естественно, скорость запуска не ахти, но 2 лишние секунды по сравнению с 10 часами выкачки картинок - ерунда имхо.
Гуя пока не планирую, но кто знает, если найду хорошие, годные маны по винапи, то возможно(свободную версию тогда на гтк, оно мне больше нравится).
Вот какого хрена Шмион на капче?
>> No. 1179    
Эм. Господа.
Получается сейчас идёт разработка 3 грабберов данборо-образных сайтов?
>> No. 1183    
>>1179
Каждый делает себе свой скрипт с картами и девушками, unix-way, что с ним не так?
>> No. 1184    
Файл: 125766957399.jpg-(53.61KB, 423x600, 1256360525576.jpg)
1184
>>1179

Нет, я забил. После того как открыл тайну великой апи и все ломанулись ваять овер 9000 скриптов, подумал - нахуй кому-то нужен мой быдлокод, тут сидят люди которые могут сами себе запилить грабер с блекджеком и шлюхами.

1059-кун он же 799-кун
>> No. 1186    
Выкладываю свою быдлоподелку на быдлопохапе: http://paste.org.ru/?94n5bx
>> No. 1188    
>>1184
Ты совершенно не понимаешь, в чем суть давайте-напишем-данбору-грабер треда. Это скорей обмен опытом чем создание чего-то великого в одиночку.

>>1186
для него вебсервер нужен, тебе самому удобен скрипт, который берет тег абы как, да и держаь 10 часов открытым браузер и эти же 10- часов напрягать вебсервер, нехорошо же.
>> No. 1190    
>>1179
тут идет скорее дискач, да, все выложенные хоть сколько-то рабочие версии находятся в состоянии "я уже забил".
>> No. 1191    
>>1190
Я пока не забил, но недолго осталось, коль работает. Отдебажить, мож плюшек вроде мультитегов наделать, вроде больше ничего и не надо.
У меня висит другой проект, в котороый надо так глубоко погружаться, что не прет, вот и развлекаюсь написанием всякой ерунды.
Перл-кун
>> No. 1192    
>>1188
Нет, этот скрипт консоль-онли, из вебсервера не будет работать. Вообще.
[i]Пхп-кун[/i]
>> No. 1194    
Файл: 125770774222.jpg-(497.24KB, 702x855, 1256316432271.jpg)
1194
Те кто сейчас пилят скрипты делают многопоточную загрузку пикч? Если нет, то продолжу пилить свое. У меня подразумевалась отдельная загрузка ссылок в 1 поток и одновременно загрузка пикч в 5-8 потоков.

>>1188
Обмен опытом? Даже для такой второкурсоты как я сделать такой скрипт как два пальца

1059-кун
>> No. 1195    
>>1194
>>1138 получает набор ссылок на картинки в один поток (главный) и качает примерно в 10 фоновых потоков (хотя некоторые сайты больше 3-5 не пускают). Но это не скрипт, это гуета.
>> No. 1198    
>>1194
А кто-то говорил про написание ядра ос? Разумеется, что в написании 20-строчных скриптов нет ничего сложного, однако подходы все равно разные, суть обмена опытом в том, чтоб посмотреть как делают другие, помочь им выявить ошибки и найти свои. Иногда в полнейшем быдлокоде можно найти достаточно хорошие решения.
>> No. 1202    
Файл: 125785506298.jpg-(106.23KB, 845x598, screenshot.jpg)
1202
А вот мой клиент под данбору и подобные движки, с преферансом и блудницами!

Похож на программу >>1138-куна, но с некоторыми дополнениями:

-авторизация на danbooru
-все закачки, в том числе и для списков, идут в фоне, можно остановить в любой момент.
-выбор картинок по рейтингу, облаку тэгов.
-можно начать новый поиск по тэгам, выбранным в облаке
-предварительный просмотр
-можно выбрать количество потоков для скачивания

Для того, чтобы работала авторизация на данборе, надо открыть файл Danbooru.txt, и заменить USER и PASSWORD на данные своего аккаунта.

Программа: http://rghost.ru/599874
Исходники (c#): http://rghost.ru/599929

Не пинайте ногами за быдлокод :3 До этого писал исключительно на c++, решил попробовать свои силы в шарпе. Удобная штука оказалась!
>> No. 1204    
>>1202
Выглядит симпатяво. Ты выиграл! :3
>> No. 1205    
Файл: 125787786688.jpg-(0.98MB, 1000x1412, 2d2d2eff952cd80b5d2094b7ca57d5defb9aa970.jpg)
1205
>>1165
Не прокатывает по такой ссылке. И да, там нужно писать в виде user[name], а затем отпралять post - запрос
>> No. 1206    
Файл: 125787945334.jpg-(268.04KB, 750x1000, no_mercy_by_strayshadow.jpg)
1206
>>1202

Это Винрар, не быдлокод и с комментариями. Офигенно, молодец.
Не мешало бы имена файлам нормальные делать, например %ид_поста% - %теги%.
Еще браузер тегов добавить можно.
А облако тегов действительно sloooooow, сделал бы в отдельном потоке чтоб не зависала форма.

1059
>> No. 1207    
>>1202
Огромное спасибо за исходники. Будем воровать, и убивать время напианием *nix-версии по мотивам.
Авторизацию данбуры имхо лучше на форме делать, а предпросмотр ненужен, пропадает элемент рандома и получается та же данбора, только без рекламы интимных актов в соц. сетях.
>> No. 1209    
>>1207
Нет, предпросмотр всё-таки нужен, ящитаю, ибо лучше отсеивать пикчи сразу, чем потом.
>> No. 1210    
Файл: 125796669577.jpg-(98.59KB, 600x600, cc373f44c3664c93d96e42d0c6d3736f3d5da53b.jpg)
1210
>>1206 спасибо! По поводу имен файлов я думал, но тэги туда могут просто не влезть. Сейчас попробую сделать так, чтобы юзер мог сам задавать имя файла в виде строки, например так:"id - rating - maintags"... А что за браузер тэгов? По поводу отдельного потока для облака - то что надо, спасибо за идею.

>>1207 огромное незашто :3 Но врядли исходники помогут для *nix'ов, ведь все основные функции работы с сетью там реализованы через .NETовские компоненты, боюсь их придется вручную переписывать. Ну или искать либы с похожими функциями. А дотнет же вроде можно и так под линуксом запускать? Для авторизации это всмысле добавить на форму окошки для логина и пароля? Предпросмотр если не нужен можно отключить.
>> No. 1217    
>>1210
Ты в какой студии делал? VS'08 солюшн почему-то не открывает.
>> No. 1218    
А, ну и хрен с ним с солюшеном — проджект открылся.

Круто. С комментариями! С нормальными именами полей и методов!

Только не забывай про комментарии вида:
/// <summary>
///
/// </summary>

В этих шарпах они вещь очень и очень удобная.
Алсо у тебя Class1 с такими комментами.

И
#region name
#endregion
Тоже удобная на мой вкус штука.

Остальные придирки я стёр, т.к. это уже придирки к стилю оформления кода :3
>> No. 1219    
Файл: 125800938729.jpg-(433.45KB, 950x800, cbf4000e8efa74c007723040c970700939e666e5.jpg)
1219
>>1202
Спасибо, очень молодец. Мне было лень воздвигать у себя на машине всякие интерпретаторы скриптовых поделий, что были выше и.т.д. и.т.п. До тех пор, пока ты не выложил Win32 приложение. И теперь я уже вторые сутки насилую гелбуру и не могу оторваться. Засранец ты всё таки. Было такое дело - по тэгу вышло пару тысяч картинок на закачку, ну качало оно, качало, а потом выключили интернет. Оно скачало где-то ~300 пустых картинок моментом, тех, что не успело фактически докачать. Я кое как по превьюшкам нашёл, где остановился, но три сотни картинок ручками помечать - запарно, надо что-то с этим сделать. Так бы я зашал shift, нажал end и одним нажатием пробела поставил галочки бы сразу для всех. Ну в общем дело твоё - как эту проблему решать и стоит ли вообще её решать. По превьюше, надо сказать, тоже не очень уж удобно искать нужную позицию.
Пиканрелейтед.
>> No. 1220    
>>1219
>>1166
портировал же без требований интерпритатора
>> No. 1221    
>>1220
Гомен, значит я не заметил.
>> No. 1222    
>>1220
И да, без GUI мне тоже лень было с этим возиться. Я конечно понимаю, что ничего сложного и всё такое, просто лень - это лень, у неё своя, особая природа.
>> No. 1223    
>>1222
имхо использование гуя требует намного больше телодвижений, чем написание одной строчки, хотя это зависит от использующего.
Сяду пилить разные штуки, в том числе эти ваши гуи как только появится настроение вообще что-либо делать.
>> No. 1226    
>>1202
Во, я баг нашёл. Мои действия:
Ввожу тэг, жму кнопку, скачать всё автоматически, жду. Скачивается гд-то 100 картинок из 300. Поменял в поле тэга, тэг на другой, но ничего не жал. В результате оставшиеся 200 картинков скачались в папку, названную в соответствии со вторым тэгом.
>> No. 1237    
Мои поделки на баше:
Для гельбуры: http://paste.org.ru/?07u74d
Использование: ./gelbooru.sh первый_тег второй_тег и_третий
Для данбуры: http://paste.org.ru/?1dbep7
Использование: ./danbooru.sh первый_тег второй_тег и_третий
Сохраняют они оба в папку files.
P.S. Не забудьте изменить логин и пасс в danbooru.sh
_Зой чанспида_
>> No. 1239    
>>1237
а в один скрипт собрать сам никак?
>> No. 1242    
>>1239
Потом будет сразу для всех
>> No. 1244    
>>1217 делал в 8 студии, потом решил поставить 10 и переконвертил туда. Похоже что сфейлил, потому что ничего нового кроме тормозов и шрифта в ней не появилось.

А комментарии вида
/// <summary>
///
/// </summary>
это те, которые во всплывающих подсказках к методам и переменным отображаются? Учту, спасибо.


>>1219 на здоровье! Гелбура имхо от этого не очень страдает, тем более что не дает больше чем в 2 потока качать... С мультиселектом в списке хорошая идея, да.

>>1226 ага точно, есть такой баг. И еще недавно нашел, что если в списке ничего не кликать, иногда при нажатии на download выдает сообщение, что список пуст.

Сейчас некогда возиться особо, но я все замечания и предложения запомнил, думаю в выходные попралю и выложу новую версию
>> No. 1256    
>>1244
Стесняюсь спросить, а с инструкцией foreach вы знакомы?
>> No. 1276    
нужна прога для скачивания всех картинок с макрочана по тегу,по аналогии с граббером.Осуществите?
>> No. 1278    
>>1276
ты баклан. Нет, то есть я хотел сказать, что ты не умеешь составлять грамотные технические задания, но подумав, всё больше убеждаюсь, что верно первое. Где ссылка на сайт, для которого тебе нужна прога? Где хоть примерное описание того, как это хотелось бы видеть (в треде как минимум 4 граббера), где описание профита для пишущего?..
>> No. 1284    
Я не >>1276-кун, но видимо он хочет видеть граббер по
http://12ch.ru/macro/
>> No. 1285    
>>1284 я думаю, что речь скорее о http://macrochan.org/
>> No. 1286    
>>1202
Как в этой штуке на данборе залогиниться?
>> No. 1287    
А ограблялку пиксива прикрутите? Просто недавно заметил, что у винрарных художников часто на пиксиве куда больше пикч, чем на данборе.
>> No. 1305    
Докладываю.

>>1138
Отлично работает под wine.
А вот >>1202 выдает ошибку.
>> No. 1306    
>>1286
>Для того, чтобы работала авторизация на данборе, надо открыть файл Danbooru.txt, и заменить USER и PASSWORD на данные своего аккаунта.
Пост то прочитай.
>> No. 1307    
>>1305

>>1202 под виндой тоже уже ошибку выдает, гелбора что-то поменяла или что, а автора смыло
>> No. 1310    
>>1305
1138 работает через апи, там всё всегда едино, а 1202 - выкачивает и парсит страничку, и некоторые совершенно незначительные изменения в оформлении/структуре могут сделать парсер перестать работать. Именно поэтому в ранних не-апишных версиях 1138 настройки парсера были вынесены во внешние файлы.

>>1287
В теории можно написать универсальную выкачивалку картинок, настраиваемую под разные сайты, только я не умею авторизацию делать, хотя вариант с авторизацией через IE и дальнейшее уже хау-ау программой мне не кажется совсем уж плохим. Я подумаю.
>> No. 1324    
Файл: 125992241787.jpg-(18.69KB, 500x336, 1241602831422.jpg)
1324
>>1310
>универсальную выкачивалку картинок, настраиваемую под разные сайты
>> No. 1327    
>>1324
я уже пробовал сделать, решил, что настраивать замкнётесь. А удобный интерфес создания правил мне замкнусь делать я
>> No. 1329    
>>1327
Да ничего твоя программа, одна из 2, которую я использую, так что добра тебе.
>> No. 1351    
Ну так, что с pixiv'ом.
>> No. 1599    
Бамп

[spoiler]Чебурашка на капче, лол.[/spoiler]
>> No. 1600    
>>1351
Удваиваю вопрос.
>> No. 1601    
У пиксива есть апи? Иначе не хочется возиться.
>> No. 1607    
Самого апи не нашел, но нашел пару скриптов, на жс и питоне. Как доберусь, добавлю этот функционал в свою перл-качалку.
Алсо добавлю туда нормальную работу с данбурой и жсон-парсилку.
>> No. 1608    
>>1607
Буду ждать и спасибо за твою скачивалку.

Капча "Юки" на что-то намекает.
>> No. 1620    
Файл: 126495202419.png-(25.17KB, 771x423, untitled.png)
1620
>>1202
>> No. 1629    
У пиксива есть нормальный апи? Или придется каждую страницу парсить?
Пока что напиание пиксивокачалки равносильно написанию нового скрипта.
Данбуру-логин прикрутил, жсон прикрутил, треадинг прикрутил, тестирую, пилю дальше.
>> No. 1635    
>>1607
ждем-с
>> No. 1638    
Лол, я добаловался, что качалку забанили на данбуре. Бедный тег ds.
запилю свн на всякий случай, чтоб не потерять: code.google.com/p/getbooru/
гуглекод корявый какой-то, совсем не так, как нужно делает.
Алсо, да, думал о безумной морде на ncurses и гуе кое каком, однако это когда-нибудь.
>> No. 1640    
>>1620
saem shit
>> No. 1656    
Файл: 126617307560.jpg-(115.66KB, 1280x720, snapshot20091117171540.jpg)
1656
>>1620
>taka_tony
See what you did there.
>> No. 1658    
Файл: 126625061678.jpg-(153.14KB, 800x600, 6a5e85940320139f930bcceaf614f868.jpg)
1658
>>1656
Между прочим, на данборе больше 1000 пиков общим весом почти гигабайт.
>> No. 1664    
Файл: 126654161380.jpg-(123.51KB, 950x700, 12665225053296.jpg)
1664
http://rghost.ru/1015981
Вот моя програмка для получения прямых урлов на картинки с chan.sankakucomplex.com.
>> No. 1665    
>>1664
>fixme:shell:URL_ParseUrl failed to parse L"Newtonsoft.Json.Net20"
Возмождно вайнобаг, но факт есть факт.
Алсо, не вижу ничего сложного в получении ссылок с санаки, на данбуре все тоже самое, просто в санаке выключен xml.
>> No. 1689    
Файл: 126735584229.jpg-(160.50KB, 1280x720, Lucky_Star_17[(066548)23-29-36].jpg)
1689
Автор BooruChan, у меня к тебе такое предложение. Не мог бы ты прикрутить функцию конвертирования списка закачек в командный файл для запуска вгета? Твоя прога качает отвратительно.
>> No. 1690    
booruchan - developer кун на связи3
Извините что долго пропадал, - навалилась куча дел: сессия, работа.

Новый билд:
http://rghost.ru/1072664

Итак, сегодня исправил кучу багов и добавил несколько приятных моментов:

-программа не падает как на >>1620 скрине
-форма для логина и пароля для данборы (авторизация отлично работает под xp, а под семеркой как-то странно... если не будет логиниться, логинимся в данбору в IE и тогда нормально качаем)
-список тэгов генерится быстрее и в отдельном потоке
-можно сохранять картинки в отдельные папки для каждого нового поиска, как раньше, а можно все новые закачки скидывать в одну папку
-ну и наконец для >>1689 - держи поддержку wget!
В папке wget лежит wgetcmd.txt, а в нем настройка запуска wget'а с разными параметрами. В файл images.txt сохраняется список url'ов для скачивания. Огромный плюс скачивания wget'ом - поддерживается докачка. А прироста скорости особо не видно, как с гелборы, так и с данборы. Может можно как-то в несколько потоков им качать?

>>1310 неа, у меня все тоже через API работает

Со скоростью действительно совсем туго, но это беда серверов...

Кто-нибудь знает есть ли такой же API с xml на sankakucomplex и safebooru? Чего-то у меня так и не получилось оттуда ничего забрать.

Какие еще будут предложения? Могу еще допилить, только в выходные скорее всего.

По поводу pixiv'а я бы тоже подумал, но ничего там не понимаю, лол! Знающие лунный-куны, подскажите хотя бы что там за система - арт сортирован не по тэгам, а по художникам чтоли?
Как формируется поисковый запрос?

>>1664
У меня тоже падает, но под виндой, с FileNotFoundException. В какую папку по умолчанию файлы должны сохраняться? А исходники собираться не хотят, не хватает Newtonsoft.Json - чего это за компонент?
>> No. 1691    
Файл: 126739405758.jpg-(563.61KB, 708x1000, d2e59ccca51722c715f8ba66730424ca6f14fd37.jpg)
1691
>>1690
http://chan.sankakucomplex.com/post/index.xml

limit (макс 100)
page
tags

Сейчас SafeBooru буду ковырять
>> No. 1692    
Файл: 12673946819.jpg-(268.75KB, 534x822, 1265143083497.jpg)
1692
>>1691

Бака забирает свой пост обратно, похоже санкаку анально огородились (возвращает только <posts count="5225" offset="0"></posts>)
>> No. 1693    
Файл: 126743586082.png-(33.20KB, 935x336, exceptions.png)
1693
<- Вместо тысячи слов.
>> No. 1694    
Файл: 126745004515.png-(24.34KB, 562x357, Хоро - няшка же!.png)
1694
>>1690
Спасибо, анон. На днях протестирую.
>> No. 1696    
>>1692
Санаку и не разгораживалась никогда. Как были жсон-онли, так и остались. А жсоном и с данбуры удобней брать, текста меньше получается.
Я копал пиксив, пришел к выводу что там есть тегование, которое работает непонять как, и можно выбирать еще и по художникам. Долго думал, какой вариант лучше использовать, но так и не пришел к какому-то мнению. Годного апи так и не нашел(есть ipod api, но я его не пробовал, поэтому не знаю). Найденые мной скрипты парсят страницы. Думаю писать модуль парсера для пиксивостраниц, чтобы возвращал примерно такой же контент как данбураапи, чтобы совать в одну и ту же функцию. Для полного счастья не хватает md5 картинки.
Немного еще покопал, там все просто в пиксиве. Несколько похпе страниц, каждая делает свое дело.
Как чуть освобожусь, вернусь к своей качалке.
>> No. 1698    
Файл: 126751019259.jpg-(186.38KB, 668x843, 1249533736693.jpg)
1698
Анон, ты няшка
>> No. 1699    
Файл: 126755993471.jpg-(113.31KB, 704x396, 1250347615484.jpg)
1699
>>1691 А у меня чего-то вообще пустой файл выдает при таком запросе. Может там $регистрация нужна?

>>1693 Анон, ты разделал мой день! Откуда такой эффект, я же вроде везде поставил проверки значений и отлавливалки exception'ов... При каких условиях выпадает? Ты все содержимое архива распаковал, старых фалов там не осталось? Судя по скринам, с папкой engine что-то не так

>>1694, >>1698 на здоровье же!

>>1696 а на гельборе жсон есть? Может к себе тоже парсер добавлю, для универсальности.
По поводу пиксива интересно, жду чего у тебя получится :3


Кстати, заметил что с утра с данборы качается намного шустрее, чем вечером
>> No. 1700    
Файл: 12675688639.jpg-(2.68MB, 2872x1901, 9f4d1acf1a1f73484da25c4866c836c0.jpg)
1700
>>1699
Сырно посмотрела, что 2.0 фреймворк не подходит для Сильнейшей и обновила до 3.5, что, собственно и решило проблему.

Тонны добра и нефти уже вышли в твоем направлении, анон. Спасибо за программу!
>> No. 1703    
>>В какую папку по умолчанию файлы должны сохраняться?
В текущюю.

>>А исходники собираться не хотят, не хватает Newtonsoft.Json - чего это за компонент?
Вот здесь берётся http://json.codeplex.com/releases/view/37810
>> No. 1708    
Файл: 126774045072.jpg-(167.54KB, 1085x1532, f569f0321d88da25102cd0dae3d8b285.jpg)
1708
>>1690
Анон, ты лучший, спасибо за прогу.
А не мог бы ты, для полного счастья, выложить исходники новой версии?
>> No. 1712    
Файл: 12679959832.jpg-(290.92KB, 1024x1004, 12672059832812.jpg)
1712
Бампаю тред с вином
>> No. 1714    
Файл: 126820001010.png-(23.98KB, 526x472, 1263752436614.png)
1714
>>1690
Напиши уже в эбауте Anonymous. Думал, ты опечатался, а уже бля во второй версии...
>> No. 1715    
Файл: 126823428994.gif-(355.06KB, 576x432, 1156692586953.gif)
1715
>>1714
Может, это он так выделиться решил.
Кто смотрит в about самого кроме автора?
>> No. 1716    
Файл: 126823834458.jpg-(81.73KB, 450x675, 2ff42209975b5202ddcb7fda171e18be.jpg)
1716
>>1715 Я смотрел, например.
>> No. 1717    
>>1690
Ошибка инициализации приложения. ЧЯДНТ??
>> No. 1718    
Сделай лучше загрузку манги, со всяких так мангафоксов етк. Алсо, писал когда-то даунлоадер обоев с минитокио, впринципе могу поделиться.
>> No. 1720    
>>1718 Сам бы и написал.
не ОП
>> No. 1721    
Файл: 126829492673.jpg-(14.63KB, 234x176, 1210465045881.jpg)
1721
>>1718
Пиши загрузчик для своих нужд
@
Делись кодом
@
Участвуй в создании многофункционального лаунлоадера made by iichan/dev/
>> No. 1722    
>>1721 Внезапная идея же. Расширять функционал путем добавления скриптов в папочку engine. Программа, сама по себе, будет инкапсулировать работу с интернетами, файловой системой и проч., в то же время предоставляя юзер-френдли интерфейс (что отсутствует у реализации классическими скриптами). Собственно дискач.
>> No. 1725    
Файл: 12683184224.jpg-(104.34KB, 465x528, 1259954880984.jpg)
1725
>>1722
Собственно нужно брать готовый скриптовый движок, готовый модуль для работы с сокетами. Все это скомпоновать в своё нечто, которое будет обрабатывать добавляемые скрипт-модули для скачки чего-то откуда-то по такому-то алгоритму. Только здесь самое главное - попытаться обойтись без велосипедизма.
>> No. 1726    
>>1722
>>1725
В перлокачалке я пришел к решению писать разные парсеры на разные сайты, которые в итоге должны возвращать структуру, похожую на жсон данбуры, т.е. расширять функциональность можно добавляя новый парсер.
Мне кажется реализовывать скриптовый язык для качалки - абсолютно ненужное занятие. Достаточно добавить возможность описывать структуру источников.
>> No. 1727    
>>1726 Боже упаси, создавать свой скриптовелосипед. Просто меня очень привлекает сама идея: екзешная ГУЕвина и папочка со схемами | скриптами, которые совершенно не интересуют конечного пользователя.
>> No. 1728    
>>1727
Любишь кататья, люби и санки возить.
>> No. 1729    
Нашел небольшой баг. Необрабатываемое исключение, если в пути к папке есть недопустимые символы типа : \ ? (например если использовать тег :3).
Еще не помешает для наглядности рядом с прогресс-баром писать, сколько загружено/осталось картинок.
>> No. 1731    
Файл: 126857624098.png-(24.40KB, 585x220, Clip314.png)
1731
>>1722
>Расширять функционал путем добавления скриптов в папочку engine.
Где-то я это уже видел :3

В идеале вобщем-то действительно достаточно сделать программу, которая заданным набором команд, специфичным для каждого сайта, получает набор ссылок на картинки, по тегам галереи, по ссылке на тред борды, имени пользователя девиантарта/пиксива. проблема в создании интуитивно понятного языка команд для обработки сайта, чтобы даже человек, с программированием не сильно знакомый )но не обделенный мозгами) мог нписать обработку под нужный ему сайт. У меня всё застопорилось на этом пункте...
>> No. 1737    
Програмист-куну BooruChan большое спасибо. Если не слишком нагло, можно скриптик rule34 для него?
>> No. 1738    
Файл: 126895688746.jpg-(25.31KB, 256x442, 7220450.jpg)
1738
See the end of this message for details on invoking
just-in-time (JIT) debugging instead of this dialog box.

* Exception Text
System.FormatException: Input string was not in a correct format.
at System.Number.StringToNumber(String str, NumberStyles options, NumberBuffer& number, NumberFormatInfo info, Boolean parseDecimal)
at System.Number.ParseInt32(String s, NumberStyles style, NumberFormatInfo info)
at BooruChan.CBooruXMLDownloader.ParseXMLBooruResponse(String strXML)
at BooruChan.CBooruXMLDownloader.DownloadStringCallback2(Object sender, DownloadStringCompletedEventArgs e)
at System.Net.WebClient.OnDownloadStringCompleted(DownloadStringCompletedEventArgs e)
at System.Net.WebClient.DownloadStringOperationCompleted(Object arg)


Loaded Assemblies
mscorlib
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/Microsoft.NET/Framework/v2.0.50727/mscorlib.dll
----------------------------------------
BooruChan
Assembly Version: 1.0.0.0
Win32 Version: 1.0.0.0
CodeBase: file:///c:/Anime/ChanS/BooruChan/BooruChan.exe
----------------------------------------
System.Windows.Forms
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/System.Windows.Forms/2.0.0.0__b77a5c561934e089/System.Windows.Forms.dll
----------------------------------------
System
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/System/2.0.0.0__b77a5c561934e089/System.dll
----------------------------------------
System.Drawing
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/System.Drawing/2.0.0.0__b03f5f7f11d50a3a/System.Drawing.dll
----------------------------------------
System.Core
Assembly Version: 3.5.0.0
Win32 Version: 3.5.21022.8 built by: RTM
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/System.Core/3.5.0.0__b77a5c561934e089/System.Core.dll
----------------------------------------
Accessibility
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/Accessibility/2.0.0.0__b03f5f7f11d50a3a/Accessibility.dll
----------------------------------------
System.Configuration
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/System.Configuration/2.0.0.0__b03f5f7f11d50a3a/System.Configuration.dll
----------------------------------------
System.Xml
Assembly Version: 2.0.0.0
Win32 Version: 2.0.50727.1433 (REDBITS.050727-1400)
CodeBase: file:///C:/WINDOWS/assembly/GAC_MSIL/System.Xml/2.0.0.0__b77a5c561934e089/System.Xml.dll
----------------------------------------

JIT Debugging *
To enable just-in-time (JIT) debugging, the .config file for this
application or computer (machine.config) must have the
jitDebugging value set in the system.windows.forms section.
The application must also be compiled with debugging
enabled.

For example:

<configuration>
<system.windows.forms jitDebugging="true" />
</configuration>

When JIT debugging is enabled, any unhandled exception
will be sent to the JIT debugger registered on the computer
rather than be handled by this dialog box.

/////////////////////////////////////////////////////////////
Или делай, чтобы загрузку списка картинок можно было разделить на части, либо делай нормальную загрузку o9k списка.
>> No. 1781    
Разработчик BooruChan, большое тебе спасибо, но я нашел один баг.
Если в тегах присутствует спец символ запрещенный для названия каталога, то он не качает.
Нашел глюк при попытке скачки по тэгам типа: "pool:XXX"
Можно ли это исправить?
Если тебе лень, то я могу и сам в исходниках поковыряться, но я не очень знаком с Сишарпом.
>> No. 1782    
Файл: 126945170243.jpg-(441.05KB, 1280x1024, 48368ed03d28f20f987c98f14d53885a.jpg)
1782
>>1781
Блджадж, не успел исходники скачать, файл уже удален.
Кто-нибудь выложите исходники, пожалуйста!
>> No. 1784    
Файл: 126952655856.jpg-(50.96KB, 519x577, 1258450547502.jpg)
1784
Кто-то говорил о скрипте для закачки с мангафокса. Выкладываю свой быдлокод на Python 2.5.
Надеюсь, это заработает не только у меня и принесет кому-нибудь пользу.
http://rghost.ru/1242241 - py-скрипт.
http://rghost.ru/1242258 - exe для винды.
В комплекте идёт README с кратким введением. Скрипт понимает ключ -h.
>> No. 1787    
>>1784
Украду, как вернусь к своей качалке.
>> No. 1791    
>>1784
>мангафокса
А он нужен? Они же каждую страницу зверски пережимают, да ещё и свой г-сайт внизу приписывают.
>> No. 1792    
Файл: 127004549631.jpg-(351.07KB, 728x900, 63fe75dcc12516360dbbcb402ad154884ff0af44.jpg)
1792
>>1791
Ну, сайт, предположим, не везде приписывают. А вот сжатие мне тоже не нравится.
Если есть варианты получше, могу попытаться сделать движок расширяемым и запилить их поддержку.

Да, был найден баг. Тайтлы с делением по томам скрипт не воспринимает. Скоро поправлю и постараюсь
добавить поддержку деления по томам.

1784-кун
>> No. 1795    
Файл: 127021881796.jpg-(126.07KB, 781x800, 2bc5537e68649da196c2af527a3734c4.jpg)
1795
Mangapokes 0.5
urllib вместо httplib, Python 2.6 вместо Python 2.5, обход ошибок сети, повторение попыток при ошибках, поддержка томов.
http://rghost.ru/1298770 - any.
http://rghost.ru/1298781 - win.

Такие дела.
1784-кун
>> No. 1815    
А можно бору чан под линукс? Очень-очень надо.
>> No. 1820    
Файл: 127054840428.jpg-(23.87KB, 360x460, 1-30days-pour-wine-lg-63555269.jpg)
1820
>>1815
>> No. 1822    
Вино не решает всех проблем же.
Эжой мой лог.
(/home/anon/.wine/dosdevices/c:/Program Files/BooruChan/BooruChan.exe:9817): WARNING : Could not load file or assembly 'System.Windows.Forms, Version=2.0.0.0, Culture=neutral, PublicKeyToken=b77a5c561934e089' or one of its dependencies.

(/home/anon/.wine/dosdevices/c:/Program Files/BooruChan/BooruChan.exe:9817): WARNING : Missing method EnableVisualStyles in assembly /home/anon/.wine/dosdevices/c:/Program Files/BooruChan/BooruChan.exe, type System.Windows.Forms.Application

Unhandled Exception: System.IO.FileNotFoundException: Could not load file or assembly 'System.Windows.Forms, Version=2.0.0.0, Culture=neutral, PublicKeyToken=b77a5c561934e089' or one of its dependencies.
File name: 'System.Windows.Forms, Version=2.0.0.0, Culture=neutral, PublicKeyToken=b77a5c561934e089'
>> No. 1823    
Файл: 127057217422.png-(21.87KB, 128x128, Windows Explorer 2.png)
1823
>>1822
>> No. 1824    
>>1815
Сх, перл, питон, выбирай любой и пиши к нему морду. Я сейчас в состоянии легкой меланхолии, и настроения ддосить данбуру своей качалкой нет, как появится, и реализую стабильную работу данбуры, буду заниматься написанием к ней морд.
Что-нибудь безумное на ncurses, или tk, лол.
>> No. 1825    
>>1823
Как-то уж не адекватно.
>>1824
Кодить не умею, иначе не просил бы. Буду ждать версии под линукс и шаманить над версией под винду.
>> No. 1826    
Файл: 127058330555.jpg-(60.13KB, 385x300, 1267361519406.jpg)
1826
>>1825

>линукс
>Кодить не умею

штоу.
>> No. 1827    
>>1825
Так тебе качалку нужно или кнопочки-окошки?
>> No. 1828    
>>1827
К сожалению "конпочки-окошки". Перелез на Ubuntu я относительно недавно, и к терминалу привыкнуть не успел.
>> No. 1887    
>>1828 Из-за чертовой убунты линупс стал быдлоосью.
>> No. 1888    
>>1887
Ты забыл сусу и мандриву.
>> No. 1900    
>>1887
Сижу на генте, кодить не умею.
>> No. 1955    
Может кто поможет с Rule43? Ранее пользовался Rule34_Console и списки составлялись, можно было спокойно качать файлы с определенными тэгами, но сейчас прога бесится и ни в какую не хочет работать, в лучшем случае сообщает о количестве файлов. Может есть обновленная версия или можно как-нибудь обойти этот сбой... Кодить не умею, так что по возможности максимально доступно...

Rule34_Console обнаружена ошибка. Приложение будет закрыто.
Приносим извинения за неудобства.

EventType : clr20r3 P1 : rule34_console.exe P2 : 1.0.0.0
P3 : 4a9abe36 P4 : mscorlib P5 : 2.0.0.0 P6 : 4889dc80 P7 : 2389
P8 : 66 P9 : system.argumentoutofrange
>> No. 2008    
>>1782
Удваиваю запрос. Выложите кто нибудь исходники.
>> No. 2031    
Файл: 127491102246.png-(255.06KB, 471x563, 1269343890133.png)
2031
>>1955

Ого, моим быдлокодом кто-то пользуется. У них разметка поменялась. Как сдам курсач, обновлю.
>> No. 2050    
>>2008
Програмки под NET отлично декомпилируются
>> No. 2063    
>>2050
А не пиздишь ли?
>> No. 2132    
Файл: 12757512346.png-(824.12KB, 1389x1335, 1272637409687.png)
2132
Анон, а есть ли какой-нибудь способ пакетной скачки по тегам с http://macrochan.org?

капча "perl" намекает.
>> No. 2137    
>>2135
Сядь и пробуй. Больше, чем ты приобретешь сам, тебе никто не даст.
Не писал десктопный софт на руби, но питон в этом плане как-то не хорош. Особенно, в плане компиляции под win(а иначе как распространять? Не заставишь же каждого поставить интерпретатор и необхдимые библиотеки). Для гуя пробовал Tk. Оно няшно, есть все необходимое для простых форм. Вот только выглядит немного вырвиглазно, и пейнт на нем не сделать, ибо canvas убогий.

Алсо, суть этого треда уже скорее "Привет, я написал очередную качалку", чем "Привет, у вас так много качалок, что я когда-нибудь напишу свою".
>> No. 2139    
Файл: 127583224254.jpg-(125.59KB, 960x960, 1275654495029.jpg)
2139
>>2137
Создавал тредик на соседнем чане, обсудил, попробовал, погуглил, почитал книги по языкам, пришел к выводу что таки питон.
Ruby hype is over тащем-та.
>> No. 2144    
>>2132

Когда на макрочане запилят скрипт для экспорта, тогда можно будет легко скачать.
>> No. 2209    
Перезалейте BooruChan, пожалуйста. И спасибо автору.
нашел-тред-в-гугле
>> No. 2310    
Ну бамп же. Ну перезалейте же.
>> No. 2311    
>>2209
>>2310
http://rghost.ru/1130642
>> No. 2312    
>>2311
Спасибочки!
>> No. 2321    
http://github.com/xeron/danbooru-ruby-grabber
http://github.com/downloads/xeron/danbooru-ruby-grabber/danbooru-ruby-grabber.zip
>> No. 2327    
куй
>> No. 2328    
интересно, можно ли приспособить Gelbooru downloader для загрузки с 12ch.ru?
>> No. 2346    
У sankakucomplex в идеале есть API http://chan.sankakucomplex.com/help/api вот только в xml он возвращает только количество постов, хотя в json всё нормально. Возможно это сделано специально. Обидно(
>> No. 2347    
>>2346

На бухте лежат 2 торрента на торренты на скачивание паков картинок с Санкаку. Так вот там, помимо картинок, лежит еще скрипт для их скачивания.
Просто, к сведению.
>> No. 2348    
>>2347
Знаю, да только там раздающих нету
>> No. 2349    
>>2348

Посиди подольше. Я месяц назад только скачивал (нет скрипт не сохранился).

Если кому нужно - вот еще скрипт для скачивания с данбуру и коначана:
http://pastebin.com/f595fca50
>> No. 2350    
>>2349

Забыл:
python DanbooruScrape -s konachan.com [-p pic_prefix] tags
>> No. 2351    
Моя перл-качалка вроде качала с санкаку. Если апи не поменялось, должно работать.
Там простое апи же было, точно такое же как у данборы, по идее у любой данбуру-качалки должно получиться.
>> No. 2354    
http://rghost.ru/1130642 а возможно переименовывать файл по истинному тегу который на сайте Gelbooru, то есть всем тегам принадлежащим к картинке, а то становиться море непонятных файлов.
>> No. 2355    
>>2354
Use gelbooru api, Luke. Всплывает проблема с длинными именами, правда.
>> No. 2362    
Офигел от количества велосипедов в треде
>> No. 2420    
Стянул с бухты скрипт для закачки с http://chan.sankakucomplex.com/ Только так и не понял, как его запустить.
http://rghost.ru/2407534
>> No. 2421    
>>2420
Спасибо, посмеялся. Cмесь пхп с вгетом через парсинг страниц при наличии данбуруподобного жсон-апи - это что-то.
>> No. 2528    
Разработчик Booruchan, можешь ли ты в свою прожку добавить работу с командной строкой?
например:
booruchan cirno false true true true true C:\Users\Username\Desktop 5 240
- качает сама все файлы из списка в папку?
>> No. 2529    
>>2528
В треде >9000 консольных качалок. Разве booruchan не только гуем отличается?
>false true true true true 5 240
Что это за безумие? Что значат все эти булы и цифры? Если делать параметры, то по человечески -параметр значение, ну или windows-way вроде /параметр значение.
>> No. 2530    
>>2529
это содержимое config файла
Аргументы, которые передаются в argv разделяются пробелом, насколько я знаю. В прочем, не это важно.
Насчет качалок консольных в треде. Я не буду компилиривовать что-то сам (не программист, сред разработки ни одной не имею). Также, не буду трахаться с запуском линуксовских прог. Подавайте мне нормальный экзешник с рабочей прогой. Да, такое я быдло.
А так как booruchan-качалка в принципе уже разработана, то не вижу проблемы в добавлении в неё возможности передачи аргументов через кс.
>> No. 2531    
>>2530
>>1166
>> No. 2637    
Я наверно что-то делаю не так, но с данбору и с гелбору фаилики сохраняются не под именем набора тегов, а с каким то левым хэшем. В чем моя проблема?
>> No. 2639    
Файл: 128499333669.jpg-(77.59KB, 922x632, 20100920-gaok-77kb.jpg)
2639
>>2637
алсо, версия пикрелейтед
>> No. 2648    
Файл: 128508481483.png-(166.59KB, 1280x989, Снимок-grab_sh (-opt-dev) - gedit-1.png)
2648
Апдейт 0.20.18 граббера данборы и гельборы на позиксных шеллскриптах: http://code.google.com/p/danbooru-v7sh-grabber/downloads/list
За примерами использования смотрите вики: http://code.google.com/p/danbooru-v7sh-grabber/wiki/Main

Теперь протестирован и работает на:

- FreeBSD 8.1
- Solaris 10 9/10
- MacOS 10.5.7
- Cygwin 1.7.7
- GNU/Linux Gentoo 2.6.35.4
>> No. 2667    
>>2639
А где сорцыаа?
>> No. 2737    
>>2648
Не качает с бехойми. Пичаль.
>> No. 2769    
Файл: 128723746041.png-(41.64KB, 566x410, kurumi@kurumi-desktop: ~_002.png)
2769
>>2648
После
witching to page 2 of 389
Не качает, пикрилейтед. Такие дела.
>> No. 2790    
Файл: 128743785339.jpg-(379.80KB, 500x600, 7ce6e7d575b8befde7f1027b8979f4789ddaef40.jpg)
2790
>>2639
Кодер бооручан, сделай так чтобы каталог по имени тега создавался без использования спец-символов.
Например на данбуре можно указать в качестве тега: "pool:837", а Винда не принимает в качестве имени каталога двоеточие.
Или выложи исходники, может я сам исправлю.
>> No. 2804    
Файл: 128773611950.jpg-(45.10KB, 660x620, r34e.jpg)
2804
>>799
выдает ошибку при запуске из любого места, семерка
запускал от админа и в режиме совместимости - ноль эмоций
>> No. 2808    
>>2804
аналогично
>> No. 2817    
Файл: 12878580039.jpg-(13.41KB, 200x150, 584s.jpg)
2817
>>2031
выходи на связь, блеять, общественность тебя ждет-не дождется!
>> No. 2820    
Файл: 128787716274.png-(11.04KB, 320x113, lg.png)
2820
Скажите, какая-нибудь фигня, из выложенных итт, может качать с behoimi.org?
>> No. 2822    
>>2820
Если у нее есть апи, подобное данбуре или гелбуре, то те, что работают через апи должны.
>> No. 2831    
>>2822
Не совсем понял о чем ты. Конечно у нее есть айпи, как же без него в интернете, лол.
>> No. 2834    
>>2831
Danbooru api: http://danbooru.donmai.us/help/api
>> No. 2897    
Файл: Rule34Grabber.rar-(81.53KB)
2897
>>2817

Выхожу на связь.
Забыл я про вас. Извините, няшки.
Вот, наклепал за 2 вечера. О багах пишите в этот тред.
>> No. 2913    
Файл: 12885149463.jpg-(111.44KB, 750x300, 1288440401702.jpg)
2913
>>2897
Няша, а сделай аналогичную прогу для нескольких обычных данбуру или, возможно, с настройкой на ту, которая понравится не из списка.
>> No. 2916    
Файл: 128851969151.jpg-(611.00KB, 1048x1920, 582b16eb16f18271e1a6d745df3ed77ce54da64a.jpg)
2916
>>2913

Так ведь booruchan уже есть.
>> No. 2917    
Файл: 128852617846.jpg-(56.35KB, 736x720, 1286050220493.jpg)
2917
>>2916
О, и правда. Тогда сразу багрепорт — при просмотре из листа файлов во второй вкладке анимированный гиф показывается статичной картинкой.
>> No. 2918    
Доставьте исходники booruchan или последнюю версию в тред. Если этого там ещё нет, то вот, у меня фичереквест: допустим я качаю 8к картинок. Допустим коннект фейлится и я не хочу заново выкачивать 8к, а только те, которых ещё нет у меня. Вот такая фича нужна, дайте сорцы сам запилю, или запилите, очень бесит.
>> No. 2927    
>>2918
Используй wget для закачки, а после разрыва докачивай им же, но не через борочан, а прямой командой.
>> No. 2936    
Файл: 128867485154.png-(1.38MB, 1328x880, Corel325.png)
2936
http://iichan.ru/b/res/1519215.html
>> No. 2937    
>>2918
Lolibaka parser поддерживает докачку.
>> No. 2943    
Файл: 128875612265.gif-(757.14KB, 460x335, 1254822714.gif)
2943
>>2936
Что-то на семёрке у меня сиё чудо не хочет идти.
>> No. 2948    
>>2943
.Net 4 поставь
>> No. 3013    
Файл: 128924276872.jpg-(62.62KB, 437x640, 547.jpg)
3013
Кодер-куны, слезно прошу вас сделать скриптовый загрузчик для behoimi.org. Умоляю.
>> No. 3017    
>>3013

СОУС!!!!
>> No. 3018    
>>3017
Я не помню, что я тогда вбивал в гугль. Но ты всегда можешь поискать тинаем.
>> No. 3019    
>>3017
http://danbooru.donmai.us/post/show/74247
>>3018
iqdb справляется с подобной задачей лучше.

_мимопроходил_
>> No. 3020    
Это онегай тиче.
>> No. 3057    
http://www.nicovideo.jp/watch/sm12745116
http://www.multiupload.com/DOHC53ULRF
pixivGetter
Скачивалка с pixiv. Не знаю японского, кто в этом разбирается?
>> No. 3062    
>>3057
Без исходников, консольная, только под win. Вывод - не нужно. Их много, на самом деле, я штуки три только на питоне находил.
>> No. 3064    
>>3062
Можешь доставить самую baka gaijin-friendly версию?
>> No. 3065    
>>3064
Первая ссылка в гугле, например: http://nandaka.wordpress.com/2010/02/02/updated-pixiv-batch-downloader-v-20100201/
>> No. 3068    
Файл: 129001659439.jpg-(46.28KB, 747x576, Буфер обмена-1.jpg)
3068
Могу доставить скачивалку для pixiv, не консольную, с тиреча, winonly.
>> No. 3085    
>>3068
Давай.
>> No. 3107    
Файл: pixivleech.7z-(618.26KB)
3107
>>3085
>> No. 3123    
http://zipg.net/?p=GelbooruGetter
GelbooruGetter

По данным Google Translation
Скачать с http://gelbooru.com/.
>> No. 3271    
>>3107
Authorization...
Not Logged
Cookie: PHPSESSID=8f2f7f184df78dbb3b7fa89d0910b37a; path=/; expires=Sun, 19-Dec-2010 18:50:37 GMT; domain=.pixiv.net
Что не так?
>> No. 3280    
>>3271
Можешь спросить на тирече в /a/, где я сию программу и нашёл.
>> No. 3445    
Файл: 12949372541.png-(45.02KB, 525x500, screen.png)
3445
Есть такая http://files.mail.ru/CWRVGX
uni-шрифты к ней (скачать в папку шрифтов) http://files.mail.ru/M2Y5IX
Виндовая. Неторопливо, но допиливается. Бугрипурт можете делать тут.
>> No. 3448    
>>3013
Вот этот товарищ. Я неистово присоединяюсь к его просьбе. Нужно, понимате. Очень. Не ради фапа окоянного, ради прогресса и самосовершенствования же.
>> No. 3449    
Файл: 129496143895.png-(191.44KB, 455x455, 455x455.png)
3449
Это даже иронично. Анимуфаг, фапающий на 3д-девушек, переодевающихся в 2д-двушек.

Движек у 3дбуры как у данбуры, но есть 2 уровня защиты: проверка юзер-агента (должно быть указано название браузера) и защита от хотлинкинга (сайт должен думать, что пикча качается по запросу с него же, а не с чужого).
Перезалил грабер, теперь еще можно грабить 3дбуру.
http://files.mail.ru/D0LQWW
>> No. 3451    
Файл: 129496876490.jpg-(306.00KB, 1074x815, 40766f440781cb60f0b23d6bbe3a8c5b.jpg)
3451
>>3449
Спасибо, Стив, ты внезапно пришел и выручил. Держи мофудзи, что-ли.
>> No. 3452    
>>3449
>files.mail.ru
>mail.ru
>> No. 3453    
Файл: 129499108927.png-(407.79KB, 640x480, vlcsnap-2010-10-18-11h33m52s243.png)
3453
>>3452
Тебе не нравится этот сервис, Стив? Мыло, да, говно, но как почтой-то им никто и не пользуется, а как файлообменник он дает фору большинству других.
>> No. 3465    
парни подскажите ,если благоразумные, какой граббер использовать для скачки всего сайта rule34.paheal.net

спасибо заблаговременно
>> No. 3466    
Движек очень простой, завтра вечером запил. в имейжграбер. Я сейчас мучаюсь над е-хентай / эксхентай, вот там защита от грабинга так защита от грабинга.
>> No. 3468    
Файл: 129535098029.jpg-(99.78KB, 409x600, 8ae99e72b239c8075546eac7837316a8.jpg)
3468
Готово (е-хентай и эксхентай еще нет)
http://files.mail.ru/E6KHB4
>> No. 3470    
>>3465
Если хочешь выкачать тупо все, то скачай teleport pro и настрой так, чтобы он прогнал все ссылки http://rule34.paheal.net/post/list/ и http://rule34.paheal.net/post/view/ начиная с http://rule34.paheal.net/post/list/1 и качал все .jpg/jpeg/png/gif с http://rule34-images.paheal.net/_images/* .
>>3468
Грабер только по тэгам умеет воровать.
>> No. 3498    
благодарствую стив
телепортом побывал(еще picaloader тоже использовал),но что-то не жует все ,так как скачивает еще и уменьшенные изображения, несмотря на то что в настройках стоит мин размер ,да и сам rule34 что-то в последнее время то падает то тормозит,
а за софтинку что подкинул спасибо большое

кстати охрененую тему подняли с сайт рипами
>> No. 3500    
Файл: 129563328279.jpg-(163.59KB, 774x576, 7468142.jpg)
3500
>>3468
Всё правильно делаешь, держи печеньку.
>> No. 3501    
Не хотелось создавать отдельный тред, так как рилейтед.
Не мог бы кто это https://addons.mozilla.org/ru/firefox/addon/danbooru-downloader/ перепилить под линукс? Там совсем простая проблема - в путях используются обратные слэши. Я не программер, сам пробовал копаться, но место, где оно вставляет обратный слэш между заданным путём сохранения и файлнэймом не нашёл.
>> No. 3502    
Файл: 129565788947.jpg-(1.11MB, 1708x2000, 15998640.jpg)
3502
обновил грабер же, теперь можно и е/эксхентай грабить.
http://files.mail.ru/W91K8J
>> No. 3503    
Файл: 129571632173.jpg-(81.29KB, 837x920, 100.jpg)
3503
>>3502
Теперь чаще захожу в Настройки.
>> No. 3504    
А добавьте, кто-нибудь, ещё вот этот линк. Буду благодарен.
http://idol.sankakucomplex.com/
>> No. 3505    
Файл: 129574321328.jpg-(354.70KB, 1500x1886, 6767149.jpg)
3505
>>3504
Получите, распишитесь!
http://files.mail.ru/3FX4F3
Так же пофиксил баг для версий ниже Vista, не прорисовывалась таблица. Странно, что никто не заметил... или промолчал.

>>3503
муза же :3
>> No. 3510    
Файл: 129589962791.jpg-(162.52KB, 604x729, c7f4f2b8a0f1.jpg)
3510
>>3505
Извините, а вы можете DeviantArt добавить?
>> No. 3511    
Файл: 129590050117.png-(201.84KB, 704x396, vlcsnap-2010-11-26-13h52m55s135.png)
3511
>>3510
Как раз над ним сейчас работаю.
>> No. 3513    
Файл: 129591750021.jpg-(191.54KB, 552x800, 7113179.jpg)
3513
Собсно, запилил девиантарт
http://files.mail.ru/U1YT5Q
но там есть одна гадость, нельзя за 1 запрос получать более 1000 результатов. Это никак нельзя обойти. Поэтому добавил поле category, с помощью которого можно разбить процесс закачки большого числа пикч на части. В него подставляется часть url, отвечающая за категорию (напр. "digitalart/drawings/").
>> No. 3514    
>>3513
>нельзя за 1 запрос получать более 1000 результатов
А зачем? Ну напиши в два запроса, разницы-то. Вообще, это все суется в треды, и ты получаешь сразу все за время одного запроса.
>> No. 3515    
>>3514 Зайди на девиантарт и посмотри, где ты ошибся. Под одним запросом имеется ввиду один набор ключевых слов. Для одного и того же набора нельзя получить больше 1000 результатов, т.к. при перелистывании на 1000+ итем получаешь результат: Sorry, deviantART does not serve more than 1000 results for any query. (You asked for results starting from 1000).
>> No. 3528    
стиви объясни убогому как скачивать правильно с помощью teleport pro с rule34
1-использую teleport wizard
2-выбираю search a website for file of a sertain file
3- вбиваю http://rule34.paheal.net/post/list
4-устанавливаю глубину (где-то 200 или сколько?)
5-отмечаю нужные файлы (jpg и тд)+устанавливаю нужный размер

и качает при этом херню что очень прискорбно
можешь уточнить что еще надо настроить
спасибо
>> No. 3530    
>>3528
хинт! Открываешь парочку понравившихся пиков, фапаешь на них, кончаешь. Потом желание качать сразу пропадает. ?? ПРОФИТ!!!
>> No. 3535    
Файл: 129606846371.png-(227.27KB, 800x600, 7857476.png)
3535
>>3528

для начала соглашусь с >>3530 . Я просто не знаю, для чего может возникнуть необходимость качать ВСЕ пикчи.

А по сути ситуация выглядит так: "купил телевизор, включаю, а он каналы не показывает!" когда надо бы еще их сначала настроить.
во первых в inclusions надо добавить http://rule34.paheal.net/post/view/<звездочка>;http://rule34-images.paheal.net/_images/<звездочка>;
Далее в project -> project proporties надо удалить text чтобы качались только пикчи, в exclusions в первом поле добавить
http://rule34.paheal.net/post/list/<звездочка>;http://rule34.paheal.net/post/view/<звездочка>
в последнем поле добавить
<звездочка>/_thumbs/<звездочка>
При такой настройке будут качаться ТОЛЬКО большие пикчи из галереи, и никакой рекламы и тамбов.
В противном случае ставь download everything, и в project -> starting address proporties просто поставь галочку or withing the path of links to other server. Скачается абсолютно все, и будет у тебя точная копия сайта на винте со всеми пикчами без заморочек.
>> No. 3542    
>>3505
Огромное спасибо.
>> No. 3544    
Файл: 129615933587.jpg-(208.24KB, 759x1000, 8503459.jpg)
3544
Пофиксил баги, связанные со скачкой с девиантарта, так же сделал возможность загонять сразу список категорий, а так же возможность сразу раскидывать пикчи по папкам с именами тех категорий, в которых они фактически находились.

Следующим шагом будут бассейны (ака пулы) для бур.
>> No. 3547    
тьфу, ссылку забыл
slowfix. Внезапно заметил баг в загрузке новой версии сохраняемых файлов.
http://files.mail.ru/1J7K4P
>> No. 3548    
чет с Gelbooru не качает... инструкция к сию творению есть? на Gelbooru он API использует?

с sankaku все качает... но тэги не сохраняет... такя функциональность вообще есть?

весь тред не читал.... так пробежался быстро... не нашел ответов... может какоенить описание к проге напишеш?
>> No. 3549    
>>3548
В этом треде было 9000 качалок. Лучше указывать, какую ты имел в виду.
>> No. 3550    
Файл: 129630805628.jpg-(123.93KB, 500x554, 7436633.jpg)
3550
>>3548
С гелбуры не качал из-за бага в XML-парсере, как раньше столько времени работало ума не приложу, пофиксил.
API не использует, я использую пользовательский инерфейс скорее принципиально, т.к. прога допиливается для ограбления ресурсов с любыми типами доступа. Так проще потом находить и использовать общие схемы.
С санкаку не понимат, почему у тебя не сохраняются тэги, у меня норм. Мб что-то фиксил позже. Тэги не сохраняются для пиксива, е/эксхентай и девиантарта из-за специфики их работы, сложно выделять... наработки имеются, может в будущем.
Прога изначально GUI, не думаю, что используемые 5 кнопок имеет смысл описывать... хотя, в принципе, не сложно. Добавил в архив вместе со свежим билдом.
http://files.mail.ru/3SJNOR

Кстати, у всех за ранее прошу прощения из-за внезапно появляющихся багов. При очень больших перепилах в принципе работы проги это случается не неизбежно, т.к. не могу за раз проследить все нюансы. Поэтому если видите ошибку, то пишите, я сразу пофиксю. Другой вопрос, что вы можете даже не заметить, что что-то на самом деле сильно изменилось.
>> No. 3551    
)) быстро однако поправил... спасибо!
а под сохранением тэгов я имел ввиду что они с файлом не сохраняются вместе... (в свойствах пикчи их у меня по крайней мере не видно..)
я для грабанья всего и вся обычно плагин к фоксу использую - ImageHost Grabber
>> No. 3552    
>>3551
А, вот что ты имел ввиду. Хочу реализовать, но эта фишка возможна только для JPEG (другие форматы не поддерживают метаданных), поэтому пока не трогаю. Но все же в планах на реализацию.
>> No. 3572    
я тут подумал немножко... в файл метаданные встраивать немного нето... можно сделать просще да и удобнее для последующего просмотра:
сохранять тэги в имени файла! типа:
e9436313c51275b5d28d0f3e566529f5.png
станет
e9436313c51275b5d28d0f3e566529f5 black_hair black_thighhighs boots cityscape kemonomimi nanako_(shirogane_usagi) original scarf shirogane_usagi short_hair sitting solo tail thighhighs water_bottle yellow_eyes.png
в тойже висте встроеным поиском по тэгам вытащится все что надо...
так божно и весь борд слить...
...и релизовать думаю просто, ведь тэги ты уже вытаскиваеш!
>> No. 3574    
>>3572 Собсно встраивание в jpeg я уже сделал, с остальным форматами, как я говорил, болты (для вин xp и ниже там еще есть решение, еще попробую фотошоповский xmp). А про твой вариант почему-то не подумал, хорошая идея! Обязательно реализую.
>> No. 3575    
... мне тож не сразу эт пришло... уже свой велосипед изобрел и собирать начал! и вдруг на!..
+ ты не мог бы также добавить чтоб прога для скачки тэга не требовалa... т.е. кач по http://gelbooru.com/index.php?page=post&s=list
чтоб работал... хочу весь имиджборд потихоньку слить... всегото 40559 страниц по 25 пикчей на сегодня )))) блин... больше милиона пикчей...
>> No. 3576    
+ можеш еще добавить выбор НАЧАЛЬНОЙ и КОНЕЧНОЙ страницы для скачки? т.е. качаем страницы с 10 по 120...
>> No. 3578    
...блин... с тэгами в имени не все так просто оказалось... для некоторых пикчей имена слишком длинные... а резать тэги - теряется весь смысл... придется мне всетаки самому какуюнить хрень написать...
есть идея присвоить каждому тэгу уникальный четырехзначный код... и записывать их в в имя файла...
>> No. 3579    
....хотя это тоже не вариант... может оставлять тока некоторые "несущие" тэги а остальные нах?...
>> No. 3582    
>>3575
От этой идеи я отказался, много раз просили, но противоречит принципу программы. Это не нужно. Я не знаю, то-ли жадность какая-то безграничная, то-ли еще что...
>>3576
Придется хранить запросные структуры для каждой борды, а я даже самый начальный поисковый запрос пытался обойти. При поиске по тэгу это не имеет смысла. Обычно процесс выглядит так: получил список пикч -> сохранил -> начал закачку. Надоело качать: отменил -> сохранил текущие результаты. Решил докачать: загрузил лист -> начал качать, закачка сразу начинается с последней незагруженной пикчи (т.е. той, на которой сохранилась галочка, т.к. с скачаных галочка автоматически снимается).
Если хочешь обновить список можешь либо сделать quick refresh для старого (в него автоматически добавляются самые свежие пикчи до тех пор, пока не попадется совпадение), либо сделать фулл рефреш и начать закачку с пропуском совпадений.
>> No. 3583    
>>3578
Как раз хотел написать, нельзя в имени больше 128 символов использовать :3
>>3579
И как ты выделишь "несущие"? Разве что соответствующие фильтру количества тэгов...
>> No. 3584    
>>3582
это в IHG реализовано... думал несложно сюды добавить...
>>3583
...сам незнаю как сделать лучше... если сохранять тэги гдето кроми имени файла то потом отбор по ним не так просто реализовать будет...

в ванде ограничение на имя файла/папки 255 символов... но!: это не ограничение длинны пути! можно сделать так что если не убираемся в 255 то создать папку и часть тэгов в нее... нехватит одной папки - хоть 20 ))) и уже в нее файл! хотя...
лан.. пойду сам писать свой велосипед!
>> No. 3605    
Файл: 129642729574.jpg-(119.75KB, 492x640, 15094152.jpg)
3605
Новый релиз, поправил скачку с эмоуты, у них там все доменные имена поменялись, и тамб-серверов туча стала, да и сам движек чуть изменился.
http://files.mail.ru/KA3JRG
>> No. 3622    
Файл: 129647943558.jpg-(103.11KB, 441x600, 28b945a6302d024c8b2670321d1f51a0.jpg)
3622
>>3605
Стиви, /r/ функцию сворачивания в трей у данной полезной программы. А так, очень хорошая программа, ты — молодец.
>> No. 3623    
>>3622
Хорошо, что напомнил, ото я совсем забыл про это. В след. релизе будет.
>> No. 3649    
Файл: 129665686280.jpg-(34.45KB, 460x300, 6aea5cd8492fad7726cc3ab304c38514.jpg)
3649
>>3605
C http://behoimi.org/ скачивает пикрилейтед.
>> No. 3654    
Файл: 129666762978.png-(438.09KB, 800x600, 10589777.png)
3654
Новый грабер:
http://files.mail.ru/JQBFRK

-пофиксил сосиски с бехойми;
-пофиксил зацикливание закачки с девиантарта при указании более 1й категории, а так же проблему с пробелами в тэгах;
-прикрутил трэйикон.
>> No. 3663    
хм чет с гелборы не грузит ничего - в статус баре парсится а картинки в таблицу не идут, теги стандартные, с их сайта
>> No. 3664    
>>3663
Во время загрузки в таблице ничего и не показывается чтобы лишний раз не нагружать и не перераспределять память. Надо дождаться окончания загрузки.
Вообще в будущем планирую полностью перепилить таблицу чтобы отрисовывала данные напрямую из массива данных, просто возни много.
>> No. 3665    
хм, а если отменить, в теории таблицу нуно заполнить :), а вообще кул, сам собирался написать чето подобное, но времени не было, хотя планы еще остались :D
>> No. 3666    
Файл: 129668812245.jpg-(454.97KB, 1063x763, 6763500.jpg)
3666
>>3665
Задумка такова, что ты можешь работать только с полными (завершенными) запросами, т.к. их можно потом сохранять и обновлять "на горячую" (дополнять новыми пикчами по данному запросу по-быстрому, т.е. до всречи первого совпадения). Это не баг, это фича ©
Да, кстати, перезалил грабер, был глюк при скачке с е/эксхентая.
http://files.mail.ru/7MHO76
>> No. 3679    
Заливаю последний билд, т.к. следующий будет уже не скоро всвязи с перепиливанием управления потоками почти под чистую. Добавил защиту от запуска нескольких копий (включается в настройках).
http://files.mail.ru/CMUX8W
>> No. 3691    
Файл: 129690915432.jpg-(166.07KB, 768x854, 2628861.jpg)
3691
Снова вышел на работу, 8mbit интернеты. Для теста поставил 10 потоков и офигел от количества критов, хоть и успешно пропускаемых. Есть над чем работать.
>> No. 3696    
>>3679
>.exe не нужен
>> No. 3697    
>>3696
запаковано в rar, им же можешь распаковать, если не хочешь использовать sfx. exe нужен тем, у кого нет архиватора (да, такое тоже бывает).
>> No. 3721    
Use the AutoIt 3, Luke!
>> No. 3773    
>>3697
Заюзай 7z же, блджад!
>> No. 3774    
Файл: 129794597193.png-(91.95KB, 422x679, 13738728_p2.png)
3774
>>3773
Какая разница-то?
>> No. 3783    
>>3774
Знал бы ты, как я хочу начать писать капсом, что пользователи windows - все поголовно - люди, систематически совершающие воровство, и не видят разницы между проприетарной поделкой, которую украли без зазора совести, и свободным открытым софтом, который работает ничуть не хуже, а порой даже лучше. Даже знак ms в капче меня подбадривает. Но я все же сдержусь.
>> No. 3784    
У меня лицензионная Windows 7 Professional и я ничего не воровал. Попробуй сказать это мне.
с:винвдовс
>> No. 3785    
Няша, запили в своей проге фичу, чтобы ей можно было просто скормить урл альбома с е-хентая и спокойно качать. Меня очень напрягает поиск по тегам в г.е-хентае.
>>3783
Иди на хуй, в линуксе нет хороших игр
>> No. 3786    
>>3784
С каких пор winrar является чаcтью os windows?
>>3785
dosbox портирован на многие платформы.
>> No. 3787    
>dosbox
Так все я не желаю с тобой больше разговаривать
>> No. 3788    
>>3786
Я подумал ты говоришь о самой ОС?
>> No. 3789    
Файл: 129796653855.jpg-(120.55KB, 644x800, 5683198.jpg)
3789
>>3783
Да, воровать не красиво. Но что поделать desu~. Если беда в том, что ты не можешь под линухом распаковать рар, то нафига тебе тогда его распаковывать, если программа виндовая?
зы: таки мой домашний комп - это развлекательный центр, винды для этого лучше подходят. Мне тоже иногда хочется поиграть в драгон эджи и биошоки с обливофолами которые я так же качаю с торрентов.

>>3785
'key. Вообще сейчас напряг со временем, но думаю долго ждать не придется ради это опции.
>> No. 3790    
>>3785
Небольшой хинт: чтобы предельно упростить поиск просто вставь в строку тэгов полное название альбома (типа Magical Girl Pretty Sammy - AIC Sketchbook (Magical Project S | Tenchi Muyou!)). Очень редко бывает больше 1го результата, и нужный ты найдешь легко.
>> No. 3814    
Файл: 129812119290.jpg-(155.09KB, 550x1000, 14030977.jpg)
3814
обновил грабер
- поправил скачку с кочана (поменяли формат превьюх, доменные имена файлсерверов и т.п.)
- сделал чтобы вместо тэгов для е/ексхентая можно было просто ввести список ссылок (все должны начинаться на http:// ), редактор списка тэгов прилагается (разделителем считается пробел, поэтому в ссылках все пробелы должны быть заменены на "+").
http://files.mail.ru/082UG5
>> No. 3815    
Мужики, у меня фичереквест. Имеется текстовик с тэгами, разделёнными пробелами. Читайте, входной поток для консольной утилиты. Хотелось бы написать что-то вроде cat tags.txt | grabber
И ожидать, что граббер скачает мне с гелбуру все пикчи, на каждый тэг и раскидает их по папочками именованых тэгами. Сделайте позязя! Надо под венду, sh скрипты не канают, питон из вери файн.
>> No. 3816    
Файл: 129812805257.png-(1.95KB, 165x32, ne_bug_a_ficha.png)
3816
>>3679
Спасибо за старания. Работает. Тока вот проценты странные. Так только у меня?
В плане развития идеи было бы круто если бы была возможность экспортировать список адресов на пикчи в текстовый файл. Качает твоя прога хуёво не очень бойко. Т.к врятли ты каждый день пишешь сетевые приложения. Я думаю пытаться "докручивать" скачивание в самой проге ненужно, в принципе она качает (Хуле ищо надо?!). А вот список адресов картинок можно было бы скармливать проге-качалке, и уж она стянет пикчи в несколько потоков с окуенной скоростью и т.д. и т.п. Это было бы очень удобно и тебе меньше надрываться с программированием. Ну а кого устраивает стандартное качание тот может не ломать мозгу прогами-качалками. Кнопку экспорта адресов в текстовик искал, но ненашёл. Если она уже есть - ткните меня мордой.
И ищо чо она у тя такая башая? Мож стоит поставить флаги оптимизации в среде/компиляторе?

И наконец если сжимать в .zip, то помоему винда сможет открыть архив без архиваторов. В конце концов как уже сказали заюзай 7z. Он открытый, хорошо сжимает, и на оффсайте есть специально для наркоманов нехотящих ставить архиватор версия для командной строки. Она в zip архиве. Который может открываца виндой. Думаю для анонимусов из /dev/ распаковать один архив из командной строки - не проблема.

>>3783 Поддерживаю.
>>3785 Иди нахуй играть в Assassin’s Creed!
>>3789 RAR можно распаковать под Линухом. Вопрос не в этом, а в том что кто-то не хочет ставить крякнутый WinRAR архиватор. Поэтому прога была залита в ёбаном sfx .exe-шнике. А решение проблемы простое: см. >>3773
>> No. 3817    
>>3815
cat в венде? Наркоман штоле?
>> No. 3819    
Файл: 129813097278.jpg-(227.09KB, 774x1029, 14979540.jpg)
3819
>>3815
Вообще я думал над консольными командами для грабера чтобы можно было скриптом операции проводить, но все руки не доходят, мне бы саму работу для начала нормально сделать.

>>3816
Видимо когда правил процедуру скачки накосячил в формуле, перезалью чуть позже тогда. Просто я сейчас переписываю управление потоками чтобы более стабильно работало в очень много потоков, поэтому не очень внимателен к "старому" коду.
Все бы было круто, но вот есть пиксив, рула34 и ехентай, и у них есть защита от хотлинкинга.
Если в руле34 просто надо передать строчку referer, то в пиксиве уже должна быть строчка в куках, чо ты залогинен, а на ехентае вообще прямая ссылка на пикчу все время меняется.
В придачу для ускорения процесса я вычисляю ссылку на пикчу по превьюшке, а на части ресурсов она всегда jpg, когда сама пикча может быть и png и gif, т.е. надо использовать перебор, к тому же на имоуте и кочане у некоторых пикч "пляшет" папка, т.е. в один момент она может качаться с /img/, а в другой уже с /jpeg/, и по превьюшке уже не поймешь. Моя прога все это учитывает и пробует.
А ссылки можно сохранить в txt, посмотри поддерживаемые форматы в диалоге сохранения.

Бошая потому, что прогу начинал писать еще в колледже, а тогда мы изучали дельфя, и мне не охота было переписывать уже имеющиеся наработки на сях >_< Вообще она была на 1,5мб меньше до того, как я начал использоваться новый компонент для работы с таблицами. Если честно как от сердца отрывал, зато количество ручных костылей уменьшилось на 95%. Да и говорить о 5 мегабайтах в наше время "большая"...

Кстати наверно так и сделаю, 0.6 мб не так много чтобы их экономить, используя rar и 7z. Чтобы разархивировать rar не надо ставить winrar же, можно тот же халявный izarc поставить. Денег стоит только запаковать в rar.
>> No. 3820    
>>3819
Я мало что понял из этой несвязной простыни, но все же:
>в руле34 просто надо передать строчку referer, то в пиксиве уже должна быть строчка в куках, чо ты залогинен, а на ехентае вообще прямая ссылка на пикчу все время меняется.
В этом есть какая-то проблема? Установка куки делается в одну строчку. Как ты качаешь, что изменение прямой ссылки для тебя какую-то проблему представляет, я вообще не понимаю.
>> No. 3821    
>>3820
Если ты можешь настроить свою качалку чтобы прописать эти параметры, то пожалуйста. Я не писал, что это проблема прописать куку или refer`а, это как правило проблема сделать в качалке.
Ну смотри, вот мы получили список, прямая ссылка 123.456.789.012/images/435345.jpg, а через пять минут после получения списка эта ссылка уже выдает 404 или 403, и ссылка поменялась на filehost.org.ua/imagename.pl?dasdsdf234235.jpg/sttt. Так доходчивее?
>> No. 3822    
>>3821
>это как правило проблема сделать в качалке.
И в чем твоя проблема? Я абсолютно не представляю, как нужно писать, чтобы добавление куки в заголовок представляло какие-то сложности. Если только для этого использовать какие-нибудь кривые убогие библиотеки, которые ничего не умеют.
А проблема изменения ссылок обходится получением ссылки на каринку именно во время скачивания. Хранить можно список с оболочкой, например, извлечь ссылку - одна регулярка.
>> No. 3823    
>>3822
Я тоже не понимаю, в чем проблема. Где ты прочел, что у меня возникают какие-то проблемы? Как раз-то я все это реализовал. И ссылка на пикчу получается как раз во время скачивания. Я вообще не врубаюсь, к чему ты пишешь весь этот текст. Я просто описал, какие проблемы могут возникнуть у людей при скачивании списка урлов при помощи программы-качалки.
>> No. 3824    
>>3816
>Спасибо за старания. Работает. Тока вот проценты странные. Так только у меня?
Не удается воспроизвести ошибку. Можешь сказать, откуда и что ты качал чтобы появился этот баг?
>> No. 3825    
>>3824
Я стесняюсь :3
>> No. 3826    
>>3817 У меня из migw стоит. Когда MsysGit качаешь, там есть и cat и ls и ещё небольшой набор утилит. Пользуюсь, удобно, раз уж с Git ом поставляются в этом паке.
>> No. 3827    
>>3819 Просто у меня схоронённые таги, которые надо выкачать и их штук 300, я заебусь каждый ручками вбивать и смотреть не скачался ли очередной. Алсо, идеальный граббер - консольное приложение, GUI не нужен.
>> No. 3828    
>>3825
Было бы чего стесняться же! Я, вон, вообще для всего этого дела грабер писал, часами сидел на этих сайтах и изучал структуру. Наверное скоро вставать на порнокартинки перестанет.

>>3827
не правда же, грабер для того и нужен, чтобы можно было все сделать с помощью наименьшего количества телодвижений. ГУИ уменьшает их количество в разы. Особенно если речь идет о людях, которые консоль только в кино видели. Такие задачи, как "выкачать 300 тэгов по отдельности" скорее исключение.
Я, кстати, собирался делать обработку "списка списков" как раз после завершения работы над потоками. После чего и консольку можно будет доделать для полного счастья.
>> No. 3829    
Файл: 129814478323.png-(85.06KB, 1280x998, procents.png)
3829
>>3824
Gelbooru. Тег pussy.
Воспроизводить заебёшься. :D
Пробовал на не таких "популярных" тегах - ошибки не возникает, проценты считает нормально.

Лог:
18.02.2011 9:04:34 Program started
18.02.2011 9:04:42 Geting pictures list from "http://gelbooru.com/" by tag "pussy"
18.02.2011 11:05:09 Found 69457 new pictures.
18.02.2011 11:05:09 List loading completed without critical errors
18.02.2011 14:53:00 List "pussy.igl" saved
18.02.2011 14:55:23 Downloading pictures from http://gelbooru.com/

Ошибки:
18.02.2011 17:36:07 Line: 1950, http://img2.gelbooru.com/images/840/e0ef718dbb05828207af95c7ffda8ef9.jpg JPEG header is not valid
19.02.2011 10:14:47 Line: 15492, http://img2.gelbooru.com/images/726/fa18bdfaea940325038055d2f4e2ac0b.gif HTTP/1.1 404 Not Found
>> No. 3830    
>>3827 Идеальный граббер - консольное приложение с графической примочкой. Типа как Nemiver для GDB. 99.99% Wантузнятников не видивших голого DOSа ваще серуца шлакоблоками с консоли. Поэтому ГУЙ таки нужен.
>> No. 3831    
Файл: 129814931564.jpg-(46.15KB, 500x500, 7579035.jpg)
3831
>>3829
Оке, буду копать.
Первая ошибка из-за неправильного формата пикчи, видимо пнг или гиф сохранили с расширением жпег, из-за чего не удалось сохранить метаданные в жпег-файле.
Вторая все в порядке, у этой пикчи действительно нет фуллсайзовой орижинал пикчи, только превью и сэмпл.

>>3830
Здесь сложно не согласиться, просто в свое время не с того конца начал. Я даже всерьез к проекту не относился.
>> No. 3834    
Ну, мужики, я тогда жду, верю и надеюсь, что заделаете.
>> No. 3835    
>>3829
>imagegraber
>graber
>> No. 3836    
Файл: 129819024118.png-(24.37KB, 325x300, 1.png)
3836
>>3831
Оказываеца и стандартными средствами проги можно качать в несколько потоков... Как жаль, что я понял это после 2-х суток кача в один поток...
>> No. 3839    
Файл: 129819108417.jpg-(52.81KB, 403x604, Woody-Harrelson-Defendor.jpg)
3839
>>3835
Это не баг, это фича.
>> No. 3840    
>>3836
Да, только глючит сильно, над чем сейчас и работаю.
>> No. 3866    
>>3835
Просто он так охуенно граббит, что это больше похоже на грабёж. :D
>> No. 3887    
Автор, няша, есть еще небольшое пожелание в виде автоскролла списка загружаемых файлов по мере загрузки.
>> No. 3889    
Дорогой Оп, не мог бы ты запилить поддержку e621.net? Или может добрые аноны объяснят мне, что за формат *.igl и с чем его едят, и я попробуя сам запилить?
>> No. 3890    
>>3889
Разве это оп пилит? Мне казалось, что оп давно бросил, так же, как и все остальные.
>> No. 3892    
Файл: 129862270716.jpg-(98.79KB, 600x828, 1575677.jpg)
3892
>>3887
На самом деле это баг, оно должно работать, как ты говоришь, поправлю сегодня вечером.
>>3889
Тоже постараюсь сегодня вечером добавить.
*.igl формат самодельный, основан на csv, только в первой строчке идет версия файла (для обратной совместимости в случае изменений в формате файла), а во второй настройки программы (тэг,автор,категории, по которым искали, где искали, собсно облако тэгов), а дальше уже идет список пикч (урл пикчи, урл превьюшки, айди тэгов в облаке, название пикчи и т.п.). Т.к. большая часть поддерживаемых прогой борд не имеют АПИ, то в отедельном файле довольно сложно описать правила скачки для каждой борды, поэтому приходится руками допиливать собсно в проге.
Если когда-нибудь закончу основной функционал и консольное управление, то вероятно опишу модуль для загрузки параметров из файлов, но это не скоро.
Ах да, я не ОП :3
>> No. 3897    
Прога висела в панели задач около суток после закачки, ничего не делая. Сейчас просто так развернул ее и пошевелил полосу прокрутки. Получил это: 25.02.2011 19:16:37 Critical error: Cell does not contain integer value. Че к чему?
>> No. 3898    
>>3897
Редко, но возникает, когда стоит много потоков. Если, короче, то каким-то хреном статус на ОК меняется раньше, чем завершается закачка (освобождается прогрессбар).
Если чуть точнее, то прорисовка умудряется вписаться между операциями смены статуса и освобождения прогрессбара (хотя они следуют строго друг за другом в одном "пузыре"). Проблема должна решится когда я доделаю контроль потоков.
e621 и фикс автоскролла сделаю уже в течении выходных, у меня проблема с мамкой дома, пишу с будильника.
>> No. 3899    
>когда стоит много потоков
Качал в один поток
>> No. 3900    
Файл: 129865670736.jpg-(23.73KB, 490x360, vlcsnap-2011-02-10-00h27m46s187.jpg)
3900
>>3899
Ну, значит пункт про "когда стоит много потоков" убираем.

Но проблема точно в описанном.

Как рекомендацию могу пока только сказать, что во время скачки на процесс лучше не смотреть, пока я не упорядочу по нормальному работу потоков. Индусский код, лол.
>> No. 3905    
Файл: 129873545572.jpg-(207.30KB, 480x480, 3833528.jpg)
3905
http://files.mail.ru/O49SQ1
- пофиксил автоскролл (теперь он не будет внезапно прыгать на верхние строчки если там началась закачка);
- добавил е621 (движок полностью совпадает с данбурой и бехойми).
>> No. 3909    
>>3905
Исходники когда выложишь?
>> No. 3911    
>>3909
Я бы не стал
>>3905
Тян на пике убогая
>> No. 3913    
>>3909
А зойчем? Там черт ногу сломает.
>>3911
>Тян на пике убогая
И унылая, у нее характер такой. В общем просто няшка :3
>> No. 3914    
Файл: 129875065811.jpg-(87.18KB, 766x800, a86e47ee337e817cd9336b1d4fddb27f.jpg)
3914
>>3905 Люблю тебя, добрый анон. Возможно тебя так же интересуют такие вещи:
www.hentai-foundry.com - невероятно много отличного ориджинал контента. Поиск идет или по художникам или по категориям.
lu.scio.us - много вообще всего что в голову взбредет.
Но это только по твоему желанию.
>> No. 3915    
>>3913
Чтобы было. Ты действительно думаешь, что кто-то станет их читать?
>> No. 3916    
>>3914
Новые схемы пока не планирую прикручивать, первым в очереди пока стоят пулы на бурах, но в план ту релиз добавил.
Я очень много пилил на новогодние праздники и во время сессии, а сейчас снова работа, поэтому релизы снова выходят редко, и чаще с фиксами по пожеланиям.
>> No. 3917    
>>3915
Да сорс меняется почти каждый день, и не выкладываю именно потому, что кому он нужен-то, особенно без комментов.
>> No. 3922    
>>3917
>сорс меняется почти каждый день
Ты не можешь в системы контроля версий?
>> No. 3923    
>>3922
Множество кривоработающих промежуточных версий никому не нужны
>> No. 3928    
>>3905
автор, добавь furaffinity, пожалуйста?
>> No. 3929    
>>3928
Wow, первый ресурс, на котором абсолютно все поисковые запросы построены на POST запросах. Будет интересно запилить, добавил в план ту релиз.
>> No. 3930    
>>3929
спасибо
+18 контент там включается только при регистрации+авторизации, и изменении настроек, думаю это тоже нужно учитывать
>> No. 3965    
Файл: 129942160636.png-(51.96KB, 531x546, IPTC_editor.png)
3965
Слоупок-кун снова в треде!
>>3923
Поддерживаю!

>>3929
Появились несколько идей для развития граббера.

1) Чтобы в строку для тегов можно было вводить сложные запросы.
Ну что-то типа:
tf2 & (spy | scout)
tf2 & spy | scout
tf2 | spy & scout
А программа чтобы транслировала эти запросы в несколько обычных запросов.
Например для первого примера получится два запроса:
tf2 spy
tf2 scout
После чего всё идёт как обычно, получаем со всех запросов список файлов, и скачиваем их.
К этой возможности неплохо было бы добавить возможность вытаскивать такие запрсы из простого текстового файла (некоторые товарисчи вопили о том что им нужно консольное приложение чтобы скормить ему большой список тегов и т.д. Вот собственно и решение проблемы.). Т.е. рядом с строкой tags добавить кнопульку "From file", ну и дальше программа читает запросы из файла, транслирует их в простые запросы, получает список картинок... Единственное что непонятно, так это то, как потом эти файлы сохранять? В одну папку? Или срать каждый набор картинок в папку с соответствующим названием (ну например перечислять все теги через _). Эту проблему призвана решить вторая идея.

2) Есть такая срань, называетца IPTC. И ещё одна срань, называеца EXIF. Про второе из них можно даже читнуть википедию. На пикрелейтед показано окошко для редактирования IPTC у мну на компе в сматрелке картинок XnView. В общем суть идеи в том чтобы научить граббер при скачивании писать в скачаную картинку в данные IPTC теги этой картинки. Тогда, к примеру, прочесав всю коллекцию картинок с помощью Picasa, можно будет гораздо удобнее ими управлять, сортировать и т.п. Тогда можно будет смело срать картинки с разных запросов в одну папку, иба потом их можно будет в любой чуточку-умной программе просмотра картинок отфильтровать.

P.S. Кстате, сама по себе вторая идея очень полезна ИМХО и без сложных запросов (аноны, являющиеся счастливыми обладателями нескольких десятков Гб артов и т.п. сразу поймут, о чём это я), поэтому её целесообразнее запилить первее.

P.P.S. Ну что, нашёл почему проценты неправильно работали? Воспроизвести сумел? Исправил? Мне просто интересно. :3
>> No. 3968    
Файл: 12994282379.jpg-(121.14KB, 1502x1652, 11992756.jpg)
3968
>>3965
>1)
Я реализацию этой задачи немного по другому себе представлял, т.к. давно болею проблемой обновления списков. У меня куча списков, которые обновляю примерно 1 раз в неделю и догружаю новые пикчи, дефолтовый путь для скачки у них записан уже имеющейся там фьючерой. Я планировал сделать новую вкладку с возможностью вести список этих списов в связке с возможностью создания этих самых списков на лету, для хранения "списка списков" использовать новый формат. Получится этакий многофайловый проект с разбиением каждого отдельного элемента проекта (списки пикч) по отдельным файлам.

>2)
Давно в полете же. Все, где я смог выкавырять теги, давно записывается в IPTC. Но только jpg|jpeg, ибо только в них есть этот заголовок.

Проценты глючили из-за того, что я использовал 16-битный числовой тип для счетчика. Как-то не верно я оценил, сколько будут скачивать пикч за 1 сеанс. Переделал в 32-битный.

Да и с новым выходом придется повременить. Есть проект по работе, поэтому свободное время трачу на него же. Только по мелочи баги фиксю.
>> No. 3969    
>>3965 Ты пиздец всё усложнил. Не плоди сущностей.
>(аноны, являющиеся счастливыми обладателями нескольких десятков Гб артов и т.п. сразу поймут, о чём это я)
О да, у меня 70Гб, ни одна сраная программа не справляется с обработкой. Поделие от Adobe вылетело где-то на 45Гб.
>> No. 3970    
Файл: 129949740966.jpg-(93.71KB, 1000x725, Lain_Cosplay_by_Filsd.jpg)
3970
Перезалил грабер, пофиксил баги:
- зависание при логине;
- на пиксиве немного поменялся формат имени пикчи, из-за чего не удавалось создать имя файла на винте;
- замена формальной ссылки на прямую при пропуске существующих пикч на е/эксхентае;
- получение списка внезапно обрывалось на середине на е/эксхентае (пришлось добавить паузу между получением страниц, ограничение на "скорость загрузки страниц");
- не сохранялись тэги для е/эексхентая если вместо ключевых слов использовать ссылки.
http://files.mail.ru/XG3BKJ
>> No. 3975    
>>3970
анон, furaffinity-кун снова выходит на связь
в общем, у меня назрела идея как бы это лучше реализовать, попробую описать:
есть профиль на FA, в котором уже включены +18 настройки
указываем на него ссылку - программа смотрит список +fav-артистов этого профиля, и ищет все файлы что находятся у них в галереях и черновиках, затем переводит все это в .txt который можно сграбить download manager'ом
мне кажется это было бы просто awesome, ибо...ну не знаю, мега охуенный функционал, не знаю вот, правда, справишься ли ты с этим, или нет
помочь ничем увы, не смогу, т.к. обычный быдло-дизайнер
добра и спасибо за такой хороший и нужный софт
>> No. 3976    
>>3975
Ccылку на профиль? Что за чушь! Даже несмотря на то что я никогда не ходил на этот фуррятский ресурс, я могу точно сказать, что для передачи программе личных настроек аккаунта нужны как минимум твои логин и пароль.
>> No. 3977    
>>3976
мне кажется или поле имя/пароль автору запилить под силу?
к чему ты вообще эту хуйню написал? не нравится - пройди мимо
>> No. 3980    
>>3975
Просто будит авторизация, как у эксхентая и пиксива. Дальше все как обычно.
>> No. 3984    
>>3980
это так сложно реализовать? представь себе на сколько уёбищно тягать по одному вотчу ОБЕ папки, галерея + наброски из, к примеру, 300 фаверов?
>> No. 3989    
Файл: 129968789823.jpg-(80.29KB, 414x540, vlcsnap-2011-02-24-12h24m41s167.jpg)
3989
>>3984
Поставишь 10 потоков, пак с деварта в 9к пикч скачался за 40 мин.
Асло выгрузка списков в txt поддерживается.

и скоро ли вообще следующий нормальный релиз выйдет яхз
>> No. 3998    
>>3989
да я-то хоть сто поставить могу, проблема в том что это займет уйму времени
когда можно взять и просканировать скриптом одну страницу на наличие любимых артистов и автоматом, через этот же скрипт выдрать все ссылки из галереи/набросков в один .txt-файл этих же артистов дабы потом все разом скачать - ну не охуенно ли?
я бы даже сам сел за написание, если бы имел хоть какие-то навыки в этом направлении; не думаю просто что там что-то неебически сложное ибо через .html код список любимых авторов спокойно их всех показывает, остается очистить от "мусора" странички, продублировать каждую строку и заменить gallery на scraps во второй, выходит нечто вроде fa.net/gallery/user1 & fa.net/scraps/user1 - все, считай, готово
>> No. 3999    
>>3998
Откуда будут браться списки уже вопрос 3й: хоть из списка пикч, хоть из списка авторов, хоть из профиля, хоть из гугла если в этом будет смысл. Для пиксива реализована возможность искать как в общей массе, так по профилю отдельного автора.
>> No. 4001    
>>3976
>>3999
я вот решительно не понимаю этого человека и его фраз, к чему он вообще это пишет?
>> No. 4003    
>>4001
Это не человек, а Стив, за Стивом скрывается не 1 человек.
Я так скажу: пожалуйста, хватит говорить, как и что лучше сделать, лучше просто говори, что ты хочешь. Скорее всего это ты не понимаешь, что тебе пытаются объяснить, как это будет выглядеть в будущем. Автор грабера сам знает, что на что надо заменять и откуда что качать, а если не знает, то узнает.
И опять же никаких гарантий реализации тебе никто не дает, автор в первую очередь делал эту прогу для себя, и делает ее удобной тоже для себя. Если ему не нужен фуррисайт, то он его может не добавить.

автор грабера и >>3999-кун
>> No. 4004    
>>4003
Кодер-кун, няшка, а можно запилить такую штуку, чтобы грабер создавал папки для каждого тега и буры? Что-то вроде pussy_gelbooru.com
Ну, или хотя бы для тегов чтобы папки сам создавал, а то постоянно приходится делать это вручную и указывать граберу, куда качать. А так я просто укажу ему папку downloads, и он сам будет создавать папки для каждого тега.
>> No. 4005    
>>4004
Даже лучше чтобы для тегов создавал, так как есть одинаковые картинки, которые он пропускает.
>> No. 4006    
>>4004>>4005
На выходных запилю.
>> No. 4007    
>>4006
Если не сложно. Спасибо.
>> No. 4022    
>>4003
мне кажется это ты не понимаешь, почему поясню во второй раз:
лучше и удобней =/= легче в изготовлении или написании
второе, цитируя:
>лучше просто говори, что ты хочешь
как уже и было сказано, хочу скрипт по принципу: указываем страницу пользователя -> скрипт производит осмотр артистов, которые находятся в списке фаворитов -> сканирует папки "галерея" + "наброски" этих артистов (соответствующие разделы на сайте gallery/scraps) -> извлечение списка файлов их творчества в .txt файл
надеюсь, на данный раз я все предельно понятно объяснил? и да, это мое пожелание, т.е. так хочу я, так будет удобней мне и тем, у кого уже есть список любимых авторов и им жутко как не хочется выкачивать по 1 странице методом граббера по-умолчанию что сейчас применяется, разгребая список любимых авторов из 300 вручную, а то и более людей
если это сложно - так и скажи, если не хочешь заниматься - так и скажи, к чему все эти пиздострадания и отмазки? ты автор - тебе и решать, вот только подобный граббер уже есть и давно, и он прекрасно справляется со своей задачей за исключением редких ошибок, но в нем тоже отсутствует подобная и очень нужная функция (флэшчан.ру/grabber.html) которую я и прошу запилить
>> No. 4025    
>>4022
Слушай, твой фурри-арт никому, кроме тебя, не нужен. Не отвлекай няшку кодер-куна своими глупыми идеями.

мимопроходил
>> No. 4036    
Файл: 13001147008.png-(1.37MB, 589x1200, 17238937_p0.png)
4036
Обновил грабер:
- переписал получение списка для кочана и имоуты, с чем поправил баг получения ссылок с кочана. Но заметил странный глюк: иногда пикчи выдают 404, хотя при повторной скачке качается нормально;
- сделал новую систему папки по умолчанию и подстановку имени папки по формату:
+ чтобы назначить папку по умолчанию надо нажать кнопку "set default dir" (со значком папки с галочкой), кнопка "load default dir" этот путь восстанавливает (папка со стрелочкой);
+ с установленным чекбоксом "auto dir name" будет создаваться имя папки для списка (не считая случая обновления списка), где ?s - имя сайта, ?t - строка тэгов, например: "?t?s" = "pussy catgelbooru.com". Путь создается на базе папки по умолчанию.

Недавно был первый случай, когда забанили на ехентае за автоматизированную скачку, видимо палят по объему скачанного за определенной период. Срок первого бана = 1ч. Будьте аккуратнее.

Прошу прощения за несоблюдения срока, два дня не ночевал дома, и все воскресения отсыпался.

>>4007
Ты главное случайно не подумай, что я это для вас делаю. Я это сделал потому, что идея понравилась.

>>4025
На самом деле мне просто не надо было говорить, как я это буду реализовывать, и просто молча сделать так, как я себе это представляю. Просто диалог выходит по типу "Земля круглая" - "Нет, земля во круг оси крутится".
>> No. 4037    
>>4036
например: "?t - ?s" = "pussy cat - gelbooru.com"
слэши потерялись, заменил на минус.
>> No. 4038    
>>4036
Тьфу, ссылку забыл
http://files.mail.ru/9VHTRH
>> No. 4043    
Файл: 130015021666.jpg-(34.77KB, 517x373, 41512246_Facepalm11.jpg)
4043
>>4036
>На самом деле мне просто не надо было говорить, как я это буду реализовывать, и просто молча сделать так, как я себе это представляю. Просто диалог выходит по типу "Земля круглая" - "Нет, земля во круг оси крутится".
>мне просто не надо было говорить, как я это буду реализовывать
>и просто молча сделать так, как я себе это представляю
блять, неужто и серьезные разделы заполонили люди, раздувшиеся от гордости и воспринимающие все во штыки, не умеющие даже выражать свои мысли так, чтобы они были ясны и удобны для чтения? я даже не удивлюсь что это - >>4025 - твой семён
>> No. 4045    
Файл: 13001668279.jpg-(133.42KB, 800x660, 1021.jpg)
4045
>>4043
Пздц, Стив, да ты, по-моему, совсем охуел.
Не захотел писать тебе такой скрипт, какой ты попросил-> значит не хочу делать все правильно и воспринимаю в штыки (т.к. то, что ты сказал, лучше, чем говорят тебе).
Попытался объяснить, как это будет работать в грабере -> не умею объяснять и пишу отмазы (какие, блять, отмазы, я пишу КАК это будет работать, БУДЕТ работать, а НЕ почему это не будет работать), т.к., блять, работать все будет по той же схеме, которая уже работает с остальными ресурсами, а не как хочешь ты. И похуй, что результат будет нужный тебе, вплоть до выборки по твоим авторам.
Сказал, что не надо было ничего объяснять, т.к. это вызвало еще больше недопониманий -> значит раздулось ЧСВ.
Тебе не 1 человек пытался объяснить то же, что и я, и тебе все равно "не удобно для чтения", Стив. Шел бы ты со своими претензиями хрен пойми о чем, и почини уже свой детектор. Слишком уж у тебя потреблядское отношение.

Покормил, блеать
>> No. 4046    
>>4043
>я даже не удивлюсь что это - >>4025 - твой семён
Вообще-то я >>4004-кун.

>>4036
Спасибо тебе за проделанную работу.
>> No. 4047    
>>4045
у тебя эго задето, больное место? сколько агрессии, молодой человек
>значит не хочу делать все правильно
ты о чём вообще? тебе пояснили как будет лучше для меня, по твоей просьбе:
>лучше просто говори, что ты хочешь
>воспринимаю в штыки
так и есть, и данное сообщение это в очередной раз подтвердило
нормальные люди с такой агрессией не реагируют, особенно на попытки им объяснить или помочь, дабы избежать различных проблем в будущем
>блять, работать все будет по той же схеме, которая уже работает с остальными ресурсами, а не как хочешь ты
нахуй не нужно, подобный граббер уже 3 год существует, о чем я и говорил - т.е., можно не тратить свое время на это, тем более, учитывая то, что сайт тебе не нужен
>И похуй, что результат будет нужный тебе, вплоть до выборки по твоим авторам.
то есть, ты хочешь сказать что схема которую я приводил будет реализована как-то иначе, и мне не придется каждого автора вбивать вручную? тогда я извиняюсь, впрочем, умения объяснять у тебя явно нету
>больше недопониманий -> значит раздулось ЧСВ
какие-то у тебя хуевые аналогии или ирония
раз объяснил - все нормально и все довольны, все тихо-мирно
>Тебе не 1 человек пытался объяснить то же
да хоть двести, на работе меня тоже "цех" переубеждает однако делают в конце так, как делаю я и в итоге только так заказчиков все устраивает
>"не удобно для чтения"
опять руки ебёшь?
>Слишком уж у тебя потреблядское отношение.
слишком ты еще вспыльчивый еще, обиженный на всех и вся, будто бы лет тебе 18 только что стукнуло
>> No. 4048    
Файл: 130019691670.jpg-(119.15KB, 459x640, 4615411.jpg)
4048
>>4047
Извини, Стив, что мы говорим с тобой на разных языках. Видимо, между быдло-кодером и быдло-дизайнером все-таки есть небольшой языковой барьер. Кто же знал, что для тебя эта строчка будет чересчур сложной для понимания:
>Откуда будут браться списки уже вопрос 3й: хоть из списка пикч, хоть из списка авторов, хоть из профиля, хоть из гугла если в этом будет смысл. Для пиксива реализована возможность искать как в общей массе, так по профилю отдельного автора.
На языке менеджеров это значит, что отчет можно получить в любой доступной форме с любыми доступными параметрами поиска, а как он получается - не имеет роли.
И не надо, пожалуйста, сочинять, кто на кого обижен, и у кого чего болит. Люди в "серьезных разделах" так не делают. Максимум правды в сказанном то, что меня раздражает человек, который не врубается, но все равно отвечает так, будто понимает, о чем говорит. Не понял - переспроси, не надо списывать на глупость сказавшего (а сказавший ли ступил?). В случае же с тобой все закончилось так, как закончилось. Еще и обиделся, когда я сказал, что зря взялся объяснять. Для меня ты просто один из тех, кто предлагает новые фичи для программы, и я редко отказываюсь от их реализации.
Когда я говорил "скажи, что ты хочешь" я имел ввиду результат, а не процесс получения результата. Если бы ты сразу сказал, что под результатом ты имел ввиду не полученный список картинок, а скрипт, то разговор мог закончиться на много раньше. Я занимаюсь доработкой программы, а не написанием скриптов по реквестам.

И отдельно
>да хоть двести, на работе меня тоже "цех" переубеждает однако делают в конце так, как делаю я и в итоге только так заказчиков все устраивает
Д'Артаньян, имейжборд - не твой личный цех, на работников которого ты можешь оказывать давление, здесь ты не понимаешь большинство, а не большинство тебя, т.е. это ты не в теме, особенно если речь идет о тематическом разделе. Мне жаль твоих рабочих в цехе.
>> No. 4049    
>>4048
>меня раздражает человек, который не врубается, но все равно отвечает так, будто понимает, о чем говорит
>Не понял - переспроси, не надо списывать на глупость сказавшего
>(а сказавший ли ступил?)
прочитал? apply to yourself
твоя спесь, эта твоя низость и говно, псевдоцинизм, что ты пытаешься излить возвысив себя на АИБ применяют только обиженные и обделенные люди, корыстные и/или завистливые у которых явно проблемы по жизни
впрочем, тут нечему удивляться - с каждым новым сообщением ты себя больше и больше подписываешь за петушка-школяра, енжой
>> No. 4050    
>>4048
>человек, который не врубается, но все равно отвечает так, будто понимает, о чем говорит
Первый раз в интернете что ли?
>большинство
ОНАНИМ ЛИГИОН. Что-то я не вижу никакого большинства, вы просто замусорили тред каким-то непонятным срачем между собой.
>> No. 4051    
>>4050
По-моему он реально хуиту пишет. Ему все объяснили, кодеру, а он давай наезжать за это. Ну хорошо хоть остальные фишечки запилил без ругани, тоже неплохо.
>> No. 4053    
Файл: 130022344144.jpg-(428.03KB, 1324x1080, 11035370.jpg)
4053
>>4049
>>4051
Ладно, ты меня затроллел, и теперь у меня баттхерт. Ты победил меня своими вескими аргументированными доводами.
>> No. 4054    
>>4053
Ты действительно долбоёб. Это - >>4050 - не я, >>4051 - мой единственный пост в этом треде. Займись лучше чем-нибудь полезным.
>> No. 4056    
>>4054
а я и не писал, что ты >>4050-кун, 1-пост-в-этом-треде-Семен.
>> No. 4059    
Не обращай этих мудаков, это обычные неблагодарные потребыдляди.
>> No. 4060    
>>4059
А нужно быть за что-то благодарным? Я не вижу за что. Когда мне год назад потербовалась качалка, я себе написал. Вообще не вижу смысла воспринимать такую вещь как качалка всерьез, парсер пишется за 3 вечера. В этом треде большая часть качалок - просто тренировка. Однако, если качалка - это единственный проект, который вообще когда-либо вел, то да, можно строить из себя неизвестно кого и скатывать треды в срач, привлекая внимание к собственной персоне. Побеждая в спорах по пустякам на аиб ты становишься неверотянто крутым, гугли мечтают тебя взять, тяны мечтают тебе дать.
>> No. 4061    
Файл: 130029048424.jpg-(123.05KB, 1280x720, vlcsnap-2011-01-24-01h05m33s75.jpg)
4061
>>4060
Дай погреться в лучах твоего непревзойдимого величия.

Еще чуть-чуть и тебя из этого треда придется выкатывать
>> No. 4065    
>>4060
>А нужно быть за что-то благодарным? Я не вижу за что.
За то, что няшка кодер-кун поделился грабером. Можно, например, сказать спасибо, а не поливать говном. Не на тирече же.
>Когда мне год назад потербовалась качалка, я себе написал.
Ну так поделись своей качалкой с анончиком.
>> No. 4067    
>>4065
>а не поливать говном
Я мимо проходил, это вы развели срач и приблизили смерть годного треда.
>поделись своей качалкой
Она полтора года в этом треде лежит.
>> No. 4070    
>>4065 Если бы автор нуждался в благодарностях и славе - выкладывал бы прогу в каком-нибудь бложике, там даже кармочка есть, а не на имейжборде с 3.5 анонами.
>>4067 >Я мимо проходил, это вы развели срач и приблизили смерть годного треда.
А ты написал еще 1 пост про разведенный срач.
Асло закончится этот - начнется другой.
>> No. 4084    
при граббинге не учитываются gif & png картинки, так и задумывалось?
>> No. 4103    
>>4084
Где не учитывается?
И логи тоже нужны.
>> No. 4203    
бумп
Существуют ли аплодеры для гелборы и подобных?
>> No. 4204    
>>4203
Анон - потребитель же.
>> No. 4251    
Файл: 130233985945.jpg-(56.45KB, 1280x720, Pani_Poni_Dash!_04_(XviD1_1_0Beta2 1280x720 VFR Vo.jpg)
4251
Который раз уже пользуюсь данным грабером. Спасибо. Живительный бамп
>> No. 4252    
Файл: 130237320711.jpg-(57.89KB, 394x550, 1212509153306.jpg)
4252
Безумная идея. А что если в программу няши-moe-char (если конечно он выложит код, ну или сам вернется к разработке) добавить p2p модуль, который будет качать картинки с гелбор, девианта, е-хентая, а потом раздавать их. Соответственно, можно будет качать гигабайты 2д няш не только с картинкохостинга, но и с хостов других пользователей. Плюсы: сильно возрастает скорость, меньшая нагрузка на картинкохостинг. Минусы: нужно большое распростанение этой программы среди завсегдатаев картинкохостинка, сложность реализации (сервер слушающий порт, DHT и прочее). В принципе пока не очень то и нужно, просто так мысли о будущем. Ведь картинок в мире становится все больше и больше, и нельзя все хранить в одном месте у одного хозяина, это черевато.
>> No. 4255    
>>4252
Зачем их вообще хранить? Я когда-то очень давно задался таким вопросом, и моя качалка осталась брошенной.
>> No. 4256    
>>4255
Чтобы просматривать много раз.
>> No. 4258    
>>4255
Аватарки делать.

>>4252
Действительно безумная. Не думаю, что с 3.5 ананоми, которые пользуются софтиной, в этом есть особый смысл.
>> No. 4259    
Файл: 13025072148.jpg-(298.80KB, 896x1476, 17387271.jpg)
4259
Разметка на пиксиве изменилась, перезалил с фиксом.
http://files.mail.ru/R4IC42

Кстати, если что, то я все время на связи, просто не берусь за доделку, сугубо на фиксах. Жду прихода, когда настроение появится.
>> No. 4264    
Файл: 130288468148.jpg-(118.50KB, 1280x720, nichi.jpg)
4264
ящитаю аплодер тоже нужен, поменяйте там полярность или как это обычно делается
>> No. 4268    
>>4259
Там вирус.
>> No. 4269    
>>4268
Традиционный инжект в .zip, все нормально.
>> No. 4271    
http://www.virustotal.com/file-scan/report.html?id=90a1865f5e7458c7a457bf973b0276ec7c050c2af3d56b965f62d24b1c3fb25d-1303016650
http://www.virustotal.com/file-scan/report.html?id=459b4bd182baf549bd81df075a522d8fe7b44d5fca949161146ffdfe7b0350a6-1303016845
>> No. 4305    
Не плохо бы еще добавить, чтобы грабер и swf фйлы с e621.net сохранял
>> No. 4309    
Файл: 130323701029.jpg-(81.44KB, 1280x720, Sketchbook_full_color_s-1.jpg)
4309
няша. уже два часа пытаюсь вытянуть с девиантарта хоть какой-нибудь лист. Вроде и категория небольшая, но граббер уже за 2000 страниц перевалил. как? ведь уже больше 1000. И вообще несколько раз http 500 выскакивала. Вообще хочу возможность ограничения загружаемых картинок.

Кстати при нажатии на отмену список уже загруженных файло вне сохраняется. это неправильно. почини

у меня все
>> No. 4323    
>>4305
Надо будет релизнуть. Скинь пару страниц с swf'ками.
>>4309
Ты бы ключслова оставил для тестов.
А при отмене списки да, не остаются. Вообще я начинал делать проверку на "догруженность", сохраняя в файле страницу, на какой закончилась загрузка, и сделать возможность догружать с недогруженной. Но функция не очень нужна была, т.к. обычно не составляло проблем получить полный список, и другие проблемы с прогой были, поэтому так и осталось не сделано. Надо будет доделать.
>> No. 4324    
>>4305
лол, уже не надо, просто ключевого слова "swf" достаточно.
>> No. 4393    
Стал загружать только первые 10 страниц на пиксиве. Что не так?
>> No. 4394    
И еще нужна опция автоматической загрузки в нужную папку сразу после загрузки списка файлов. Очень удобно если на ночь запускать.
>> No. 4420    
Сегодня проснулся - загрузка списка остановилась где-то на 7к+ файле. в логе Socket Error (номер не помню). Уже загруженный список не сохраняет, кнопка Grab! не активна. Пичаль.
>> No. 4421    
>>4420
Ах да. PIXIV
>> No. 4443    
>>4393
dono, все работает (pixiv, ключ qb). Может по ключу и нет больше 10 страниц?
>>4420
Закачка пикч или именно загрузка списка? Там же предложение продолжить должно было появиться. А вообще это обычное дело, т.к. пиксив тоже не резиновый и выдает ошибки время от времени.
Про то, что недогруженный список нельзя сохранить, тоже писал. Не предназначена прога для работы с неполными списками.

Извините, куны, но я еще долго не буду ничего доделывать. Как ни возьмусь за что-нибудь, что-то происходит, на что приходится переключать внимание. Так что на данный момент забросил я софтину. По крайней мере, скоро отпуск (должен быть), тогда поглядим.
>> No. 4446    
>>4443
Это стандартный жизненный цикл подобных программ. Посмотри, сколько человек забросили до тебя.
>> No. 4457    
Файл: 130450619080.jpg-(75.42KB, 511x382, scrn.jpg)
4457
>>4446
Ага, в этом я с тобой согласен. Эта программа у меня долго житель. Вообще начал я ее делать еще в начале 2009го, тогда она выглядела пикрелейтед. Лежала почти год, затем за месяц (во время безделья на сессии) я ее привел к текущему виду.
Она мне и такой нравится, и я получил довольно много опыта, ради которого я всем этим занимался. Если бы сейчас я все начал с нуля, я бы начал по другому.
>> No. 4585    
Файл: 130552639392.jpg-(135.08KB, 600x850, 18864856.jpg)
4585
Внезапный бамп. На пиксиве снова поменялась разметка, залил с фиксом.
http://files.mail.ru/TAX6O3
>> No. 4693    
Файл: 130683256540.png-(30.37KB, 517x550, wtf.png)
4693
>>4585
Грабер охуенен! Пиздец, как я раньше мог жить без него!!?
P.S. WTF с девиантом?
>> No. 4703    
Файл: 130709793133.jpg-(5.71KB, 73x73, b4c6d7b33d31ef3a46cd604168687faf.jpg)
4703
>>4585
Простите, как работает переменная "Cnt. filter x"? Что делать после выбора, для применения фильтра?
Хотелось бы отделаться от обнаженки, но не получается. И вариант с логином в аккаунт с сэйф настройками гелбуры кажется невозможен.
Спасибо за граббер!
>> No. 4704    
Файл: 130709829231.jpg-(30.15KB, 344x620, l_717.jpg)
4704
PS.
Кнопка Grab активна только после полного поиска по тегу?
Если да, то как сохранить первые Х пикчей?
>> No. 4708    
ОН ЖЕ ИЗМЕНЯЕТ ХЭШ КАРТИНКИ!
Скачивалка imagegraber модифицирует картинки, которые скачивает с сайтов и добавляет к ним около 150 байт, после чего MD5 хэш картинки меняется. И вы не сможете теперь сопоставить имя и хэш, и не сможете удалить дубли файлов.
И вообще на кой черт лезть в картинку и что-то добавлять, когда от вас ждут, что вы скачаете ОРИГИНАЛЬНУЮ картинку без модификаций и с хэшем, соответствующим имени???
>> No. 4712    
Нашел баг: некоторые картинки вроде как Not Found, но на самом деле они есть, только расширение у них другое.
graber пытается скачать пикчу с расширением .jpg, а на самом деле у нее расширение .jpeg
Например graber говорит что Error 404 для этой ссылки: http://danbooru.donmai.us/data/83ff3f8472906c722cb8e7ae3630c99c.jpg
Но на самом деле нужно просто другое расширение попробовать: http://danbooru.donmai.us/data/83ff3f8472906c722cb8e7ae3630c99c.jpeg
И такая картинка найдется.
Я думаю, что graber просто скачивает странички и в них ищет md5 картинок, а потом подставляет расширение .jpg и если у картинки другое раширение (нестадартное), то graber обламывается потому что сервер не может найти с расширением .jpg
Наверное надо или изменить алгоритм поиска имен картинок или больше расширений подставлять и проверять.
Кстати найти пропущенные картинки можно введя md5 этой картинки - для выше приведенного примера я нашел ее введя в поле Search:
md5:83ff3f8472906c722cb8e7ae3630c99c

ps. мне тоже не нравится что картинки изменяют свой md5 после скачивания. Автор, пожалуйста, сделай чтобы картиники не менялись. Не надо туда записывать адрес сервера и тэг по которому искали картинки. Все это есть в пути, а картинка пусть остается нетронутой!
>> No. 4713    
>>4712
В этом треде еще сотня реализаций качалок, среди которых есть те, которые делают это правильно, а не через зад. Можешь использовать их.
>> No. 4720    
http://dlg.ruanime.org/
>> No. 4721    
>>4720
Шах и мат.
>> No. 4724    
>>4721
Будто приделать вебморду к любой из качалок в этом треде - большая проблема. Хотя, для качалок на шарпе - наверное да. Причем эта вебморда всего-то парсит результат, полученный через апи и приписывает к нему хостнейм, его все равно нужно вставлять в вгет. >>811, например, делает абсолютно то же самое, но ничего копировать и вставлять не нужно. Ну и главное:
>Danbooru link grabber November 21, 2010
>Первая работоспособная качалка в треде 30.08.2009
>> No. 4725    
>>4724
Я человек, которому просто нужно скачать картинки с буры.
Открываю я твою ссылку: Что это такое? Куда тут чего вводить? Где кнопочка "СКОЧАТЬ БЕСПЛАТНО БЕЗ СМС"?
Открываю веб качалку: 2 листбокса, текстбокс для тегов и заветная кнопочка. А список легко кушается давнлоад-менеджером.
>> No. 4734    
>>4713
Большинство линков умерло. Насчет не через зад - посмотри интерфейсы некоторых качалок.
>> No. 4735    
>>4734
>интерфейсы
>работа с апи
Я не знаю, где ты видишь связь.
>> No. 4746    
>>4735
Если интерфейс сделан очень неудобно или так, что разобраться в нем невозможно, то можно говорить что качалка сделана через зад.
>> No. 4747    
>>4746
Если пользователь не может осилить хелп, в котором 3 параметра, то можно говорить, что пользователь - идиот.
>> No. 4751    
>>4693
Подтверждаю ошибку. Посмотрю сегодня, в чем косяк.

>>4703
Для гелбуры не работает логин, ога, до сих пор не было реквестов на фильтр обнаженки. Завтра тогда залью билд с возможностью логина, только не уверен, что он поможет, т.к. чаще всего фильтрованные пикчи отображаются в блоке с параметром hided, а прога и такие вытаскивает. Придумаю что-нибудь на этот счет.
Cnt. filter должен срабатывать сразу (прямо после изменения значения). Он фильтрует тэги по количеству картинок с этим тегом.

>>4704
Только после полного поиска.

>>4708
До сих пор не было ни одного человека, который таким занимался. Завтра залью билд с галочкой "сохранять тэги в jpg") чтобы можно было оставлять исходный хеш.
>> No. 4752    
Изначально graber был задуман как качалка для пиксива и т.п. нестандартных имейжборд (сейчас это еще деварт и е-хентай), т.к. на то время не существовало нормальных качалок для них. Все стандартнобуры были просто как приятное дополнение по реквестам.
>> No. 4753    
>>4751
>Если да, то как сохранить первые Х пикчей?
uncheck->all.
Выделяешь 10 первых элементво списка.
check->selected.
>> No. 4755    
>>4703
Не совсем понял, но может нужно вписать в тегах (-rating:explicit). Без скобок.
>> No. 4756    
Файл: 130764323027.jpg-(50.86KB, 450x536, 1303152629158.jpg)
4756
Поcоны, так я не понял, чем лучше всего с Пиксива качать? Вы мне прямо скажите.
>> No. 4757    
Файл: 130765344774.jpg-(310.22KB, 1093x842, Без-имени-1.jpg)
4757
>>4756
На пиксиве арта побольше, и не только отборный SUPERYOBA, асло все равно почти весь арт тащат оттуда, так что есть возможность получить арт раньше остальных (или схоронить тот, который удолят авторы через пару дней от жадности). А еще там додзbки выкладывают ^_^. У каждого своя фагготрия.
>> No. 4760    
>>4757
Блджад, да я спрашивал, какой программой лучше всего с него тянуть.
>> No. 4762    
>>4760
В этом треде альтернатив graber`у не выкладывалось.
Есть еще нипонская консольная поделка поделка на нипонском же языке, и надо отдельно еще 3 софтины поставить чтобы запустить эту:
http://nandaka.wordpress.com/2010/01/13/pixiv-batch-downloader/
Еще есть плагин для фурифокса, но как оно работает я не проверял:
https://addons.mozilla.org/ru/firefox/addon/ank-pixiv-tool/
>> No. 4763    
Файл: 130770286843.jpg-(369.65KB, 2507x3541, 12198501.jpg)
4763
Перезалил грабер:
http://files.mail.ru/UQ25PT

>>4585
>P.S. WTF с девиантом?
fixed. Рекомендую сначала проверять количество результатов по запросу (из-за ограничения 10к результатов сервером) и качать по категориям.

>>4703
>Хотелось бы отделаться от обнаженки, но не получается.
Лучший вариант:
>-rating:explicit
Можешь записать в saved tags чтобы постоянно заново не прописывать.

>>4708
Добавил отключаемый чекбокс "save meta to JPEG".

>>4712
>graber пытается скачать пикчу с расширением .jpg, а на самом деле у нее расширение .jpeg
fixed.
>> No. 4764    
>>4762
>софтины ставить
>BeautifulSoup
Да а где ты увидел 3? Уж не питон, который есть везде, ты имел в виду.
>> No. 4766    
>>4764
Буры грабят только красноглазики, да.
>> No. 4770    
>4763

А почему такая скорость маленькая? Через шлюз где-то что-то?

У меня 100Mbit/s, скачивает со скоростью 50Kb/s.
>> No. 4771    
>>4747
А если боардюзер пишет про хелп которого в программе нету, то он кретин с рождения
>> No. 4773    
>>4763
Кодер-кун, запили, пожалуйста, поддержку http://ponibooru.413chan.net/
>> No. 4776    
>>4770
Ограничение скачки только сервером и твоим каналом. Попробуй прибавить потоков.
>>4773
OMG, оно существует...
>> No. 4778    
>501 сообщений и 134 изображений пропущено. Для просмотра нажмите «Ответ».
Новый тред >>4777
>> No. 4783    
>>4770
>У меня 100Mbit/s,
Я так понимаю, когда у тебя появится гигабитная сетевуха, ты будешь говорить, что у тебя скорость 1000Мбит/с?
>> No. 4854    
нипроебем
>> No. 4949    
op
>> No. 5489    
Вот задался вопросом как легче парсить с e621
Есть тупая закономерность, страницы с id картинокой. Я к примеру хочу качать не по тегам, а по нескольким страницам, к примеру последние 4-5 страниц.
http://e621.net/post/show/
это id поста с картинкой.
Открывая эту ссылку, в коде есть ссылка на скачивание (Download) картинки вида:
/data///###.&&&
** - директории всегда разные
## - название всегда разное у картинки
&&& - ну и формат картинки/файла
К примеру (если отобразится:
<a href="/data/4a/6a/4a6ab4ea6c90fca67447f588bdd6c9cb.jpg">Download</a>

Помню смотрел как задавать параметры грабберу для DLE9 движка, так надо было вставить начало и конец кода, между которыми надо парсить контент. Может так же сделать?
Я к примеру ввожу диапазон Id'ов для ссылкок на посты с картинками, а программа сама находит нужный код и подставив домен сайта, качает картинку/файл.
Помоему простая схема для написания, но увы я не програмист и не понимаю как это реализовывать.
Кто возмется за эту простую прогу? Если уж такой парсер собрали, думаю эту будет легче собрать.
В идеале хотелось бы видеть там несколько строчек для ввода:
от Id и до Id
куда сохранять эти файлы.
Большего и не надо =)
>> No. 5490    
Почему то не все звездочки отобразились,
http://e621.net/post/show/172881
вместо последних цифр были звездочки.
>> No. 5677    
Файл: 132093713530.jpg-(128.78KB, 1000x1414, A_N_T - 201111091548.jpg)
5677
Скачивалка pixiv устарела вроде, а есть более новая версия?
>> No. 5730    
http://410chan.ru/dev/res/4777.html
здесь новые версии и продолжение треда
>> No. 6071    
>>1186
>Fatal error: Call to undefined function curl_init() in localhost\booru\booru.php on line 13
Ок?
[Назад] [Вся нить] [Первые 100 сообщений] [Последние 50 сообщений]


Удалить сообщение []
Пароль  
[Mod]