[转载] 有没有人用过Nutch? - CS版

本页内容为未名空间相应帖子的节选和存档，一周内的贴子最多显示50字，超过一周显示500字访问原贴

CS版 - [转载] 有没有人用过Nutch?

相关主题
● fetching PDF articles on journals websites	● 请大家帮忙：新手如何学习网络抓取数据？
● 问nutch设置	● 有没有人用过Nutch?
● 请问哪里有比较好的spider代码下载？	● [转载] 有没有人用过Nutch?
● 问个傻问题 (转载)	● Nutch
● python的general问题	● Nutch vs Lucene
● Why it is constant time for accessing array's element?	● 做了个job search网站
● 设想一下代的网络搜索技术	● 是谁伪造了唐骏的简历
● dict.cn 的词库是crawl到的吗？ (转载)	● 脸家系统设计，web crawler, 机器之间不能通信。 (转载)

相关话题的讨论汇总
话题: nutch话题: htm话题: html

进入CS版参与讨论

(共1页)

c***o
发帖数: 61

【以下文字转载自 BuildingWeb 讨论区】
【原文由 csfoo 所发表】
我只想用它来检索documents (.doc/.pdf/etc.)而非htm/html,但是如果我在
crawl-urlfilter.txt里面将htm/html skip掉是不行的，因为crawler根本就得不到
足够的link信息。是不是先crawl/fetch,之后在index的时候再将htm/html去掉呢？
应该怎样处理？谢谢!

(共1页)

进入CS版参与讨论

相关主题
● 脸家系统设计，web crawler, 机器之间不能通信。 (转载)	● python的general问题
● How to tell if Nutch works properly?	● Why it is constant time for accessing array's element?
● 有多少人看过这个talk？	● 设想一下代的网络搜索技术
● Re: 整死Google并不是那么难 (转载)	● dict.cn 的词库是crawl到的吗？ (转载)
● fetching PDF articles on journals websites	● 请大家帮忙：新手如何学习网络抓取数据？
● 问nutch设置	● 有没有人用过Nutch?
● 请问哪里有比较好的spider代码下载？	● [转载] 有没有人用过Nutch?
● 问个傻问题 (转载)	● Nutch

相关话题的讨论汇总
话题: nutch话题: htm话题: html

#	版面	帖数(主题数)
-	全站	4871 (796)
1	Military	3777 (569)
2	Stock	341 (51)
3	Joke	117 (17)
4	History	116 (3)
5	Automobile	100 (9)
6	USANews	55 (9)
7	Midlife	45 (1)
8	Headline	41 (41)
9	Dreamer	33 (13)
10	FleaMarket	32 (20)
11	Living	30 (7)

boards

未名新帖统计// 7月16日

历史上的今天