由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 刷十几个EC2来跑爬虫会被马鬃小黑屋不
相关主题
又招人了,DevOps Engineer关于aws问goodbug老师一个问题
小白弱问一个AWS EC2 outage的问题问个aws菜鸟问题,传统的mysql数据库
哪些 web framework 可以 很容易 scale 到 multiple server 上面?资本家确实对省设备没啥激情
我准备去开一个aws帐户了谁知道facebook chat这类的东东是怎么做的
学python的一点小感觉哈现在主流web server是什么?
goodbug 以你的经验, EC2 instance 有多大概率,会自己down?什么OPEN SOURCE的CODE对初级用户比较有用
把Drupal架在AWS上,大家看这个方案可行吗??python太慢了
AWS vs Azure一个django问题:debug=true就很好;debug=false,css就找不到
相关话题的讨论汇总
话题: 爬虫话题: ec2话题: 马鬃话题: 黑屋话题: 十几个
进入Programming版参与讨论
1 (共1页)
c******n
发帖数: 16666
1
之前看了下用tor来防封IP
感觉好烦 好慢。。
看到这篇老文章
http://www.michaelnielsen.org/ddi/how-to-crawl-a-quarter-billion-webpages-in-40-hours/
w********m
发帖数: 1137
2
aws应该没有黑科技知道你的instance是爬虫
知道他们也不care
c******n
发帖数: 16666
3
嗯 他们应该也没办法知道这些ip可能会被social media啥得block掉了
而且block了估计十天半个月也就解封了

【在 w********m 的大作中提到】
: aws应该没有黑科技知道你的instance是爬虫
: 知道他们也不care

l******n
发帖数: 9344
4
封的很快,我测试过。。。。

【在 c******n 的大作中提到】
: 嗯 他们应该也没办法知道这些ip可能会被social media啥得block掉了
: 而且block了估计十天半个月也就解封了

c******n
发帖数: 16666
5
汗。。。那我最好搞个马甲来弄
别把我RDS给一起封了
对了 你是指你用ec2跑爬虫
还是你去爬了马鬃的页面?

【在 l******n 的大作中提到】
: 封的很快,我测试过。。。。
l******n
发帖数: 9344
6
全速跑爬虫流量非常大,先确定你能付得出账单

【在 w********m 的大作中提到】
: aws应该没有黑科技知道你的instance是爬虫
: 知道他们也不care

l******n
发帖数: 9344
7
爬amazon。。。

【在 c******n 的大作中提到】
: 汗。。。那我最好搞个马甲来弄
: 别把我RDS给一起封了
: 对了 你是指你用ec2跑爬虫
: 还是你去爬了马鬃的页面?

w********m
发帖数: 1137
8
其实流量不大, 我的虫子都是1 qps/ip
大的话,就是DDOS了。

【在 l******n 的大作中提到】
: 全速跑爬虫流量非常大,先确定你能付得出账单
c******n
发帖数: 16666
9
肯定会控制速度 毕竟这玩意儿是灰色区域
不靠防火墙和nginx 自己爬虫爬死我自己的网站也就是十几秒钟 多进程加异步太狠了

【在 l******n 的大作中提到】
: 全速跑爬虫流量非常大,先确定你能付得出账单
c******n
发帖数: 16666
10
额。。。我还想做个类似camelcamelcamel的呢。。
这两天知乎上帖子 怎么反爬虫 有几个用图片显示价格 改字体改变数字定义 还有直接
返回假数据的太黑了 哈哈

【在 l******n 的大作中提到】
: 爬amazon。。。
p**r
发帖数: 5853
11
看到这个,脑子里立即浮现出,endless的漫天遍野的导弹袭来

多进程加异步太狠了

【在 c******n 的大作中提到】
: 额。。。我还想做个类似camelcamelcamel的呢。。
: 这两天知乎上帖子 怎么反爬虫 有几个用图片显示价格 改字体改变数字定义 还有直接
: 返回假数据的太黑了 哈哈

h**********c
发帖数: 4120
12
可以把调制姐跳起得driver 改改,以调制姐跳起得速率发
1 (共1页)
进入Programming版参与讨论
相关主题
一个django问题:debug=true就很好;debug=false,css就找不到学python的一点小感觉哈
Re: 大家介绍一下当下比较流行的网页编程吧 (转载)goodbug 以你的经验, EC2 instance 有多大概率,会自己down?
goodbug 老师,如果用ROR 加上您的架构,能做出撑的住火车订票系统么?把Drupal架在AWS上,大家看这个方案可行吗??
谁给菜鸟科普一下?client side MVCAWS vs Azure
又招人了,DevOps Engineer关于aws问goodbug老师一个问题
小白弱问一个AWS EC2 outage的问题问个aws菜鸟问题,传统的mysql数据库
哪些 web framework 可以 很容易 scale 到 multiple server 上面?资本家确实对省设备没啥激情
我准备去开一个aws帐户了谁知道facebook chat这类的东东是怎么做的
相关话题的讨论汇总
话题: 爬虫话题: ec2话题: 马鬃话题: 黑屋话题: 十几个