问答文章1 问答文章501 问答文章1001 问答文章1501 问答文章2001 问答文章2501 问答文章3001 问答文章3501 问答文章4001 问答文章4501 问答文章5001 问答文章5501 问答文章6001 问答文章6501 问答文章7001 问答文章7501 问答文章8001 问答文章8501 问答文章9001 问答文章9501

举三个使你心情愉悦的运动事例回忆一下记录下来形成一篇心得

发布网友 发布时间:2022-04-06 04:11

我来回答

2个回答

懂视网 时间:2022-04-06 08:33

下面由Laravel教程栏目给大家记录一下使用Laravel-s抵御百度爬虫的经历,希望对需要的朋友有所帮助!

什么是 Laravel-s

LaravelS是一个胶水项目,用于快速集成Swoole到Laravel或Lumen,赋予它们更好的性能
github地址

为什么用 Laravel-s

百度小程序上线后,百度爬虫过高的 qps(并发) 导致 cpu 满载,服务器宕机,服务器配置4核8G内存5M宽带。这时候怎么办?

  • 调整 php-fpm 参数,设置为静态,静态模式对比动态模式性能更高。比如设置子进程数量255甚至更高,越高承受的并发量越大,但越高占用内存越大。结论,一定程度上有效果,但高并发下无用。

  • 反馈百度调整爬虫抓取频率。结论,等吧,黄花菜都凉了,但还是反馈下比较好。

  • 负载均衡。让其他服务器分担压力,前提是有足够的服务器,且都要部署相同的代码,且不能影响其他服务器本来职责的业务。或者在某云临时申请N台服务器,但你不知道爬虫什么时间来,什么时间去,不现实。

  • 接下来就是文章的主题,用 Laravel-s 加速 http 响应。

  • Laravel-s 究竟起到多少加速效果

    由于当时没有统计所有时段 qps 具体值,所以没办法得出准确的结论,只能根据调整前后的机器负载做对比。

    部署前,cpu满载,机器宕机N次,瘫痪状态。外网出宽带占满(5M),部署后cpu立即降到20+, 临时升级宽带15M后,cpu达到 60%,外网宽带仍被占满(只能说百度爬虫是真作啊,多少宽带你就来多少啊)。结论,至少带来5倍的性能提升。

    具体部署

    爬虫所爬取的页面只是一部分,所以并不是将线上项目改造成laravel-s,也不现实。我们只需要将爬取的页面分离出来,单独部署到laravel-s

  • 新建空项目,业务逻辑只处理抓取的页面api,项目端口号如 6501

  • 部署 laravel-s ,测试api 及 ab压测

  • 线上项目将爬虫爬取的页面路径代理到新建项目,如127.0.0.1:6501

  • location ~ ^/v1/test.* {
     proxy_pass http://127.0.0.1:6501;
     proxy_set_header Host $host;}

    注意的几点:

  • conf/laravels.php 中,默认开启 worker 数量是 cpu 核数的两倍。

  • laravles 是运行在 swoole ,在内存中,每次更改代码,需重启 laravel-s

  • 由于第2条的原因,数据库连接得不到释放,需开启 laravel 的断开重连(>laravle5.1)。在 conf/database.phpmysql配置中添加

  • 'options' => [
     // 开启持久连接
     PDO::ATTR_PERSISTENT => true,],

    热心网友 时间:2022-04-06 05:41

    打球,捡了个钱包找回失主
    长跑,同学摔倒
    打乒乓球,结交朋友
    声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com
    单位高温防护欠缺致员工中暑如何对待 狗狗为什么爱看视频 360浏览器怎么设置倍速播放 ...先讲女主的灵魂飘荡了一段时间,然后重生,请问是那本? 拯救者散热器怎么开 电脑如何一键还原系统电脑一键还原怎么操作 神舟笔记本电脑怎么重新设置神舟战神bios恢复出厂设置 神舟电脑恢复出厂设置神舟战神怎么恢复原厂系统 水泥楼梯如何铺木楼梯 家里面楼梯是水泥的不想铺地毯或者地砖还能铺什么 平面设计师如何找到自己的核心竞争力? 网站页脚做锚文字还能起到优化效果吗 怎样做好站内优化? 有没有能提高网站转化的设计? 网站设计中的页脚设计有什么原则呢? 网站建设页脚需要注意哪些事项? 哪些网站建设方法能够让网站变得更加有吸引力 网站建设中如何设计网页页脚 网站建设怎样有技巧设置网站页脚 网站页脚设计的技巧有哪些 如何给phpstorm配置环境 php study怎么用 phpstudy怎么配置 请介绍一个PHP的开发环境及其配置的过程 xampp+vs code 怎么配置php环境 vscode怎么配置php开发环境 请问vscode怎么配置php环境啊 如何配置php网页开发环境 如何用phpstudy配置服务器?求教学,谢谢! 用phpstudy怎么搭建服务器环境 2022年第一次穿短袖记录一下用什么话术发朋友圈最好 记录下 用英语怎么说 周亚夫军细柳以第一人称视角记录一下此次劳军的所见所闻 在家宅得无聊,记录一下和小黑的碎碎念——广汽丰田iA5使用心得 前几天做了雀斑激光,来记录一下变化过程 你还知道其他的生活小窍门吗搜集一下并记录下来吧生活小窍门信息来源效果? 晌心谷:记录一下我与小白劲炫ASX的五一游记 用什么软件记录下一个好的语段? 除了历史记录,还有什么可以记录使用电脑的记录? 手机上有没有一种软件,把想记录的资料记录下来,用的时候搜索一下就找到了 平时想记录一下家庭的美好日常,有没有什么相机拍摄、录像不错的,不要太贵哈! 有没有这样的安卓应用,点击一下记录此刻时间 然后可以添加描述 比如08:00 起床了 09:12 求日记30篇。300字就行!记住是日记!记录每天的事! .在SQL语言中,要一条记录使用的是:() IE缓存和历史记录到底有什么区别,保留哪一个能使下次访问这些网页速度变快 有没有办法让表中的记录上下移动 thinkphp的文件下载怎么实现,急需具体的代码 thinkphp5 怎么打包指定文件 rar 或者 zip thinkphp中怎样调用php自带的压缩解压缩类 thinkphp的http::download怎么做下载文件