网页内容是用 json 动态生成的,需要怎么爬取

发布网友发布时间：2022-04-27 08:07

共2个回答

热心网友时间：2022-04-24 05:40

抓取js动态生成的内容的页面有两种基本的解决方案

1用dryscrape库动态抓取页面

js脚本是通过浏览器来执行并返回信息的，所以，抓取js执行后的页面，一个最直接的方式就是用python模拟浏览器的行为。WebKit 是一个开源的浏览器引擎，python提供了许多库可以调用这个引擎，dryscrape便是其中之一，它调用webkit引擎来处理包含js等的网页！

2 selenium web测试框架

selenium是一个web测试框架，它允许调用本地的浏览器引擎发送网页请求，所以，它同样可以实现抓取页面的要求。

热心网友时间：2022-04-24 06:58

可以用nodejs，
模拟browser去获取ajax或websocket，动态解析json的内容。