爬虫如何将解析到的JSON数据再用Xpath解析?

眉毛上的萝卜干 2016-08-19 11:34:46
//想把得到的data信息再用xpath解析,请问大神门该怎么写
package datayuan;

import us.codecraft.webmagic.Page;
import us.codecraft.webmagic.Site;
import us.codecraft.webmagic.Spider;
import us.codecraft.webmagic.processor.PageProcessor;
import us.codecraft.webmagic.selector.Selectable;

public class Posthuxiu implements PageProcessor {

private Site site = Site.me().setRetryTimes(2).setSleepTime(800);

@Override
public void process(Page page) {

page.addTargetRequests(page.getHtml().links().regex("(https://www.huxiu.com/chuangye/ajax_get_company_list_for_index)").all());
page.putField("Json", page.getJson().jsonPath("data"));
//这里通过jsonPath解析得到json中的data信息(data中的信息为HTML结构文本)
//想把得到的data信息再用xpath解析,请问大神门该怎么写
Selectable info = page.getJson().jsonPath("data");
}

@Override
public Site getSite() {
return site;
}

public static void main(String[] args) {
int p = 2;
do {
Spider.create(new Posthuxiu())
.addUrl("https://www.huxiu.com/chuangye/ajax_get_company_list_for_index?page=2")
.thread(1)
.run();
p++;
}while(p < 5);
}
}
...全文
776 3 打赏 收藏 转发到动态 举报
写回复
用AI写文章
3 条回复
切换为时间正序
请发表友善的回复…
发表回复
小羽Jary 2019-01-10
  • 打赏
  • 举报
回复
你可以使用Json-Path来像Xpath一样来解析,他们是语法都是类似的
潜心修仙 2016-11-24
  • 打赏
  • 举报
回复
我遇到了楼主一样的问题,请问楼主解决了吗?能否告知下?ximoran@163.com 谢谢
yctang 2016-08-19
  • 打赏
  • 举报
回复
解析xml用dom4j啊

81,092

社区成员

发帖
与我相关
我的任务
社区描述
Java Web 开发
社区管理员
  • Web 开发社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧