双11狂欢大促

盲盒赢 定制羽绒服

开启惊喜盲盒,抽取你的专属好礼

— 惊喜奖品抢先看 —

软件工程第二次实践作业

222200116吴源桓 222200116吴源桓 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
这个作业属于哪个课程2401_CS_SE_FZU
这个作业要求在哪里https://bbs.csdn.net/topics/619294904
这个作业的目标完成对2024年巴黎奥运会相关数据的收集,并实现一个能够对国家排名及奖牌个数统计的控制台程序
其他参考文献...

目录

  • 一、项目地址
  • 二、PSP表格
  • 三、解题思路描述
  • 四、设计与实现过程
  • 五、程序性能改进
  • 六、单元测试
  • 七、心路历程与收获

一、项目地址


二、PSP表格

PSPPersonal Software Process Stages预估耗时(分钟)实际耗时(分钟)
Planning计划1520
• Estimate• 估计这个任务需要多少时间600540
Development开发360300
• Analysis• 需求分析 (包括学习新技术)120100
• Design Spec• 生成设计文档6060
• Design Review• 设计复审1010
• Coding Standard• 代码规范 (为目前的开发制定合适的规范)1010
• Design• 具体设计3060
• Coding• 具体编码180180
• Code Review• 代码复审6060
• Test• 测试(自我测试,修改代码,提交修改)120100
Reporting报告6060
• Test Repor• 测试报告6060
• Size Measurement• 计算工作量6030
• Postmortem & Process Improvement Plan• 事后总结, 并提出过程改进计划4560
合计17901560

三、解题思路描述

  1. 在刚拿到题目是,首先应该爬取数据,对此,我专门学习了Python爬虫知识,并成功利用Python爬取解题所需数据并将之转化为可利用json文件
  2. 根据爬取的数据,制定专门的类以方便读取数据
  3. 根据读取的数据,编写程序以处理数据

四、设计与实现过程

  1. 首先爬取奖牌数据,打开2024巴黎奥运会奖牌榜,点击F12打开开发者工具

    img


    发现所需的数据就存放在在getOlyMedal字段里右键复制值,并存放到rank.json中

  2. 接着爬取赛程数据,打开2024巴黎奥运会,点击F12打开开发者工具

    img


    发现所需数据就存放在getOlyMatchesList字段中,由于赛程较多,因此我编写了一段python代码用于爬取每日赛程数据,代码核心部分如下:

    # 定义处理函数,用于获取和保存数据
    def fetch_and_save_data(date):
    url = url1.format(date)  # 生成完整的 URL
    response = requests.get(url)
    match = re.search(r'OM\((.*)\)', response.text)
    schedule = []
    
    if match:
        json_str = match.group(1)
        data = json.loads(json_str)
        match_list = data.get("data", {}).get("matchList", [])
    
        for match in match_list:
            filtered_match = {field: match.get(field, None) for field in keep}
    
            schedule.append(filtered_match)
    
    with open(f"{date}.json", "w", encoding="utf-8") as f:
        json.dump(schedule, f, ensure_ascii=False, indent=4)
    
  3. 至此,我们已经获得所有所需的数据。接着根据爬取的数据,创建Match类以存储赛程数据

    class Match {
     private String startdatecn;
     private String itemcodename;
     private String title;
     private String venuename;
     private String homename;
     private String awayname;
    
     // Getters and Setters
    
     @Override
     public String toString() {
         String vs = "";
         if (!homename.equals("") && !awayname.equals("")) {
             vs = homename + " VS" + awayname;
         }
         return  "time:'" + startdatecn +
                 "\nsport='" + itemcodename +
                 "\nname='" + title + " " + vs + " " +
                 "\nvenuename='" + venuename +
                 "\n-----";
         }
     }
    

    创建Medals类以存储每个国家的奖品信息

    import com.fasterxml.jackson.annotation.JsonProperty;
    
     public class Medals {
    
         @JsonProperty("countryid")
         private String countryId;
    
         @JsonProperty("countryname")  // 注意这里指定了 JSON 字段名
         private String countryName;
    
         @JsonProperty("gold")
         private int gold;
    
         @JsonProperty("silver")
         private int silver;
    
         @JsonProperty("bronze")
         private int bronze;
    
         @JsonProperty("count")
         private int count;
    
         @JsonProperty("rank")
         private int rank;
    
         // Getters and Setters
    
         @Override
         public String toString() {
             return "\nrank" + rank + ":" + countryId +
                     "\ngold:" + gold +
                     "\nsilver:" + silver +
                     "\nbronze:" + bronze +
                     "\ntotal:" + count +
                     "\n-----";
         }
     }
    
  4. 创建JsonReader类以实现从爬取的json文件中存储数据为List,以便后续使用。代码如下:

    public class JsonReader {
        public static List<Match> readMatchesFromJsonFile(String filePath) {
            ObjectMapper objectMapper = new ObjectMapper();
            List<Match> matches = Collections.emptyList();  // 初始化为一个空列表
    
            try {
                matches = objectMapper.readValue(new File(filePath),
                        objectMapper.getTypeFactory().constructCollectionType(List.class, Match.class));
            } catch (IOException e) {
                System.err.println("Failed to read JSON file: " + e.getMessage());
                e.printStackTrace();
            }
    
            return matches;
        }
    
        public static List<Medals> readMedalsFromJsonFile(String filePath) {
            ObjectMapper objectMapper = new ObjectMapper();
            List<Medals> medalList = null;
    
            try {
                medalList = objectMapper.readValue(new File(filePath),
                        objectMapper.getTypeFactory().constructCollectionType(List.class, Medals.class));
            } catch (IOException e) {
                System.err.println("Failed to read JSON file: " + e.getMessage());
                e.printStackTrace();
            }
    
            return medalList;
        }
    }
    
  5. 创建TxtReader类和TxtWriter类以实现读取输入文件和写入输出文件,代码如下:

    public class TxtFileWriter {
    
        /**
        * 使用 FileWriter 和 BufferedWriter 向文件写入内容。
        *
        * @param filePath 文件的绝对路径或相对路径
        * @param content  要写入的内容
        */
        private static boolean isFirstWrite = true;
        public static void writeToFile(String filePath, String content) {
            try (BufferedWriter writer = new BufferedWriter(new FileWriter(filePath, !isFirstWrite))) {
                writer.write(content);
                writer.newLine();  // 添加新行
                isFirstWrite = false;  // 标记首次写入已完成
            } catch (IOException e) {
                System.err.println("Error writing to file: " + e.getMessage());
                e.printStackTrace();
            }
        }
    }
    public class TxtFileReader {
    
        public static List<String> readFileLines(String filePath) {
            List<String> lines = Collections.emptyList();
    
            try (BufferedReader reader = new BufferedReader(new FileReader(new File(filePath)))) {
                lines = reader.lines().toList();
            } catch (IOException e) {
                System.err.println("Error reading file: " + e.getMessage());
                e.printStackTrace();
            }
    
            return lines;
        }
        public static boolean isFileExit(String path) {
            Path filePath = Paths.get(path);
            return Files.exists(filePath) && Files.isRegularFile(filePath);
        }
    }
    
  6. 现在我们已经成功读取数据和输入文件,接着我们开始处理输入文件,对此,我创建了一个HandlCmd类以处理输入文件,核心代码如下

    public static void handleCmd(String input_path, String output_path) {
        List<String> cmds = TxtFileReader.readFileLines(input_path);
    
        for (String cmd : cmds){
            if (cmd.equals("total")) {
                List<Medals> medals = JsonReader.readMedalsFromJsonFile(OlympicSearch.getRank_path());
                TxtFileWriter.writeToFile(output_path, medals.toString());
            }
            else if (cmd.startsWith("schedule")) {
                if (containsDateInRange(cmd, "2024-07-24", "2024-08-11")) {
                    Pattern pattern = Pattern.compile("\\d+");
                    Matcher matcher = pattern.matcher(cmd);
                    if (matcher.find()) {
                        List<Match> matches = JsonReader.readMatchesFromJsonFile("src/data/2024" + matcher.group() + ".json");
                        for (Match match : matches) {
                            TxtFileWriter.writeToFile(output_path, match.toString());
                        }
    
                    }
                }
                else {
                    TxtFileWriter.writeToFile(output_path, "N/A\n-----");
                }
            }
            else {
                TxtFileWriter.writeToFile(output_path, "Error\n-----");
            }
        }
    
    }
    
  7. 最后,我们在主类中声明文件路径,并对输入文件进行简单的判断,若输入文件正确,则调用HandleCmd类处理输入,核心代码如下:

    private static String input_path = "E:\\IdeaProjects\\OlympicSearch\\src\\data\\input.txt";
    private static String output_path = "E:\\IdeaProjects\\OlympicSearch\\src\\data\\output.txt";
    private static String rank_path = "E:\\IdeaProjects\\OlympicSearch\\src\\data\\rank.json";
    public static void main(String[] argc){
        if (getInput_path().equals("") || getOutput_path().equals("")) {
            System.out.println("Error!输入过少\n");
            return;
        }
        else {
            if (!TxtFileReader.isFileExit(getInput_path())) {
                System.out.println("错误:输入文件不存在");
                return;
            }
            else {
                HandleCmd.handleCmd(getInput_path(), getOutput_path());
            }
        }
    }
    

五、程序性能改进

  1. 使用List存储读取的对象以获得更快的速度
    public static List<Medals> readMedalsFromJsonFile(String filePath)
  2. 在文件读写过程中,使用BufferedReader/BufferedWriter进行读写
  3. 在爬取数据后,对数据进行清洗。
    清洗前的数据

    img


    大小为109KB

    img


    清洗后的数据

    img


    大小为15KB

    img


    大小减少将近90%

六、单元测试

  • 创建OlympicSearchTest类,并在里面写出测试样例,代码如下:
    ```
    import org.junit.jupiter.api.Test;
    import org.junit.jupiter.api.Assertions;

    import java.util.List;

    public class OlympicSearchTest {

      @Test
      public void testinput1(){
          System.out.println("错误输入");
          OlympicSearch.setInput_path("666.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput2(){
          System.out.println("过少输入");
          OlympicSearch.setInput_path("666.txt");
          OlympicSearch.setOutput_path("");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput3(){
          System.out.println("过少输入");
          OlympicSearch.setInput_path("666.txt");
          OlympicSearch.setOutput_path("");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput4(){
          System.out.println("测试正确输入total");
          OlympicSearch.setInput_path("src/data/input04.txt");
          OlympicSearch.setOutput_path("src/data/output04.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput5(){
          System.out.println("测试正确输入schedule 0808");
          OlympicSearch.setInput_path("src/data/input05.txt");
          OlympicSearch.setOutput_path("src/data/output05.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput6(){
          System.out.println("测试错误输入schedule 0830,赛程不在范围内");
          OlympicSearch.setInput_path("src/data/input06.txt");
          OlympicSearch.setOutput_path("src/data/output06.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput7(){
          System.out.println("测试错误输入totol,错误命令");
          OlympicSearch.setInput_path("src/data/input07.txt");
          OlympicSearch.setOutput_path("src/data/output07.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput8(){
          System.out.println("测试输入多条正确命令");
          OlympicSearch.setInput_path("src/data/input08.txt");
          OlympicSearch.setOutput_path("src/data/output08.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput9(){
          System.out.println("测试输入多条错误命令");
          OlympicSearch.setInput_path("src/data/input09.txt");
          OlympicSearch.setOutput_path("src/data/output09.txt");
          OlympicSearch.main(new String[]{});
      }
    
      @Test
      public void testinput10(){
          System.out.println("测试输入多条正确或错误命令");
          OlympicSearch.setInput_path("src/data/input10.txt");
          OlympicSearch.setOutput_path("src/data/output10.txt");
          OlympicSearch.main(new String[]{});
      }
    
}
```
  • 测试结果展示(样例)

img

img

img

img


七、心路历程与收获

  • 刚拿到题目时绝对很难,因为无论是fork仓库,还是数据爬取,都是我完全没接触过的新事物,对于未知事物的恐惧让我绝对这次作业很难。但是随着深入学习,发现难度适中,并没有刚开始想象的那么难。在这次过程中,我学会了利用python爬取数据,idea的使用,对markdown的编写也愈发熟练,同时我也学会了在java中读取json文件
...全文

相关推荐

PairProject:W班软件工程实践结对第二次作业仓库

结对第二次作业-顶会热词统计的实现 为了不遗漏作业内容,这里有一个清单检查表方便同学们快速检阅。 fork仓库,和伙伴商讨如何通过github协作/代码规范等 编程实现 功能一,操作爬取的论文列表 功能二,爬取结果分析展示 功能三,爬取论文信息(附加功能,实现有附加分) 其他附加功能 部署 发布发布版本,发起拉取请求 撰写博客,在预先之前提交一份博客 包含作业描述和目录 核对评分标准 上一次结对作业中,大家都和小伙伴完成了原型的设计,那么现在再联合小伙伴动手实现原型中的部分功能吧。采用网络技术来实现原型中的功能。 一,作业内容 1.基础功能 功能1:对已爬取的论文列表进行操作 可对论文列表进行删除; 可对论文列表进行查询详细信息(支持模糊查询,查询结果的展示,排序等功能可自行设计); 功能2:分析已爬取到的论文信息,提取top10个热门领域或热门研究方向 形成如关键字图谱之类直观的查看方式

ywnwx

软件工程第二次作业 计算机学院

软件工程第二次作业 计算机学院

Mingyuan Deng

2024年机器人软件工程学课程作业项目仓库_包含四次作业任务_第一次作业使用OpenCV实现图片显示功能_第二次作业开发简易聊天程序_第三次作业构建消息发布订阅系统_期末大作业完成.zip

2024年机器人软件工程学课程作业项目仓库_包含四次作业任务_第一次作业使用OpenCV实现图片显示功能_第二次作业开发简易聊天程序_第三次作业构建消息发布订阅系统_期末大作业完成.zip

2501_91769822

第二次作业.zip

第二次作业.zip

weixin_64193024

2024年机器人软件工程学课程作业项目仓库-包含四次作业任务-第一次作业使用OpenCV实现图片显示功能-第二次作业开发简易聊天程序-第三次作业构建消息发布订阅系统-期末大作业完成.zip

搜索引擎2024年机器人软件工程学课程作业项目仓库_包含四次作业任务_第一次作业使用OpenCV实现图片显示功能_第二次作业开发简易聊天程序_第三次作业构建消息发布订阅系统_期末大作业完成.zip

taozodew123
评论
收藏 已收藏
分享
返回顶部