java 调用 powershell 的问题在线等急

2015-08-04 12:09:57 265 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

[模型部署]-[LLM]昇腾部署Qwen3-Coder-30B-A3B-Instruct 摘要：本文介绍了在Ascend NPU上部署Qwen3-Coder-30B-A3B-Instruct大模型的实践过程。通过vLLM-Ascend框架，详细说明了环境准备（CANN 8.1、PyTorch-NPU 2.5.1等）、模型下载、容器启动及服务部署步骤，包括vLLM服务的启动参数配置和接口测试方法。测试结果显示在当前2卡910B3配置下性能表现仅为8token/s（1并发），并指出流式调用时存在无法输出usage信息的问题。该方案为Ascend平台私有化部署大模型推理服务提供了参考实现。阅读详情



1、首先我本地有一个test.ps1的powershell文件，内容为（只是为了输出传进来的参数）：



For($i=0;$i -lt $args.Count; $i++)

{

Write-Host "parameter $i : $($args[$i])"

}



2、然后我的java代码如下：

private void exeCmd() {

InputStream in = null;

BufferedReader reader = null;

try {

String cmd = "cmd /c powershell D:/test.ps1 p1 p2";

Process p = Runtime.getRuntime().exec(cmd);

in = p.getInputStream();

reader = new BufferedReader(new InputStreamReader(in));

String line = null;

while ((line = reader.readLine()) != null) {

System.out.println(line);

}

System.out.println("out put end ---");

p.waitFor();

p.destroy();

} catch (IOException e) {

e.printStackTrace();

} catch (InterruptedException e) {

e.printStackTrace();

}

}



执行结果：

parameter 0 : p1

parameter 1 : p2



没有输出out put end ---，也就是说进程卡在 while里面了。后面所有内容都中断了。求大神帮忙。在下感激不尽。