c++中获取中文、英文、中文标点、英文标点的个数

2016-03-22 10:04:07 330 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

xiaoxiaokun888 墨衍会员 · AI 创作全网分发关注 + 加入社区

Unity离线语音识别实战：集成Sherpa-onnx与中文标点恢复本文详细介绍了在Unity中集成Sherpa-onnx引擎实现离线语音识别的实战教程。通过下载中文语音识别与标点恢复模型，结合sherpa-onnx-unity插件，开发者可以构建完全离线、保护隐私的语音转文字功能，并自动为识别文本添加标点，提升可读性。文章涵盖了从环境准备、核心代码编写到性能优化与多平台部署的完整流程。阅读详情

如题：
环境：Unicode

...全文

whisper.cpp 本地离线语音转文字：中文SRT字幕生成实战指南语音转文字是内容创作与知识管理中的高频需求，但传统云端API往往受制于网络、隐私与费用。基于C++重写的whisper.cpp，将OpenAI Whisper模型移植到纯本地环境，无需GPU与Python生态，即可在CPU上完成高效推理。其采用GGML量化技术压缩模型体积，支持中文识别，一条命令即可输出SRT字幕，为会议记录、视频字幕、播客转写等场景提供了免费且完全离线的解决方案。本文从环境编译、模型选择到参数调优，系统梳理了在Windows、macOS与Linux三平台部署whisper.cpp的完整流程阅读详情

xiaoxiaokun888

C++ 语言 65,214 成员 250,514 内容

+ 关注 + 加入社区

切换为时间正序

赵4老师 2016-03-22

打赏
举报

#pragma comment(lib,"user32")
#pragma comment(lib,"gdi32")
#include <conio.h>
#include <stdio.h>
#include <stdlib.h>
#include <windows.h>
extern "C" HWND WINAPI GetConsoleWindow();
void HideTheCursor() {
    CONSOLE_CURSOR_INFO cciCursor;
    HANDLE hStdOut = GetStdHandle(STD_OUTPUT_HANDLE);

    if(GetConsoleCursorInfo(hStdOut, &cciCursor)) {
        cciCursor.bVisible = FALSE;
        SetConsoleCursorInfo(hStdOut, &cciCursor);
    }
}
void ShowTheCursor() {
    CONSOLE_CURSOR_INFO cciCursor;
    HANDLE hStdOut = GetStdHandle(STD_OUTPUT_HANDLE);

    if(GetConsoleCursorInfo(hStdOut, &cciCursor)) {
        cciCursor.bVisible = TRUE;
        SetConsoleCursorInfo(hStdOut, &cciCursor);
    }
}
int main() {
    HWND  hwnd;
    HDC   hdc;
    HFONT hfont;
    wchar_t wc[2];

    system("color F0");
    system("cls");
    HideTheCursor();
    hwnd  = GetConsoleWindow();
    hdc   = GetDC(hwnd);
    hfont = CreateFont(48,0,0,0,0,0,0,0,GB2312_CHARSET ,0,0,0,0,"宋体-方正超大字符集");
    SelectObject(hdc,hfont);
    wc[0]=0xD854u;
    wc[1]=0xDC00u;
    TextOutW(hdc,10,10,wc,2);
    DeleteObject(hfont);
    ReleaseDC(hwnd,hdc);
    getch();
    system("color 07");
    system("cls");
    ShowTheCursor();
    return 0;
}
#if 0
代理项或代理项对是一对共同表示单个字符的 16 位 Unicode 编码值。需要记住的关键一点是：
代理项对实际上是 32 位单个字符，不能再假定一个 16 位 Unicode 编码值正好映射到一个字符。

使用代理项对
代理项对的第一个值是高代理项，包含介于 U+D800 到 U+DBFF 范围内的 16 位代码值。
该对的第二个值是低代理项，包含介于 U+DC00 到 U+DFFF 范围内的值。通过使用代理项对，
16 位 Unicode 编码系统可以对已由 Unicode 标准定义的一百多万个其他字符 (220) 进行寻址。

在传递给 XmlTextWriter 方法的任何字符串中都可以使用代理项字符。不过，代理项字符在编写的
XML 中应该有效。例如，万维网联合会 (W3C) 建议不允许在元素或属性的名称中使用代理项字符。
如果字符串包含无效的代理项对，则引发异常。

另外，可以使用 WriteSurrogateCharEntity 写出与代理项对相对应的字符实体。字符实体以十六
进制格式写出，并用以下公式生成：

(highChar -0xD800) * 0x400 + (lowChar -0xDC00) + 0x10000

如果字符串包含无效的代理项对，则引发异常。下面的示例显示将代理项对作为输入的 WriteSurrogateCharEntity 方法。

C#复制
 // The following line writes 𐀀.
WriteSurrogateCharEntity ('\uDC00', '\uD800');
下面的示例生成一个代理项对文件，将其加载到 XmlReader 中，并用新的文件名保存文件。
然后，原始文件和新文件被加载回应用程序的 XML 文档对象模型 (DOM) 结构中以进行比较。

C#复制
 char lowChar, highChar;
char [] charArray = new char[10];
FileStream targetFile = new FileStream("SurrogatePair.xml",
      FileMode.Create, FileAccess.ReadWrite, FileShare.ReadWrite);

lowChar = Convert.ToChar(0xDC00);
highChar = Convert.ToChar(0xD800);
XmlTextWriter tw = new XmlTextWriter(targetFile, null);
tw.Formatting = Formatting.Indented;
tw.WriteStartElement("root");
tw.WriteStartAttribute("test", null);
tw.WriteSurrogateCharEntity(lowChar, highChar);
lowChar = Convert.ToChar(0xDC01);
highChar = Convert.ToChar(0xD801);
tw.WriteSurrogateCharEntity(lowChar, highChar);
lowChar = Convert.ToChar(0xDFFF);
highChar = Convert.ToChar(0xDBFF);
tw.WriteSurrogateCharEntity(lowChar, highChar);

// Add 10 random surrogate pairs.
// As Unicode, the high bytes are in lower
// memory; for example, word 6A21 as 21 6A.
// The high or low is in the logical sense.
Random random = new Random();
for (int i = 0; i < 10; ++i) {
      lowChar = Convert.ToChar(random.Next(0xDC00, 0xE000));
      highChar = Convert.ToChar(random.Next(0xD800, 0xDC00));
      charArray[i] = highChar;
      charArray[++i] = lowChar;
}
tw.WriteChars(charArray, 0, charArray.Length);

for (int i = 0; i < 10; ++i) {
      lowChar = Convert.ToChar(random.Next(0xDC00, 0xE000));
      highChar = Convert.ToChar(random.Next(0xD800, 0xDC00));
      tw.WriteSurrogateCharEntity(lowChar, highChar);
}

tw.WriteEndAttribute();
tw.WriteEndElement();
tw.Flush();
tw.Close();

XmlTextReader r = new XmlTextReader("SurrogatePair.xml");

r.Read();
r.MoveToFirstAttribute();
targetFile = new FileStream("SurrogatePairFromReader.xml",
       FileMode.Create, FileAccess.ReadWrite, FileShare.ReadWrite);

tw = new XmlTextWriter(targetFile, null);
tw.Formatting = Formatting.Indented;
tw.WriteStartElement("root");
tw.WriteStartAttribute("test", null);
tw.WriteString(r.Value);
tw.WriteEndAttribute();
tw.WriteEndElement();
tw.Flush();
tw.Close();

// Load both result files into the DOM and compare.
XmlDocument doc1 = new XmlDocument();
XmlDocument doc2 = new XmlDocument();
doc1.Load("SurrogatePair.xml");
doc2.Load("SurrogatePairFromReader.xml");
if (doc1.InnerXml != doc2.InnerXml) {
      Console.WriteLine("Surrogate Pair test case failed");
}
在使用 WriteChars 方法（一次写出一个缓冲区的数据）写出时，输入中的代理项对可能
会在一个缓冲区内被意外拆分。由于代理项值是定义完善的，如果 WriteChars 遇到来自
较低范围或者较高范围的 Unicode 值，它将该值标识为代理项对的一半。当遇到
 WriteChars 将导致从拆分代理项对的缓冲区写入的情况时，将引发异常。使用
  IsHighSurrogate 方法检查缓冲区是否以高代理项字符结束。如果缓冲区中的最后一个
  字符不是高代理项，可以将该缓冲区传递给 WriteChars 方法。

请参见
概念
使用 XmlTextWriter 创建格式正确的 XML
XmlTextWriter 的 XML 输出格式设置
XmlTextWriter 的命名空间功能

#endif

ipqtjmqj 2016-03-22

打赏
举报

引用 4 楼 zhao4zhong1 的回复:

[quote=引用 2 楼 ipqtjmqj 的回复:] 先弄清楚你的unicode是utf-16小端,还是utf-8. 然后查询unicode中的汉字, 标点的编码范围.我记得汉字基本区的范围是4e00~9ffc,还有扩展A,B,C,D,E,F区. 还有笔画, 康熙部首, 部首扩展,兼容,兼容扩展,这些都算作汉字. 中文标点: https://en.wikipedia.org/wiki/CJK_Symbols_and_Punctuation

够全！奉劝楼主还是保存在wstring中更靠谱。[/quote] wstring好像是两个字节的吧, 像扩展B区的汉字就会被算作两个字符. 可以typedef std::basic_string<unsigned long> qstring;这样一个字符4个字节

赵4老师 2016-03-22

打赏
举报

引用 2 楼 ipqtjmqj 的回复:

先弄清楚你的unicode是utf-16小端,还是utf-8. 然后查询unicode中的汉字, 标点的编码范围.我记得汉字基本区的范围是4e00~9ffc,还有扩展A,B,C,D,E,F区. 还有笔画, 康熙部首, 部首扩展,兼容,兼容扩展,这些都算作汉字. 中文标点: https://en.wikipedia.org/wiki/CJK_Symbols_and_Punctuation

够全！奉劝楼主还是保存在wstring中更靠谱。

ipqtjmqj 2016-03-22

打赏
举报

引用 2 楼 ipqtjmqj 的回复:

先弄清楚你的unicode是utf-16小端,还是utf-8. 然后查询unicode中的汉字, 标点的编码范围.我记得汉字基本区的范围是4e00~9ffc,还有扩展A,B,C,D,E,F区. 还有笔画, 康熙部首, 部首扩展,兼容,兼容扩展,这些都算作汉字. 中文标点: https://en.wikipedia.org/wiki/CJK_Symbols_and_Punctuation

中文标点补充, 全角的：；！？在https://en.wikipedia.org/wiki/Halfwidth_and_fullwidth_forms#In_Unicode

ipqtjmqj 2016-03-22

打赏
举报

先弄清楚你的unicode是utf-16小端,还是utf-8. 然后查询unicode中的汉字, 标点的编码范围.我记得汉字基本区的范围是4e00~9ffc,还有扩展A,B,C,D,E,F区. 还有笔画, 康熙部首, 部首扩展,兼容,兼容扩展,这些都算作汉字. 中文标点: https://en.wikipedia.org/wiki/CJK_Symbols_and_Punctuation

xiaoxiaokun888 2016-03-22

打赏
举报

保存在string中

c++中获取中文、英文、中文标点、英文标点的个数

相关推荐