20212305 2023-2024-2 《移动平台开发与实践》第6次作业

[20212305杨贯宇]

20212305 2023-2024-2 《移动平台开发与实践》第6次作业

1.实验内容

设计并开发一个语音识别应用系统。
通过使用RecognizerIntent实现语音识别功能，开发一个Android语音识别系统。

2.实验过程

2.1下载对应的SDK

访问https://www.xfyun.cn/?jump=login
进行注册，实名认证

下载并解压SDK

2.2 导入

创建新项目

导入libs,把Msc.jar "Add as library"

在项目“/module/src/main/”下新建JniLibs文件夹，将”/Demo/libs/“下存放so文件的文件夹复制过去
将“Demo/scr/main/assets/”下的文件以及样例中的两个库函数复制到项目对应文件夹下

2.3 编写代码

MainActivity.java

package com.example.xunfei;
 
import androidx.appcompat.app.AppCompatActivity;
 
import android.annotation.SuppressLint;
import android.app.AlertDialog;
import android.os.Bundle;
import android.os.Environment;
import android.os.Handler;
import android.os.Message;
import android.util.Log;
import android.view.View;
import android.widget.Button;
import android.widget.EditText;
import android.widget.Toast;
 
import com.iflytek.cloud.ErrorCode;
import com.iflytek.cloud.InitListener;
import com.iflytek.cloud.RecognizerListener;
import com.iflytek.cloud.RecognizerResult;
import com.iflytek.cloud.SpeechConstant;
import com.iflytek.cloud.SpeechError;
import com.iflytek.cloud.SpeechRecognizer;
//import com.iflytek.cloud.SpeechUtility;
import com.iflytek.cloud.SpeechUtility;
import com.iflytek.cloud.ui.RecognizerDialog;
import com.iflytek.cloud.ui.RecognizerDialogListener;
 
import org.json.JSONException;
import org.json.JSONObject;
 
import java.util.ArrayList;
import java.util.HashMap;
import java.util.LinkedHashMap;
 
public class MainActivity extends AppCompatActivity implements View.OnClickListener {
 
    private static final String TAG = "MainActivity";
    // 语音听写对象
    private SpeechRecognizer mIat;
    // 语音听写UI
    private RecognizerDialog mIatDialog;
    // 用HashMap存储听写结果
    private HashMap<String, String> mIatResults = new LinkedHashMap<>();
    private EditText mResultText;
    private Button languageText, dialogButton;
    // 语言类型【默认中文】
    private String language = "zh_cn";
    // 格式类型【默认json】
    private String resultType = "json";
    private boolean cyclic = false;//音频流识别是否循环调用
    //拼接字符串
    private StringBuffer buffer = new StringBuffer();
    //Handler码
    private int handlerCode = 0x123;
    // 函数调用返回值
    private int resultCode = 0;
    // 切换中英文
    private boolean languageType;
    // 弹框是否显示
    private int dialogType;
 
    @Override
    protected void onCreate(Bundle savedInstanceState) {
        super.onCreate(savedInstanceState);
        setContentView(R.layout.activity_main);

        SpeechUtility.createUtility(this, "appid=140a6db1");
        //初始化控件9a7fa371
        findViewById(R.id.iat_recognize).setOnClickListener(this);
        findViewById(R.id.iat_stop).setOnClickListener(this);
        findViewById(R.id.iat_cancel).setOnClickListener(this);
        mResultText = this.findViewById(R.id.iat_text);
        mIat = SpeechRecognizer.createRecognizer(this, mInitListener);
        mIatDialog = new RecognizerDialog(MainActivity.this, mInitListener);
    }
 
    @SuppressLint("NonConstantResourceId")
    @Override
    public void onClick(View view) {
        if (null == mIat) {
            // 创建单例失败，与 21001 错误为同样原因，
            // 参考 http://bbs.xfyun.cn/forum.php?mod=viewthread&tid=9688
            showToast("创建对象失败，请确认 libmsc.so 放置正确，且有调用 createUtility 进行初始化");
            return;
        }
        int id = view.getId();// 开始听写
// 如何判断一次听写结束：OnResult isLast=true 或者 onError
        if (id == R.id.iat_recognize) {
            buffer.setLength(0);//长度清空
            mResultText.setText(null);// 清空显示内容
            mIatResults.clear();//清除存贮结果
            // 设置参数
            setParam();
            if (dialogType == 0) {
                // 显示听写对话框
                mIatDialog.setListener(mRecognizerDialogListener);
                mIatDialog.show();
                showToast("开始听写");
            } else if (dialogType == 1) {
                // 不显示听写对话框
                resultCode = mIat.startListening(mRecognizerListener);
                if (resultCode != ErrorCode.SUCCESS) {
                    showToast("听写失败,错误码：" + ",请点击网址https://www.xfyun.cn/document/error-code查询解决方案");
                } else {
                    showToast("开始听写");
                }
            } else if (dialogType == 2) {
                // 自定义听写对话框
                showAlertDialog();
                resultCode = mIat.startListening(mRecognizerListener);
                if (resultCode != ErrorCode.SUCCESS) {
                    showToast("听写失败,错误码：" + ",请点击网址https://www.xfyun.cn/document/error-code查询解决方案");
                } else {
                    showToast("开始听写");
                }
            }
 
        } else if (id == R.id.iat_stop) {
            mIat.stopListening();
            showToast("停止听写");
            // 取消听写
        } else if (id == R.id.iat_cancel) {
            mIat.cancel();
            showToast("取消听写");
            //            //默认显示弹框
//            case R.id.dialogButton:
//                if (dialogType == 0) {
//                    dialogType = 1;
//                    dialogButton.setText("不显示讯飞弹框");
//                } else if (dialogType == 1) {
//                    dialogType = 2;
//                    dialogButton.setText("显示自定义弹框");
//                } else if (dialogType == 2) {
//                    dialogButton.setText("显示讯飞弹框");
//                    dialogType = 0;
//                }
//                break;
        }
    }
 
    /**
     * 初始化监听器。
     */
    private InitListener mInitListener = new InitListener() {
 
        @Override
        public void onInit(int code) {
            Log.e(TAG, "SpeechRecognizer init() code = " + code);
            if (code != ErrorCode.SUCCESS) {
                showToast("初始化失败，错误码：" + code + ",请点击网址https://www.xfyun.cn/document/error-code查询解决方案");
            }
        }
    };
 
    /**
     * 听写监听器。
     */
    private RecognizerListener mRecognizerListener = new RecognizerListener() {
 
        @Override
        public void onBeginOfSpeech() {
            // 此回调表示：sdk内部录音机已经准备好了，用户可以开始语音输入
            showToast("开始说话");
        }
 
        @Override
        public void onError(SpeechError error) {
            // Tips：
            // 错误码：10118(您没有说话)，可能是录音机权限被禁，需要提示用户打开应用的录音权限。
            showToast(error.getPlainDescription(true));
            if (null != dialog) {
                dialog.dismiss();
            }
        }
 
        @Override
        public void onEndOfSpeech() {
            // 此回调表示：检测到了语音的尾端点，已经进入识别过程，不再接受语音输入
            showToast("结束说话");
            if (null != dialog) {
                dialog.dismiss();
            }
        }
 
        @Override
        public void onResult(RecognizerResult results, boolean isLast) {
            Log.e(TAG, "onResult: " + results.getResultString());
            if (resultType.equals(resultType)) {
                printResult(results);
            } else if (resultType.equals("plain")) {
                buffer.append(results.getResultString());
                mResultText.setText(buffer.toString());
                mResultText.setSelection(mResultText.length());
            }
            if (isLast & cyclic) {
                // TODO 最后的结果
                Message message = Message.obtain();
                message.what = handlerCode;
                handler.sendMessageDelayed(message, 100);
            }
        }
 
        @Override
        public void onVolumeChanged(int volume, byte[] data) {
            //showToast("当前正在说话，音量大小：" + volume);
            Log.e(TAG, "onVolumeChanged: " + data.length);
        }
 
        @Override
        public void onEvent(int eventType, int arg1, int arg2, Bundle obj) {
            // 以下代码用于获取与云端的会话id，当业务出错时将会话id提供给技术支持人员，可用于查询会话日志，定位出错原因
            // 若使用本地能力，会话id为null
            // if (SpeechEvent.EVENT_SESSION_ID == eventType) {
            //    String sid = obj.getString(SpeechEvent.KEY_EVENT_SESSION_ID);
            //    Log.d(TAG, "session id =" + sid);
            // }
        }
    };
 
    private Handler handler = new Handler() {
        @Override
        public void handleMessage(Message msg) {
            super.handleMessage(msg);
            if (msg.what == handlerCode) {
                executeStream();
            }
        }
    };
 
    /**
     * 听写UI监听器
     */
    private RecognizerDialogListener mRecognizerDialogListener = new RecognizerDialogListener() {
        /**
         * 识别回调成功
         */
        public void onResult(RecognizerResult results, boolean isLast) {
            printResult(results);
        }
 
        /**
         * 识别回调错误.
         */
        public void onError(SpeechError error) {
            showToast(error.getPlainDescription(true));
        }
    };
 
    /**
     * 打印听写结果
     */
    private void printResult(RecognizerResult results) {
        String text = com.iflytek.speech.util.JsonParser.parseIatResult(results.getResultString());
        String sn = null;
        // 读取json结果中的sn字段
        try {
            JSONObject resultJson = new JSONObject(results.getResultString());
            sn = resultJson.optString("sn");
        } catch (JSONException e) {
            e.printStackTrace();
        }
        mIatResults.put(sn, text);
        StringBuffer resultBuffer = new StringBuffer();
        for (String key : mIatResults.keySet()) {
            resultBuffer.append(mIatResults.get(key));
        }
        mResultText.setText(resultBuffer.toString());
        mResultText.setSelection(mResultText.length());
    }
 
    /**
     * 听写参数设置
     */
    public void setParam() {
        // 清空参数
        mIat.setParameter(SpeechConstant.PARAMS, null);
        // 设置听写引擎类型
        mIat.setParameter(SpeechConstant.ENGINE_TYPE, SpeechConstant.TYPE_CLOUD);
        // 设置返回结果格式【目前支持json,xml以及plain 三种格式，其中plain为纯听写文本内容】
        mIat.setParameter(SpeechConstant.RESULT_TYPE, resultType);
        //目前Android SDK支持zh_cn：中文、en_us：英文、ja_jp：日语、ko_kr：韩语、ru-ru：俄语、fr_fr：法语、es_es：西班牙语、
        // 注：小语种若未授权无法使用会报错11200，可到控制台-语音听写（流式版）-方言/语种处添加试用或购买。
        mIat.setParameter(SpeechConstant.LANGUAGE, language);
        // 设置语言区域、当前仅在LANGUAGE为简体中文时，支持方言选择，其他语言区域时，可把此参数值设为mandarin。
        // 默认值：mandarin，其他方言参数可在控制台方言一栏查看。
        mIat.setParameter(SpeechConstant.ACCENT, "mandarin");
        //获取当前语言（同理set对应get方法）
        Log.e(TAG, "last language:" + mIat.getParameter(SpeechConstant.LANGUAGE));
        //此处用于设置dialog中不显示错误码信息
        //mIat.setParameter("view_tips_plain","false");
        //开始录入音频后，音频后面部分最长静音时长，取值范围[0,10000ms]，默认值5000ms
        mIat.setParameter(SpeechConstant.VAD_BOS, "5000");
        // 设置语音后端点:后端点静音检测时间，即用户停止说话多长时间内即认为不再输入， 自动停止录音取值范围[0,10000ms]，默认值1800ms。
        mIat.setParameter(SpeechConstant.VAD_EOS, "1800");
        // 设置标点符号,设置为"0"返回结果无标点,设置为"1"返回结果有标点
        mIat.setParameter(SpeechConstant.ASR_PTT, "1");
        // 设置音频保存路径，保存音频格式支持pcm、wav，设置路径为sd卡请注意WRITE_EXTERNAL_STORAGE权限
        mIat.setParameter(SpeechConstant.AUDIO_FORMAT, "wav");
        mIat.setParameter(SpeechConstant.ASR_AUDIO_PATH, Environment.getExternalStorageDirectory() + "/msc/helloword.wav");
    }
 
    //执行音频流识别操作
    private void executeStream() {
        buffer.setLength(0);
        mResultText.setText(null);// 清空显示内容
        mIatResults.clear();
        //设置参数
        setParam();
        //设置音频来源为外部文件
        mIat.setParameter(SpeechConstant.AUDIO_SOURCE, "-1");
        mIat.setParameter(SpeechConstant.LANGUAGE, language);
        //也可以像以下这样直接设置音频文件路径识别（要求设置文件在sdcard上的全路径）：
        //mIat.setParameter(SpeechConstant.AUDIO_SOURCE, "-2");
        //mIat.setParameter(SpeechConstant.ASR_SOURCE_PATH, "sdcard/XXX/XXX.pcm");
        resultCode = mIat.startListening(mRecognizerListener);
        if (resultCode != ErrorCode.SUCCESS) {
            showToast("识别失败,错误码：" + resultCode + ",请点击网址https://www.xfyun.cn/document/error-code查询解决方案");
        } else {
            byte[] audioData = com.iflytek.speech.util.FucUtil.readAudioFile(MainActivity.this, "iattest.wav");
            if (null != audioData) {
                showToast("开始音频流识别");
                // 一次（也可以分多次）写入音频文件数据，数据格式必须是采样率为8KHz或16KHz（本地识别只支持16K采样率，云端都支持），位长16bit，单声道的wav或者pcm
                // 写入8KHz采样的音频时，必须先调用setParameter(SpeechConstant.SAMPLE_RATE, "8000")设置正确的采样率
                // 注：当音频过长，静音部分时长超过VAD_EOS将导致静音后面部分不能识别。
                ArrayList<byte[]> bytes = com.iflytek.speech.util.FucUtil.splitBuffer(audioData, audioData.length, audioData.length / 3);
                for (int i = 0; i < bytes.size(); i++) {
                    mIat.writeAudio(bytes.get(i), 0, bytes.get(i).length);
                    try {
                        Thread.sleep(1000);//休眠1秒
                    } catch (Exception e) {
                    }
                }
                //mIat.writeAudio(audioData, 0, audioData.length );
                mIat.stopListening();
            } else {
                mIat.cancel();
                showToast("读取音频流失败");
            }
        }
    }
 
    @Override
    protected void onResume() {
        // 开放统计 移动数据统计分析
      /*FlowerCollector.onResume(MainActivity.this);
      FlowerCollector.onPageStart(TAG);*/
        super.onResume();
    }
 
    @Override
    protected void onPause() {
        // 开放统计 移动数据统计分析
        super.onPause();
    }

    private void showToast(final String str) {
        Toast.makeText(this, str, Toast.LENGTH_SHORT).show();
    }
 
    private AlertDialog dialog;
 
    private void showAlertDialog() {
        dialog = new AlertDialog.Builder(this)
                .setTitle("自定弹框")//标题
                .setMessage("正在识别，请稍后...")//内容
                .setIcon(R.mipmap.ic_launcher)//图标
                .create();
        dialog.show();
    }
}

activity_main.xml

<?xml version="1.0" encoding="utf-8"?>
<LinearLayout xmlns:android="http://schemas.android.com/apk/res/android"
    android:layout_width="match_parent"
    android:layout_height="match_parent"
    android:background="#FFFFFF"
    android:gravity="center_horizontal"
    android:orientation="vertical"
    android:paddingLeft="10dp"
    android:paddingRight="10dp">
 
    <TextView
        android:layout_width="wrap_content"
        android:layout_height="wrap_content"
        android:layout_centerInParent="true"
        android:layout_margin="15dp"
        android:text="讯飞听写示例"
        android:textSize="30sp" />

    <EditText

        android:id="@+id/iat_text"
        android:layout_width="match_parent"
        android:layout_height="0dp"
        android:layout_weight="1"
        android:gravity="top|left"
        android:paddingBottom="10dp"
        android:textColorHint="@color/black"
        android:textColor="@color/black"
        android:textSize="20sp" />
 
    <LinearLayout
        android:layout_width="match_parent"
        android:layout_height="wrap_content"
        android:layout_marginTop="10dp"
        android:layout_marginBottom="2dp"
        android:gravity="center_horizontal"
        android:orientation="horizontal">
 
        <Button
            android:id="@+id/iat_recognize"
            android:layout_width="0dp"
            android:layout_height="wrap_content"
            android:layout_weight="1"
            android:text="开始"
            android:textSize="20sp" />
 
        <Button
            android:id="@+id/iat_stop"
            android:layout_width="0dp"
            android:layout_height="wrap_content"
            android:layout_weight="1"
            android:text="停止"
            android:textSize="20sp" />
 
        <Button
            android:id="@+id/iat_cancel"
            android:layout_width="0dp"
            android:layout_height="wrap_content"
            android:layout_weight="1"
            android:text="取消"
            android:textSize="20sp" />
    </LinearLayout>
 
</LinearLayout>
 

3.实验结果

4.学习中遇到的问题及解决

问题1：部分代码报错
问题1解决方案：电脑没电关机了，等在打开后就出现了部分代码报错的问题，看到有同学和我一样出现类似的问题，是一些文件损坏了，就又把相应的部分重新做了一遍
问题2：电脑还没有关机之前进行实验时，几乎所有代码都在报错
问题2解决方案：在电脑没关机之前，代码总是报错，找了半天没明白错在哪儿，后来才发现我用的是java，可是最开始创建项目时自动选择了kotlin。

5.学习感悟

通过本次实验，我深刻体会到语音识别技术是一个包含音频处理、模式识别、自然语言处理等多重知识的复杂领域。在着手编写代码之前，我先阅读了实验指导手册，了解了RecognizerIntent，还看了其他同学是如何做实验的。在项目文件配置的过程中，我投入了大量精力，因为即便代码无误，若项目配置不当，程序仍无法顺利运行。最终成功完成实验，让我倍感成就。此外，作为移动平台开发与实践课程的最后一次实验，我衷心感谢老师的悉心指导与帮助，通过这门课程，我掌握了诸多开发基础知识，如安卓的四大组件等。课程的结束并不意味着学习的终止，我将持续努力，期待能将本次课程所学知识应用于未来的工作与生活中。