faster-whisper:把 Whisper 提速 4 倍的开源转写工具,会议录音本地就能转文字

开源发现

faster-whisper:把 Whisper 提速 4 倍的开源转写工具,会议录音本地就能转文字

栏目:开源发现

语音转文字早就不是新鲜事,但很多人真正用起来都会卡在同一个地方:一段一小时的会议录音,官方原版 Whisper转完要等很久,电脑配置差一点更是转不动。SYSTRAN开源的 faster-whisper就是冲着这个痛点来的——它把 OpenAI的 Whisper模型用快速推理引擎 CTranslate2重新实现了一遍,准确率不变,速度最高快约4倍,内存占用还更小。 官方给出的实测数字很直观:转一段13分钟的音频,用 large-v2模型在显卡上跑,原版 Whisper要2分23秒,faster-whisper只要1分03秒,开批量模式更是压到17秒;没有显卡、用 CPU跑小模型时,原版要6分58秒,批量模式下只要1分06秒。再配合8-bit量化,速度还能进一步提升,对普通电脑也友好。 对普通用户来说,它的意义不只是“更快”。它可以在本地跑,录音不用上传到云端,转写这件事就变得更私密;它支持词级时间戳,每句话、每个词对应到第几秒都清清楚楚,做字幕、做会议纪要、剪播客都方便;它还内置了语音活动检测,能自动跳过没有人说话的静音段,省时间也省算力。安装也简单,一行 pip install faster-whisper就能装好,Python 3.9以上就能用,连系统装 FFmpeg这一步都省了。 当然也要说清楚边界:它本质上是个给开发者和爱折腾的用户准备的 Python库,不是开箱即用的手机 App;想要图形界面,得靠社区基于它做的那些工具,比如 WhisperX、aTrain、WhisperLive这类项目。显卡用户还要注意,最新版要求 CUDA 12和 cuDNN 9,老环境需要降一下依赖版本。 这个项目2023年2月就已开源,如今在 GitHub上已有2.6万多颗星,采用 MIT协议。它不算新面孔,却是很多本地转写工具背后的实际主力——会议记录、播客字幕、采访整理这些日常需求,越来越快、越来越便宜,靠的就是这类把已有模型“打磨得更好用”的工程。 相关链接: - GitHub仓库:https://github.com/SYSTRAN/faster-whisper