当前热门:whisper.cpp 1.4 发布,自动语音识别系统
2023-05-03 07:34:32    OSCHINA


(资料图)

Whisper 是 OpenAI 推出的一个自动语音识别(ASR)系统,whisper.cpp 则是 Whisper 模型的 C/C++ 移植。whisper.cpp 具有无依赖项、内存使用量低等特点,支持 Mac、Windows、Linux、iOS 和 Android 系统。

whisper.cpp 1.4 增加了整数量化(Integer quantization)和部分 GPU(NVIDIA)支持

整数量化

这可以让 ggmlWhisper 模型从默认的 16-bit 浮点权重转换为 4、5 或 8-bit 整数权重。

由此产生的量化模型在磁盘大小和内存使用方面更低,在某些架构上可以更快地处理,但转录质量在一定程度上会下降。

通过 cuBLAS 支持 GPU

使用 cuBLAS 的结果主要是提高 Encoder 的推理速度,与只用 CPU 处理相比,使用现代 NVIDIA GPU 的 Encoder 评估至少可以快 2-3 倍。

其他

可选择让 Whisper 的 Core ML 构建在有或没有 Core ML 模型的情况下工作 在 Android 项目文件夹的 readme 中添加一些提示 ggml:修复 32 位 ARM NEON ……

更多详情可查看:https://github.com/ggerganov/whisper.cpp/releases/tag/v1.4.0

关键词:

下一篇: 全球热消息:TheShy被安排退役,RNG中单四选一,LPL新爆料公开:TES不换上路
上一篇: 世界实时:热门中概股普跌:金山云跌超10% 哔哩哔哩跌逾7% 蔚来跌超4%股价再创逾2年半来新低

摩洛哥南部地震致至少296人遇难 血液中心呼吁民众积极献血

被蜱虫咬属于意外险吗?赔偿要提供什么材料?

2023国际高桥极限运动邀请赛举行

筹集5693套保租房 开建4267套棚改房 宜昌5000余“新市民”圆了“安居梦”

富士X100V迭代款将更新 配备新镜头

持续推进长三角一体化,沪苏水域交通组织一体化若干措施发布

【青视点】剑指“中国休闲体育之城” 莱西打算这么干

长城汽车魏建军转型中很擅长做“毫不犹豫”的事

幻想传说修复弓(幻想传说x)

祝贺!中国女乒包揽四强!王艺迪逆转伊藤美诚,日本女乒全军覆没

烧瓷器的失败作品“嘴硬壶”意外成网红 山东买家288元买下 2000元不愿意转让

“种黄花这条路走对啦!”

火山引擎ByteHouse上线ELT能力,进一步降低企业数字化维护成本

iFixit拆毁了三星的新款GalaxyS22和S22Ultra智能手机

600元可亲吻? 莫把“沉浸式消费”玩成“沉沦式消费”

今日车轱辘是什么意思饭圈(车轱辘话什么意思)

公职人员被儿子举报出轨朋友妻子 官方回应:已被停职并立案调查

人工智能赋能可持续投资

探索数字化普惠金融新路径

通辽市奈曼旗300MW风电项目二标段37台风机吊装完成

安卓将迈入2TB时代!三星Galaxy S24 Ultra首发:售价过万

亚盛集团:8月31日融资净买入276.08万元,连续3日累计净买入734万元

南京新百4140万预付款背后 交易对手疑为控股股东关联方

sw2018破解版详细安装教程云魔方(solidworks魔方云学院)

江苏南通可提供东芝洗碗机维修服务地址在哪

公大研招网 公大

世茂股份:截止8月底未能按期支付债务累计84.8亿元

8月31日超讯通信涨停分析:智能制造,5G,智慧物流概念热股

捷途大圣对比长安CS55 PLUS,谁高颜高配强动力,更讨年轻人欢心?

新城发展:一年内到期债务256.16亿元,确保每一笔债务提前或到期偿付

主板纺织股(主板纺织上市企业名单2023)

宋祖儿前公司否认实名举报 称未参与艺人纳税申报

9月1日起实施!呼和浩特市三部门联合通知

供应链人士称Wi-Fi 7出货将于2024年放量

首张水上加油站危化品经营许可证颁发 崇川区18家相关企业计划年底前全部领证

北京市全力以赴确保“课前到书,人手一册”迎开学