Jev模型推出,低成本标签生成替代LLM决策

在企业AI应用中,大量决策任务仍依赖昂贵的大型语言模型(LLM)生成文本后解析为标签。近日,TypeSafe公司发布Jev模型,主打快速判断功能,通过RLCD方式直接输出选择、概率和置信度,旨在以更低...

人工智能

在当今的企业级人工智能应用中,许多看似简单的决策任务,例如支持工单分类、交易异常检测或请求路由,实际上仍然高度依赖于大型语言模型(LLM)。这些模型被用来生成文本,然后系统再从生成的文本中提取出所需的标签。然而,这种做法不仅成本高昂,而且效率低下,因为许多任务本质上只需要一个简单的标签而非完整的文本输出。

针对这一痛点,TypeSafe公司近日推出了名为Jev的新模型。该模型由前OpenAI核心研究人员Diogo Almeida创立,其设计思路与传统的LLM截然不同。Jev专注于“快速思考”(Fast Thinking),仅负责对输入数据进行判断并直接输出结果,包括选择、概率和置信度等信息,而完全不生成任何文本内容。

"我们看到很多企业在使用LLM时,其实只需要一个简单的标签,但为了得到这个标签,却不得不运行整个复杂的语言模型,"Diogo Almeida在接受采访时表示。"Jev的设计目标就是简化这个过程,提供一种更高效、更经济的解决方案。"

Jev的核心技术基于RLCD(Reinforcement Learning from Corrective Demonstrations)方法,这是一种不同于传统RLHF(Reinforcement Learning from Human Feedback)的训练方式。与RLHF通过收集人类偏好来优化模型不同,RLCD专注于让模型学会如何做出正确的判断,而不是迎合人类的偏好。

"Jev并不是要取代现有的LLM,而是提供一个补充性的工具,"Diogo Almeida解释说。"它特别适合那些只需要简单判断的任务,比如分类、筛选或优先级排序。对于这些任务,Jev可以以更低的成本和更高的效率完成。"

Jev的推出引发了业界的广泛关注。Foundation Capital合伙人Jaya Gupta将Jev视为一场“智能大拆分”的开始,他认为随着AI技术的发展,越来越多的任务将被分解为更小、更专业化的模块,每个模块都可以用最适合的技术来实现。

"过去几年,我们看到的是‘越大越强’的模型趋势,"Gupta表示。"但现在,随着像Jev这样的新模型出现,我们可能会看到另一种趋势:‘越专越好’。"

目前,Jev已经完成了由DCVC领投的4000万美元种子轮融资,并计划在未来几个月内推出商业化产品。TypeSafe公司表示,他们正在与多家企业合作,测试Jev在实际业务场景中的表现,特别是在需要大量标签生成的领域,如客户服务、金融风控和供应链管理等。

图2

"我们相信,Jev将为企业AI应用带来革命性的变化,"Diogo Almeida总结道。"通过降低标签生成的成本和提高效率,我们可以帮助企业更好地利用AI技术,同时减少不必要的开支。"

图1展示了传统AI处理流程中大量文本生成和标签提取的过程,形象地说明了当前企业AI应用中存在的效率问题。

图2是Jev模型的视觉标识,代表了这款新型AI工具的核心理念——快速、精准的判断能力。

图3对比了传统软件、即时软件和智能软件在训练和部署方面的差异,突出了Jev所代表的智能软件发展方向。