IBM 最近发布了其最新的 Granite3.2 大型语言模型,旨在为企业和开源社区提供“小巧、高效、实用”的企业人工智能解决方案。该模型不仅具备多模态和推理能力,还提升了灵活性和成本效益,使得用户更容易采用。Granite3.2 的发布标志着 IBM 在人工智能领域的新突破,尤其是在企业级应用中的实用性和效率方面。
Granite3.2 引入了视觉语言模型(VLM),用于处理文档、进行数据分类和提取。IBM 声称,这一新模型在一些关键基准测试中,性能达到或超过了更大型的模型,如 Llama3.211B 和 Pixtral12B。此外,Granite3.2 的 8B 模型在标准数学推理基准测试中,也显示出能匹敌或超越更大模型的能力。这一突破使得 Granite3.2 在处理复杂任务时更加高效,同时降低了资源消耗。
为了提升推理能力,Granite3.2 的某些模型还具备“思维链”功能,能够阐明中间推理步骤。该功能虽然需要较大的计算能力,但用户可以根据需求随时启用或禁用,以优化效率并降低整体成本。IBM AI 研究副总裁 Sriram Raghavan 在发布会上表示,下一代人工智能的重点在于效率、整合与实际影响,让企业在不超支的情况下实现强大的成果。这一功能的引入,使得 Granite3.2 在处理复杂推理任务时更加透明和可解释。
除了推理能力的提升,Granite3.2 还推出了“Granite Guardian”安全模型的小型化版本,尽管体积缩减了 30%,但性能仍然保持在前一代模型的水平。此外,IBM 还引入了一种名为“可言语化信心”的能力,这种能力能够更细致地评估风险,并在安全监测中考虑不确定性。这一创新使得 Granite3.2 在安全性方面更加可靠,同时减少了资源占用。
Granite3.2 是在 IBM 的开源 Docling 工具包上训练的,该工具包允许开发者将文档转换为定制的企业 AI 模型所需的特定数据。模型训练过程中处理了 8500 万份 PDF 文件以及 2600 万个合成问答对,以增强 VLM 处理复杂文档工作流的能力。这一训练过程使得 Granite3.2 在处理大量文档时更加高效和准确。
IBM 还宣布推出下一代 TinyTimeMixers(TTM)模型,这是一种紧凑的预训练模型,专注于多变量时间序列预测,具备最长可达两年的长远预测能力。这一模型的推出,进一步扩展了 IBM 在时间序列分析领域的应用范围,为企业提供了更加精准的预测工具。
官方博客: https://www.ibm.com/new/announcements/ibm-granite-3-2-open-source-reasoning-and-vision
划重点:
Granite3.2 引入视觉语言模型,提升文档处理与数据提取能力。
新模型具备思维链功能,能够阐明推理过程,增强推理能力。
Granit Guardian 安全模型小型化 30%,但性能未受影响,同时推出可言语化信心的风险评估功能。