全速进化，Amazon Bedrock成为万能模子用具时期栈新典范

近两年，生成式AI发展日眉月异，当其他“参赛选手”还在单个大模子性能、耐力层面进行比拼时，亚马逊云科技凭借基础举止、模子用具和应用三层时期栈的全面部署，已经开动将生成式AI快速引入实质业务场景。

天然，Amazon Bedrock从推出到当今还不到一年，但用户数目已经呈现出畛域化增长态势。从亚马逊云科技re:Invent 2024大会发布来看，对于生成式AI的最新进展，不错用两个数字来空洞：汗牛充栋和5倍。如今，Amazon Bedrock已不仅仅大模子应用的磨砺场，而是已经成为承载实质业务的要道时期底座。据亚马逊云科技CEO Matt Garman先容，每天齐有上万的客户在分娩应用中使用Amazon Bedrock，仅客岁使用量就增长了近5倍。

Amazon Bedrock之是以快速取得多数用户认同，除了亚马逊云科技深谙客户痛点，在计策战术作念到独具只眼除外，更深脉络的原因是万能模子用具时期栈的多数干涉。在曩昔8个多月的时期里，亚马逊云科技对Amazon Bedrock（发布于2023年4月）进行了一系列要紧更新，况兼在大会时期聚拢髻布了21项新特质，这些新特质既包括模子罗致的全面升级，又包括本钱、速率、准确率的全面优化，以及业界备受善良的安全、多智能体互助等功能的全新进阶。

　　1、模子罗致全面升级

与诸多大模子公司比拟，Amazon Bedrock的各别化上风在于模子罗致的丰富性，这种按需罗致模子的面目，更易于独到数据的使用。

为了提供更千般化的罗致，进一步禁止大模子的使用门槛，亚马逊推出业内跳动大模子Amazon Nova系列。用户通过Amazon Bedrock不错探访Amazon Nova的6款模子，以支吾不同的使用场景。这些模子包括：1）文生文模子Amazon Nova Micro，不错以极低的本钱提供最低延伸的反映；2）本钱极低的多模态模子Amazon Nova Lite，在处理图像、视频和文本输入时速率极快；3）功能雄壮的多模态模子Amazon Nova Pro，在庸俗的任务中具有准确性、速率和本钱的最 佳组合；4）亚马逊多模态模子中最雄壮的模子Amazon Nova Premier，可用于复杂推理任务，并用作蒸馏自界说模子的最 佳教养模子；5）先进的图像生成模子Amazon Nova Canvas，可字据领导中提供的文本或图像创建专科级图像；6）先进视频生成模子Amazon Nova Reel，允许客户松懈地从文本和图像创建高质料视频。

咱们不错把Amazon Nova流露为是对标业界跳动大模子的Mini杯、中杯、大杯版，况兼这些大模子均来自亚马逊实质业务场景的考据，用户可省心使用。从大模子应用弘扬来看，Amazon Nova Micro、Lite和Pro在各自智能类别中不仅性能好，而且更低廉，价钱上至少低廉75%，是对应类别速率最快的模子。除了上述6款模子外，亚马逊还预报了另外两款新模子：一款是，预计在2025第一季度推出语音转语音模子；另一款是，在2025年中推出any to any模子。不错预测，2025年的Amazon Nova将成为“模界卷王”，通过新特质的全面升级，复旧用户实质业务场景的千般鼎新。

除了Amazon Nova系列模子在不同场景的部署，亚马逊云科技也在为接入更庸俗模子而发力。用户不错在Amazon Bedrock中探访Luma AI的Ray2、poolside的malibu和point、Stable Diffusion 3.5等新兴模子；通过最新推出的Amazon Bedrock Marketplace，亚马逊云科技还提供100+热点、新兴及专科模子的探访权限，比如Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微劳动等热点模子；包括更多更多专科模子，举例：金融行业的Writer的Palmyra-Fin、用于翻译的Upstage的Solar Pro、Camb.ai的文本转音频MARS6以及用于生物学的EvolutionaryScale的ESM3生成模子等。

从Amazon Bedrock、Amazon Nova以及之前的Amazon Titan扫数这个词模子眷属的发展标的来看，亚马逊云科技正在刚烈地践行“全家桶”策略。无论用户念念用生成式AI顾问哪些业务挑战，齐不错借助Amazon Bedrock找到恰当我方的那一款。

　　2、本钱、速率、准确率全面优化

加速鼓励大模子应用落地，除了模子罗致上存在问题，本钱、速率和准确率亦然一大挑战。

曩昔一年里，许多客户已经在作念多数场景履行，尝试把大模子应用引入实质业务。在亚马逊云科技大中华区家具部总司理陈晓建看来，2025年将迎来大模子应用落地的要道年，从原型考据阶段飘摇为分娩阶段，是大模子发展的必经之路。届时，客户需求将愈加复杂，不仅是罗致模子，还需要千般时期复旧。是以，Amazon Bedrock要贯通的作用是，不仅要提供模子，更进击的是提供模子推理运行时所需要的千般分娩力和分娩环境用具，这才是Amazon Bedrock的真的价值场合。

此种布景下，Amazon Bedrock提供了以下才略更新：

1） 领导词缓存功能。Amazon Bedrock现已复旧安全地缓存领导词，个股期权从而减少重迭处理，且不会影响准确性。对于受复旧的模子，此功能最高可将本钱禁止90%，并将延伸最多缩小85%。

2） 领导词智能路由功能。借助该功能，客户能成就 Amazon Bedrock 自动把领导词分派至兼并模子系列里的不同基础模子，以优化反映质料和本钱，况兼在不影响准确性的情况下，将本钱禁止多达30%。

3） 模子蒸馏功能。在多模子使用场景中，找到一个能均衡特定常识、本钱和延伸的最 佳组合并阻止易。大模子常识丰富，但反映慢、本钱高；小模子速率快、本钱低，可功能又不够雄壮。模子蒸馏能把大模子的常识改革到小模子上，同期保留小模子的性价比。仅仅这需要专科的机器学习常识来处理磨砺数据、手动微调模子，还得在不影响小模子性能的前提下调理模子权重。而有了Amazon Bedrock模子蒸馏功能，客户无谓专科的机器学习常识，就能字据我方的用例优化模子。与原始模子比拟，被蒸馏模子的速率不错提高500%，运行本钱禁止75%，在检索增强生成（RAG）等用例中，准确性失掉低于2%。

4） 低延伸优化推理功能。基于Amazon EC2 Trn2实例，哄骗最新硬件和软件优化，可在多模子上完了更好的推感性能。用户指定推理苦求优先级后，平台就不错自动处理，为复旧的指定模子提供优化的性能。

　　3、专有功能的再进化

要念念把大模子快速引入分娩场景，需要借助海量数据进行磨砺和学习。而常识库中的常识频频与特定领域或者任务密切臆想，因此具有更高的实用性，不错为大模子提供准确、全面的布景常识复旧，匡助大模子更好地流露和处理输入。

仅仅，传统的常识库只复旧结构化数据，很难被大模子快速使用。是以，Amazon Bedrock的常识库功能新增了对结构化数据和GraphRAG的复旧，并大约将非结构化多模态数据雷同为结构化数据，极地面禁止了数据处理的复杂性。

基于Amazon Bedrock常识库功能更新，用户大约更通俗地借助检索增强生成（RAG）来进步模子反映的准确性。同期，凭借对GraphRAG的复旧，常识库可让客户无需具备图数据库专科常识，即可使用Amazon Neptune图数据库劳动自动生成图谱，并跨数据连气儿各实体之间的关系，生成更具臆想性的反映。而在更具挑战的非结构化数据复旧上，Amazon Bedrock Data Automation功能大约快速且经济高效地从非结构化的数据文献中索要信息，并将其飘摇为结构化形状，以适用于智能文档处理、视频分析以及RAG等场景。

要念念进步大模子体验，除了要濒临常识库数据应用的挑战，还要顾问“幻觉”问题。以前大模子短少可证据事实的逻辑，导致出现幻觉时难以阅兵。有了Amazon Bedrock自动推理搜检功能后，可通过逻辑准确且可考据的推理来匡助防止因模子幻觉而导致的事实性缺欠。自动推理搜检功能通过Amazon Bedrock Guardrails提供，该功能可让Amazon Bedrock考据事实反映的准确性，生成可审计的输出，并向客户了了展示模子得出效果的原因，极地面进步了大模子应用的透明度，确保模子反映合乎客户的端正和政策，从而提高用户对生成式AI的信任。

预计畴昔，大模子能否畛域化走进企业的实质分娩场景，训诲的是多智体互助才略。凭借Amazon Bedrock多智能体互助功能，客户不错通过为项缱绻特定门径创建和分派专用智能体，从而取得更准确的效果，并通过编排多个并行责任的智能体来加速任务。举例：金融机构在使用智能体对一家公司进行投资考核时，不错使用 Amazon Bedrock智能体创建专注于特定任务的专用智能体，同期通过主宰智能体认真调和责任，并制定举座风险概况。

　小结

从模子罗致的全面升级，到本钱、速率、准确率全面优化，再到常识库、Agent智能体以及多智能体互助功能的再进化。不难发现，亚马逊云科技扫数鼎新齐围绕用户需求伸开，况兼每一条新特质齐平直切中当下生成式AI领域的痛点。性能并列世 界一流大模子，性价比轶群。走到今天，亚马逊云科技已不仅仅云劳动的第照旧受，更为万能模子用具时期栈的打造创立了新典范。

• 全速
• 金华
• Amazon
• Bedrock
• 成为