去年以来，生成式AI持续升温，先有会作画的Midjorney和Stable Diffusion为生成式AI吸粉，后有聊天机器人ChatGPT火爆全网，仅2个月用户就破亿。这些应用的成功引爆了人们对生成式AI和大模型的热情，众多大公司纷纷跟进，今年以来就有百度的文心一言、阿里云的通义千问、微软的Copilot、谷歌的Bard等各种大模型先后问世，让人目不暇接，好不热闹。同时，更多企业也在考虑如何利用大模型来构建自己的智能化应用，然而生成式AI的高门槛阻挡了很多人的热情。

那么，普通企业是否也能研发自己的专用大模型，并基于此开发自己的应用，让自己也能尽早享受到生成式AI的技术红利？答案是肯定的。虽然大模型需要专业的研发人员，需要强大的算力，但有云计算作为算力保证，有已经可用的基础模型作为基础，有好用的开发工具的支持，大模型的门槛正在不断降低。如亚马逊云科技不久前推出了一套生成式AI新开发工具，借助它们，普通企业也可以快速构建起自己的生成式AI应用。我们相信，随着更多支持生成式AI普惠化的各种工具推出，生成式AI很快将迎来应用高潮。

推出基础模型，降低AI应用门槛

所谓生成式AI，是通过各种机器学习方法从数据中学习，进而生成全新的、完全原创的内容（如文字、图片、视频）的AI。这些生成的内容会和训练数据十分相似，但却不是简单地对学习数据进行复制，因此称其为生成式AI。生成式AI的能力是由基于大量数据进行预先训练的大模型提供的，它是生成式AI应用的关键。通过对大模型进行微调，或者不进行微调，就可以完成多个应用场景的任务。这些模型也可以通过学习面向特定领域的少量数据，生成面向特定行业的定制的基础模型。

大模型又称基础模型（Foundation Model），大模型参数规模最高可达百万亿级别，数据集达到TB量级。据报道，ChatGPT就包含了1750亿个参数，通过一个基于8000亿个单词的语料库（45TB的文本数据）进行训练。它正是通过对海量的语料或者图像进行知识抽取，对参数进行调整，从而才拥有强大的“智能”。

显然，大模型的门槛很高，是生成式AI应用普及的瓶颈之一。所幸的是，亚马逊云科技不久前刚刚推出了一项基础模型的托管服务Amazon Bedrock和预训练的基础模型Amazon Titan，大大降低了这一门槛。

Amazon Bedrock目前还处于预览版状态，它是客户使用基础模型构建和扩展生成式AI应用程序的最简单方法。Amazon Bedrock是一个新颖的完全托管服务，用于构建和扩展生成式AI应用。客户无需考虑算力和模型的部署，只要通过API就可以访问由Amazon Bedrock提供的预训练基础模型。目前已经集成了5个，包括AI21Labs、Anthropic和Stability AI等AI初创公司的预训练基础模型以及亚马逊云科技的2个Amazon Titan 模型。

亚马逊云科技大中华区产品部总经理陈晓建介绍说，Amazon Bedrock有5大特点：

1.   全托管的体验：Bedrock通过API提供无服务器的托管体验，客户无需担心实例类型、网络拓扑和端点等基础设施细节。

2.   轻松定制：客户只要在Amazon S3中提供少量（低至20个）带标签的示例，就可以轻松定制Bedrock的基础模型，用于其特定用例。

3.   以隐私思维构建：用于模型微调的客户专有数据不会用于训练基础模型，确保客户的工作成果不会让其它客户（包括竞争对手）受益。

4.   访问Amazon Titan基础模型：Amazon Bedrock是目前唯一访问该基础模型的方式。

5.   客户选择权：客户可以在亚马逊云科技和第三方合作伙伴的多个不同基础模型之间进行选择，这些基础模型都可以进一步定制以支持其特定用例。

目前，Amazon Titan系列提供了两个基础模型，未来几个月还会进一步去扩展。其中，Amazon Titan Text是基于总结文本生成、分类、开放式回答和信息提取等任务的生成式大语言模型。而Amazon Titan Embeddings是一个文本嵌入式的大语言模型，能够把文本的输入翻译成包含语义的数字表达。Amazon Titan Embeddings不生成文本而是对文字进行编码（消除歧义），以确保呈现的结果更准确，主要用于个性化推荐和搜索。

陈晓建表示，Amazon Titan基础模型预设了很多功能。比如，用于识别和删除用户提交的数据中有害的内容，拒绝用户输入不当的内容，比如仇恨、脏话和语言暴力等。目前，Amazon Titan模型都处于邀请测试状态。

丰富开发工具，加速AI应用落地

众所周知，生成式AI正在颠覆很多行业，从而影响很多人的工作和生活方式，应用开发正是其一。比如，ChatGPT已经能写一些简单的代码。亚马逊云科技推出的AI编程助手Amazon CodeWhisperer正是用于此目的，这样可以让开发人员把更多时间放到更有创造性的编程工作上。

Amazon CodeWhisperer是去年宣布推出的，目前已经正式可用了。Amazon CodeWhisperer正是利用了生成式AI技术，它通过内嵌的基础模型，可以根据开发者用自然语言描述的注释和集成开发环境（IDE）中的既有代码实时生成代码建议，从而提升开发者的生产效率。根据亚马逊云科技的测试，使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%，成功率高27%。

Amazon CodeWhisperer还是一个具备安全扫描能力的AI编程助手，可以用于发现一些非常难以查找的漏洞，并且提出补救建议。比如，找出Web应用程序中的漏洞以及不符合加密库最佳实践的一些漏洞等。

为了帮助开发者以负责任的方式开发代码，CodeWhisperer会过滤掉一些可能认为有偏见或者不公平的代码。另外，客户可能还需要对开源代码进行一些评估，比如在正式商用时是否由许可授权的问题，CodeWhisperer还是一个可以对可疑的开源代码进行过滤和标记的编程助手。

值得一提的是，Amazon CodeWhisperer只是亚马逊云科技为应用开发推出的一个新功能。亚马逊云科技还有一个功能强大的机器学习托管服务Amazon SageMaker，它覆盖机器学习应用的全流程，从数据标记、数据处理、特征存储、算法探索、模型推理到上线再到边缘端设备管理等为开发人员提供全过程支持。借助它，数据科学家和开发人员可以快速、轻松地构建和训练机器学习模型，然后直接将模型部署到生产就绪托管环境中。

专用AI芯片，降低算力成本

算力是人工智能应用的前提，对于生成式AI应用这一点体现得更为明显，尤其是采用大模型的生成式AI应用，模型参数多，需要的数据量大，这就意味着需要更大的存储空间、更多的计算资源、更高的带宽，这些最后都会归结到成本，最后会限制生成式AI的普及。

亚马逊云科技一直致力于降低相关成本，并为此研发了专用的AI芯片。亚马逊云可以目前有两种AI芯片，包括专用推理芯片Inferentia和专用训练芯片Trainium，与通用芯片（CPU、GPU）相比，计算效能明显提升。AI21 Labs、Anthropic、Cohere、Grammarly、Hugging Face、Runway、Stability AI 等AI初创公司都选择了亚马逊云科技，这是一个非常重要的原因。

最近，亚马逊云科技宣布Amazon EC2的Trn1n和Inf2两个实例正式可用。这两个实例分别基于亚马逊自研的Trainium训练芯片和第二代推理芯片Inferentia2。

和Trainium所支持的计算实例Trn1相比，新推出的Trn1n是一个网络增强型的新实例，比Trn1网络带宽提升了1倍，从之前的800GB变成了1.6TB，可以为大型的网络密集型的模型训练提供更好的支持。

Inf2是基于Inferentia2推出的第二代实例，相比第一代芯片不仅吞吐量提升了4倍、延迟降低了10倍，还实现了加速器之间的超高速网络连接。跟同类的Amazon EC2实例相比，这些性能把性价比提升了40%，并且把云中推理成本降到最低。

“客户在做定制化模型训练的时候，成本一定是不可忽视的因素。亚马逊云科技通过我们的自研芯片能力，通过我们多年发展的云能力，可以帮助用户很好地解决这一问题，从而推动生成式AI技术的普惠化。”陈晓建表示。