使用Semantic Kernel来开启您的AI旅程

Semantic Kernel (SK) 是由微软开发的一款开源开发工具包,旨在帮助开发者和企业利用最新的人工智能技术构建更智能和复杂的AI驱动解决方案,例如检索增强生成 (RAG) 和智能体 (Agent)。 核心概念 内核(Kernel) 您可以将SK的内核视为一个容器,该容器包含您所需的所有与AI相关的组件,如提示语模板、AI服务和插件。如果将所有的服务和插件提供给内核,则AI会根据需求自动使用它们。SK还提供多项企业级功能,使您可以保证您的AI符合安全要求且在部署后能够持续监控AI的表现。 提示语(Prompt Engineering) 提示语在使用大型语言模型中至关重要。优质的提示语能够显著提升用户体验。SK通过提示语模板(template)的方式来实现自然语言与AI插件的混合使用,让您的提示语变得更加的灵活。 AI服务(AI Services) SK支持多种AI应用场景,包括对话补全,文本生成,嵌入(embedding)生成,图像与文字转换,以及音频与文字转换。此外,SK兼容多个AI服务提供商,如OpenAI,Azure,Google AI, Amazon Bedrock, 以及提供本地推理服务的Ollama等。 插件(Plugins/Functions) SK通过插件支持扩展大型语言模型的功能。插件可以是代码或自然语言,并可集成外部系统,如数据库、API或其他云服务,以便AI解决方案获取动态信息。 矢量存储(Vector Stores) 矢量存储可以被视为存储嵌入的数据库。许多现代数据库已开始提供矢量存储服务,这在构建RAG方案的检索步骤中扮演着重要角色。SK支持市场上大部分的矢量数据库,比如说Azure AI Search,Azure Cosmos DB,Qdrant,Redis, 和Weaviate等。 企业组件(Enterprise Components) SK自项目启动之初便将企业级AI解决方案作为首要目标。SK提供一系列功能以增强AI的安全性,包括筛选器(Filter)和可观察性(Observability)。筛选器可用于过滤提示语,确保不处理不安全的提示,并在生成式AI的回答到达终端用户前进行适当过滤。可观察性确保您在将AI部署到分布式系统时,仍能了解系统内部的运行状态,包括token的使用情况、函数的运行时间、以及大型语言模型的输入输出等。 框架 除了上述核心功能外,SK还提供一下框架,以帮助您构建更复杂的AI解决方案: 智能体框架:利用了SK生态创建和管理AI智能体。 业务流框架:利用了SK生态使企业能更有效地创建,管理和部署完整的AI业务流程。 关于这两个框架的详细介绍,我将在后续文章中单独阐述,敬请期待! 开始使用 目前,SK支持三种编程语言:C#,Python,和Java。SK的源代码托管在GitHub上。您可以访问我们的仓库以获取源代码,文档和开发示例: C#源代码:semantic-kernel/dotnet at main · microsoft/semantic-kernel C#示例:semantic-kernel/dotnet/samples at main · microsoft/semantic-kernel Python源代码:semantic-kernel/python at main · microsoft/semantic-kernel […]

AI-Powered Insights: Streamlining Variable Analysis with GitHub Copilot in Visual Studio

Tired of spending countless hours troubleshooting errors and unexpected values in your code? Visual Studio 2022 introduces GitHub Copilot Variable Analysis. This powerful tool makes inspecting and analyzing variables from Locals, Autos, watch windows and DataTips effortless, helping you solve issues faster and cutting down on time and frustration. Enhanced Debugging Experience Debugging can often […]

How to subscribe to GitHub Enterprise with Advanced Security and Copilot Business/Enterprise: A Step-by-Step Guide

As GitHub announced metered billing, anyone with an active Azure subscription can now self-provision a paid GitHub Enterprise Cloud account, with Advanced Security and GitHub Copilot Business/Enterprise. This post is a screenshot-based step-by-step guide on how you can do so. Pre-requisites Before we get started, ensure that you have the following: An active Microsoft Azure […]