Semantic Kernel:Service内置服务

在SK中内置了一些服务，这些服务可以让我们的应用，简单的实例化调用，便拥有AI能力。

以OpenAI为例，SK中内置的OpenAI服务有：

内容生成服务：OpenAITextGenerationService
聊天服务：OpenAIChatCompletionService
文本转服务：OpenAITextToImageService
声音转文本服务：OpenAIAudioToTextService
文本转声音服务：OpenAITextToAudioService
文本嵌入向量服务：OpenAITextEmbeddingGenerationService

这些服务可以直接实例化使用，也可以配合Kernel使用。下面是一个TextGeneration服务使用方式，TextGeration只支持modelid为gpt-3.5-turbo-instruct的模型，具体实现如下：
using Microsoft.Extensions.Logging;
using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.ChatCompletion;
using Microsoft.SemanticKernel.Connectors.OpenAI;
using System.Text.Json;

var chatModelId = “gpt-3.5-turbo-instruct”;
var key = File.ReadAllText(@”C:\GPT\key.txt”);

var settings = new PromptExecutionSettings
{
ExtensionData = new Dictionary
{
[“max_tokens”] = 1000,
[“temperature”] = 0.2,
[“top_p”] = 0.8,
[“presence_penalty”] = 0.0,
[“frequency_penalty”] = 0.0
}
};
Console.WriteLine(“—————非流式—————“);
var textGenerationService = new OpenAITextGenerationService(chatModelId, key);
var textContents = await textGenerationService.GetTextContentsAsync(“用50个字描述一下.NET”, settings);
foreach (var textContent in textContents)
{
var usage = textContent?.Metadata?[“Usage”] as Azure.AI.OpenAI.CompletionsUsage;
if (usage != null)
{
var tokenStr = @$”====================Tokens==================
提示词Tokens数：{usage.PromptTokens}
返回内容Tokens数：{usage.CompletionTokens}
总Tokens数：{usage.TotalTokens}
===========================================”;
Console.WriteLine(tokenStr);
}
Console.WriteLine(textContent.Text);
}

Console.WriteLine(“—————流式—————“);
var streamTextContents = textGenerationService.GetStreamingTextContentsAsync(“用50个字描述一下C#”);
await foreach (var textContent in streamTextContents)
{
Console.Write(textContent.Text);
}
上面举了两种实现方式，阻塞式，一次性返回结果，流式，时时返回结果。
下面这些参数是用来精细控制OpenAI GPT模型在文本生成过程中的行为的：
max_tokens:这个参数定义了模型输出的最大词数（或者说是token数）。Token不仅仅是单词，还包括标点符号和空格等。这个限制帮助控制生成内容的长度。
temperature:这个参数用于控制输出的随机性或者创造性。温度值在0到1之间，较低的温度（如0.2或0.3）会让模型的输出更加可预测和稳定，而较高的温度（如0.8或1）会增加输出的随机性和多样性，但也可能导致文本的连贯性和相关性下降。
top_p (Nucleus Sampling):这个参数控制模型在选择下一个词时考虑的范围。例如，如果top_p设置为0.9，模型将只从概率累积到90%的那部分词中选择下一个词。这通常有助于保持文本的相关性同时还能保持一定的创意自由。
presence_penalty 和 frequency_penalty:这两个参数用于增加输出的多样性和降低重复性。presence_penalty增加了已出现过的词再次出现的代价，有助于避免重复同一主题或词汇。frequency_penalty类似，但它是基于词出现的频率来增加代价，频繁出现的词在后续生成中被选中的概率将降低。
这些参数的组合可以帮助调整生成文本的风格和质量，以适应不同的应用场景和需求。
关于其他服务，我们在后续的文章中使用说明。