开源大语言模型 WebUI整合包 ChatGLM2-6B 和 WizardCod
大家好，今天给大家带来文本生成领域的外边UI。首先我们从网盘下来四个文件，
夸克：https://pan.quark.cn/s/dc28b2793557
百度：https://pan.baidu.com/s/15o5P29deCYUKyUHbWbibhw?pwd=n467
如果你没之前没有装过dnet6.0的话，你先运行这个文件。
之后的话，要把其他三个解压。解压之后的话，我们需要把我们的模型剪贴到web UI底下的models这个目录底下。
剪贴好了之后，然后双击我们的快速启动。
这个时候就可以看到在启动模型这里可以选择我们这个模型了。这个是chat GLM26B。
底下是写代码的模型。
首先我们今天第一个先看我们的chat GM2的6B的模型，然后点一键启动。如果你的显存低于8G的话，你需要把4比特或者八比特模式打开，经过一段时间的加载，然后就进入了我们的外网UI的界面。
01:00
首先我们试验一下chat GLM2的超长的上下文窗口。首先让我们点参数，这里2048。因为在之前的开源的大语言模型大部分都是2K的上下文。也就是说你的输入长度过长的话就会被截短。
01:22
然后这里也是2048，我们可以把它改小一点。比如说改128，改到128，那么我们让它翻译一段论文。来试一下。然后点这个按钮，黄色的按钮。然后我们就可以看到它的输出其实是一段乱码。因为它超过了我们的就是输你输入的文本超过了它的上下文窗口的长度。
01:54
好，这个时候我们再来参数这里把它改成2048。然后点重新生成。这里可以看到，它已经把我们输入的文本翻译成中文了。
02:11
接下来为大家演示超长上下文的一个优势。首先我把一个英文小说的片段输入进来了，让它翻译成中文。然后在参数这里可以看到我们的上下文窗口是2048。这么长的文本它是肯定不够的。我们点生成。可以看到它输出的全是乱码。
02:37
然后把我我们把我们的上下文本改成8000。然后再点重新生成，然后就可以看到它，可以正常的做翻译了。然后你可以点继续continue这个按钮，然后它就会接着上面的继续给你续写。
03:03
接下来让我们看第二个模型，第二个模型也就是写代码的，并且支持中文的。然后我们在启动模型这里选到第二个模型，这个15B的。接下来让我们测试我们的写代码的模型，然后这个模型也是可以使用中文的。然后在使用之前我们先要调一下参数，首先把这个参数调成一把这里top p改成0.75，然后把top k改成45，然后在这里把这个鸡调成4。调好了之后，我们给它写输入一段指令，就是说让它写一段HTMR代码。背景是黄色，当用户点击背景之后变成。红色。
04:01
好，接下来我们把代码复制到我们的。编辑器里，然后我们刷新一下这个网页，然后我们点一下，然后它就变成红色了。
04:24
然后你也可以让他帮你用中文去翻一下这些代码，然后我们把它拷到编辑器里。然后刷新一下，你看就变中文了，然后我们点一下。接下来我们再测试一个能力，让他写一顿PYTHON代码。然后我们让他写一段就是让用户输入邮箱，并且验证这个邮箱的格式的一段代码。然后我们运行一下这个代码。然后这里就可以帮你验证邮箱的格式，写一段验证邮箱格式的代码，然后我们也可以让它变成中文。然后我们再试一下。今天的内容到这里了，然后剩下的还靠大家来发掘了。
