企业官网建设流程全解析

系列文章目录

提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加
例如：第一章 Python 机器学习入门之pandas的使用

提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档

描述

文本生成 Web UI
用于大型语言模型的 Gradio Web UI。
其目标是成为文本生成的AUTOMATIC1111/stable-diffusion-webui 。
尝试 Deep Reason 扩展
● 在一个 UI/API 中支持多个文本生成后端，包括llama.cpp，Transformers，ExLlamaV3，ExLlamaV2，和TensorRT-LLM（后者通过其自己的Dockerfile）。
● 轻松设置：在 Windows/Linux/macOS 上为 GGUF 模型选择便携式版本（零设置，只需解压缩并运行），或者选择创建自包含installer_files目录的一键安装程序。
● 100% 离线和私密，无需遥测、外部资源或远程更新请求。
● 使用 Jinja2 模板自动格式化提示符。您无需担心提示符的格式。
● 文件附件：上传文本文件和PDF文档，讲述其内容。
● 网络搜索：可选择使用 LLM 生成的查询搜索互联网，为对话添加上下文。
● 具有深色和浅色主题的美观用户界面。
● instruct用于遵循指令的模式（如 ChatGPT）和chat-instruct用于chat与自定义角色交谈的模式。
● 随时编辑消息、在消息版本之间导航以及分支对话。
● 多种采样参数和生成选项，用于复杂的文本生成控制。
● 无需重新启动即可在 UI 中切换不同模型。
● GGUF 模型的自动 GPU 层（在 NVIDIA GPU 上）。
● 在默认/笔记本选项卡中生成自由格式的文本，而不仅限于聊天轮次。
● 与 Chat 和 Completions 端点兼容的 OpenAI API，包括工具调用支持 - 参见示例。
● 扩展支持，提供大量内置和用户贡献的扩展。详情请参阅wiki和extensions 目录。

安装方案

选项 1：便携式构建（从这里开始）

无需安装 – 只需解压并运行。兼容 Windows、Linux 和 macOS 上的 GGUF (llama.cpp) 模型。
下载地址：https://github.com/oobabooga/text-generation-webui/releases

选项 2：一键安装程序

1. 克隆或下载存储库。
2. 运行与您的操作系统匹配的脚本：start_linux.sh，start_windows.bat或start_macos.sh。
3. 当系统询问时，请选择您的 GPU 供应商。
4. 安装完成后，浏览至http://localhost:7860。
5. 玩得开心！
   稍后要重新启动 Web UI，只需运行相同的start_脚本即可。如果需要重新安装，请删除installer_files安装期间创建的文件夹，然后再次运行该脚本。
   您可以使用命令行标志，例如./start_linux.sh --help，或将其添加到user_data/CMD_FLAGS.txt（例如，–api启用 API 使用）。要更新项目，请运行update_wizard_linux.sh，update_wizard_windows.bat，或update_wizard_macos.sh。
   设置详细信息和有关手动安装的信息

一、使用 Conda 手动安装

如果您有使用命令行的经验，推荐使用

1.安装Conda
https://docs.conda.io/en/latest/miniconda.html

2.在 Linux 或 WSL 上，可以使用这两个命令自动安装（源）：

curl-sL"https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh">"Miniconda3.sh"bashMiniconda3.sh

3.创建新的conda环境

conda create-ntextgenpython=3.11conda activate textgen

4.安装Pytorch

二、使用步骤

1.引入库

代码如下（示例）：

import numpy as np import pandas as pd import matplotlib.pyplot as plt import seaborn as sns import warnings warnings.filterwarnings('ignore')import ssl ssl._create_default_https_context=ssl._create_unverified_context

2.读入数据

代码如下（示例）：

data=pd.read_csv('https://labfile.oss.aliyuncs.com/courses/1283/adult.data.csv')print(data.head())

该处使用的url网络请求的数据。

总结

提示：这里对文章进行总结：

例如：以上就是今天要讲的内容，本文仅仅简单介绍了pandas的使用，而pandas提供了大量能使我们快速便捷地处理数据的函数和方法。