【书生·浦语】internlm2-chat-1.8b实战教程：用Ollama构建本地化AI客服原型

本文介绍如何使用Ollama快速部署internlm2-chat-1.8b模型，构建一个本地化的AI客服系统原型，无需复杂配置，10分钟即可上手。

1. 环境准备与快速部署

在开始之前，我们先简单了解一下今天要用到的工具和模型。

Ollama是一个开源的本地大模型运行框架，它让普通用户也能轻松在个人电脑上运行各种AI模型，不需要复杂的技术背景。就像在手机上下载APP一样简单。

internlm2-chat-1.8b是书生·浦语团队开发的18亿参数对话模型，专门针对聊天场景优化。它虽然体积小巧，但在理解指令、多轮对话方面表现不错，特别适合做客服机器人这类应用。

1.1 系统要求

要顺利运行这个模型，你的电脑需要满足以下配置：

• 操作系统：Windows 10/11、macOS 10.15+ 或 Linux Ubuntu 18.04+
• 内存：至少8GB RAM（推荐16GB以获得更好体验）
• 存储空间：5GB可用空间（用于存放模型文件）
• 显卡：可选，有独立显卡（如NVIDIA GTX 1060以上）会运行更快

1.2 安装Ollama

根据你的操作系统，选择对应的安装方式：

Windows系统：

1. 访问Ollama官网下载Windows版本安装包
2. 双击安装包，按照提示完成安装
3. 安装完成后，Ollama会自动在后台运行

macOS系统：

# 使用Homebrew安装
brew install ollama

# 或者下载dmg安装包手动安装

Linux系统：

# 使用一键安装脚本
curl -fsSL https://ollama.com/install.sh | sh

安装完成后，打开命令行终端，输入ollama --version，如果显示版本号说明安装成功。

2. 部署internlm2-chat-1.8b模型

现在我们来部署核心的AI模型，这个过程非常简单。

2.1 拉取模型文件

在命令行中执行以下命令：

ollama pull internlm2:1.8b

这个命令会从Ollama的模型库中下载internlm2-chat-1.8b模型。下载时间取决于你的网络速度，通常需要5-15分钟。

2.2 验证模型安装

下载完成后，运行以下命令测试模型是否正常工作：

ollama run internlm2:1.8b

然后在出现的提示符后输入"你好"，如果模型能够正常回复，说明安装成功。按Ctrl+D退出测试。

3. 构建基础客服系统

有了运行正常的模型，我们现在来构建一个简单的客服系统原型。

3.1 创建客服对话脚本

创建一个名为customer_service.py的文件，输入以下代码：

import requests
import json

class AICustomerService:
    def __init__(self):
        self.api_url = "http://localhost:11434/api/generate"
        self.model_name = "internlm2:1.8b"
        
    def generate_response(self, user_input, conversation_history=[]):
        """生成客服回复"""
        # 构建客服专用的提示词
        prompt = f"""你是一个专业的在线客服助手，请用友好、专业的态度回答用户问题。

对话历史：
{conversation_history}

当前问题：{user_input}

请提供有帮助的回复："""
        
        payload = {
            "model": self.model_name,
            "prompt": prompt,
            "stream": False
        }
        
        try:
            response = requests.post(self.api_url, json=payload)
            result = response.json()
            return result["response"]
        except Exception as e:
            return f"抱歉，服务暂时不可用：{str(e)}"

# 使用示例
if __name__ == "__main__":
   客服 = AICustomerService()
   
   # 模拟客服对话
   questions = [
       "你们公司的退货政策是什么？",
       "商品质量有问题怎么办？",
       "运费怎么计算？"
   ]
   
   for question in questions:
       print(f"用户：{question}")
       response = 客服.generate_response(question)
       print(f"客服：{response}")
       print("-" * 50)

3.2 运行客服系统

首先确保Ollama服务正在运行，然后在命令行中执行：

python customer_service.py

你会看到模型针对不同的客服常见问题生成了相应的回复。

4. 进阶功能实现

基础客服系统运行起来后，我们可以添加一些实用功能来提升体验。

4.1 添加多轮对话记忆

真实的客服对话需要记住之前的交流内容，修改我们的脚本：

class AICustomerService:
    def __init__(self):
        self.api_url = "http://localhost:11434/api/generate"
        self.model_name = "internlm2:1.8b"
        self.conversation_history = []
    
    def add_to_history(self, role, message):
        """添加对话到历史记录"""
        self.conversation_history.append(f"{role}：{message}")
        # 保持最近10轮对话，避免过长
        if len(self.conversation_history) > 20:
            self.conversation_history = self.conversation_history[-20:]
    
    def generate_response(self, user_input):
        """生成考虑对话历史的回复"""
        self.add_to_history("用户", user_input)
        
        prompt = f"""作为客服助手，请根据对话历史回应用户问题。

对话历史：
{"\n".join(self.conversation_history)}

请提供专业、有帮助的回复："""
        
        payload = {
            "model": self.model_name,
            "prompt": prompt,
            "stream": False
        }
        
        try:
            response = requests.post(self.api_url, json=payload)
            result = response.json()
            ai_response = result["response"]
            self.add_to_history("客服", ai_response)
            return ai_response
        except Exception as e:
            return f"系统暂时无法响应：{str(e)}"

4.2 添加简单Web界面

为了让客服系统更易用，我们可以创建一个简单的网页界面。创建app.py：

from flask import Flask, render_template, request, jsonify
import requests

app = Flask(__name__)

@app.route('/')
def index():
    return render_template('chat.html')

@app.route('/chat', methods=['POST'])
def chat():
    user_message = request.json.get('message')
    
    # 调用Ollama API
    payload = {
        "model": "internlm2:1.8b",
        "prompt": f"作为客服助手，请专业地回答：{user_message}",
        "stream": False
    }
    
    try:
        response = requests.post("http://localhost:11434/api/generate", json=payload)
        result = response.json()
        return jsonify({"response": result["response"]})
    except Exception as e:
        return jsonify({"response": f"服务异常：{str(e)}"})

if __name__ == '__main__':
    app.run(debug=True, port=5000)

创建templates/chat.html：

<!DOCTYPE html>
<html>
<head>
    <title>AI客服系统</title>
    <style>
        .chat-container { max-width: 800px; margin: 0 auto; }
        .message { padding: 10px; margin: 5px; border-radius: 5px; }
        .user { background: #e3f2fd; text-align: right; }
        .assistant { background: #f5f5f5; }
    </style>
</head>
<body>
    <div class="chat-container">
        <h2>AI客服助手</h2>
        <div id="chat-messages"></div>
        <input type="text" id="user-input" placeholder="请输入您的问题...">
        <button onclick="sendMessage()">发送</button>
    </div>

    <script>
        async function sendMessage() {
            const input = document.getElementById('user-input');
            const message = input.value.trim();
            if (!message) return;
            
            // 添加用户消息
            addMessage('user', message);
            input.value = '';
            
            // 获取AI回复
            const response = await fetch('/chat', {
                method: 'POST',
                headers: { 'Content-Type': 'application/json' },
                body: JSON.stringify({ message: message })
            });
            
            const data = await response.json();
            addMessage('assistant', data.response);
        }
        
        function addMessage(role, text) {
            const div = document.createElement('div');
            div.className = `message ${role}`;
            div.textContent = text;
            document.getElementById('chat-messages').appendChild(div);
        }
    </script>
</body>
</html>

运行Web应用：

python app.py

然后在浏览器中访问http://localhost:5000，就可以通过网页界面与客服AI对话了。

5. 实用技巧与优化建议

在实际使用中，这里有一些提升客服效果的建议：

5.1 提示词优化技巧

好的提示词能让模型表现更好，针对客服场景可以这样优化：

def create_customer_service_prompt(user_input, history):
    return f"""你是{公司名称}的专业客服助手，请遵循以下准则：
1. 始终保持友好、耐心、专业的态度
2. 准确理解用户问题，提供具体解决方案
3. 如无法解决，引导用户联系人工客服
4. 回答要简洁明了，避免冗长

公司信息：
- 退货期限：30天内
- 客服时间：9:00-18:00
- 紧急联系：400-123-4567

对话历史：
{history}

用户问题：{user_input}

请提供有帮助的回复："""

5.2 常见问题处理

对于客服常见问题，可以设置标准回答模板：

common_questions = {
    "退货政策": "我们提供30天无理由退货服务，请保持商品完好并携带购买凭证。",
    "运费问题": "订单满99元免运费，不满99元收取10元运费。",
    "客服时间": "人工客服工作时间是工作日9:00-18:00，其他时间可留言。"
}

def check_common_questions(user_input):
    for keyword, response in common_questions.items():
        if keyword in user_input:
            return response
    return None

6. 常见问题解答

在实际部署和使用过程中，你可能会遇到以下问题：

Q：模型运行速度很慢怎么办？ A：可以尝试量化版本，使用ollama pull internlm2:1.8b-q4下载4位量化版本，体积更小速度更快。

Q：如何提高回答质量？ A：在提示词中提供更多上下文信息，明确客服角色和回答要求，设置回答格式模板。

Q：支持中文对话吗？ A：internlm2-chat-1.8b原生支持中文，在中文对话方面表现良好。

Q：可以部署到服务器吗？ A：完全可以，在云服务器上安装Ollama后，通过修改API地址（如http://服务器IP:11434）即可远程调用。

Q：如何扩展更多功能？ A：可以集成知识库检索、情感分析、多模态支持等功能，打造更智能的客服系统。

7. 总结

通过本教程，我们成功使用Ollama和internlm2-chat-1.8b构建了一个本地化的AI客服系统原型。这个方案有几个显著优势：

部署简单：只需要几条命令就能完成环境搭建，无需复杂配置 成本低廉：完全本地运行，无需支付API调用费用 隐私安全：所有数据都在本地处理，不会泄露对话内容 可定制性强：可以根据具体业务需求调整提示词和功能

虽然1.8B的模型在某些复杂场景下可能还有局限，但对于大多数基础客服需求已经足够使用。你可以在此基础上继续扩展，比如添加知识库检索、多轮对话管理、情感分析等功能，打造更加强大的智能客服系统。

最重要的是，这个方案让你完全掌控自己的AI客服系统，无需依赖外部服务商，既经济又安全。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。