会员制购物APP
让生活更精致更美好！
Hi，请  登录  或  注册
当前位置：嘟买买博客 互联网 人工智能 正文

如何在部署Llama 3，拥有自己的本地AI大模型 私有大模型

2024-06-18 分类：人工智能 阅读() 评论(0)

以下版本为 Win 系统

Mac 操作方式一致，命令需要在终端中运行；

Ollama Github 主页

GitHub – ollama/ollama: Get up and running with Llama 3, Mistral, Gemma, and other large language models.

首先需要下载安装一个 Ollama 平台

Ollama  https://www.ollama.com

下载后解压安装，安装过程就不展示了

搜索电脑里的 启用或关闭 windows 功能

打开适用于 linux 的 windows 子系统，并重启电脑

重启电脑后，安装 Docker 桌面

www.docker.com

安装好后，需要再次重启电脑
重启后。继续安装

安装完成后，启动电脑命令提示符，输入一下命令。进行安装（Win系统）

大概下载时间为，10分钟左右
其实这一步只是为了，可以有一个类似ChatGPT的对话UI界面
官方具体说明如下：
https://github.com/open-webui/open-webui
https://docs.openwebui.com/migration
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

Mac 系统如下。在终端中运行
安装完成，打开地址 http://127.0.0.1:3000

任何邮箱都可以注册 OpenWebUI

登录后，可切换语言
切换到模型，搜索模型
目前国内外市场上主流开源模型这里都可以找到
选择模型版本号
复制模型名称
删除，模型名的前缀
开始进入下载
下载完成后，即可切换模型使用了
看到很多同学对于 Llama 3 中文理解不友好的问题，也找到了解决办法
是由 王慎执 博士微调后的中文版 Llama 3
以下为，huggingface主页
https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat
在搜索框搜索 shenzhi 即可找到
演示结果，不会出现英文
二次启动只需要，启动 Docker 桌面即可，并且可以完全断网使用
AD：【供应链全球解决方案】SpiderSupply
赞(0) 打赏
未经允许不得转载：嘟买买博客 » 如何在部署Llama 3，拥有自己的本地AI大模型
分享到

龙玄机

会员制购物APP

相关推荐

作者介绍

龙玄机

    阅读作者的全部文章

    文章目录

    • Ollama Github 主页
    • 首先需要下载安装一个 Ollama 平台
    • 搜索电脑里的 启用或关闭 windows 功能
    • 重启电脑后，安装 Docker 桌面
    • 安装完成后，启动电脑命令提示符，输入一下命令。进行安装（Win系统）
    • 任何邮箱都可以注册 OpenWebUI

    快讯

    • WordPress文章修订版本删除/关闭与设置保存版本次数 网站优化

      由于最近在做数据库优化，涉及到了WordPress文章修订版本。 什么是WordPress文章修订版本？ WordPress修订版本就是编辑或修改文章时自动保存生成一个修订版本，默认是每分钟1次，主要是方便恢复，初衷是好的，不过日积月累，会产生大量的冗余数据，加重服务器负担，拖慢数据加载。

      一、删除/关闭/禁止WordPress文章修订版本2种方法

      如果你跟我一样也要做数据库优化，你就会觉得该功能很鸡肋。 第一种方法：删除WordPress文章修订版本 我们可以将下面的代码添加到主题的 functions.php 中，刷新一下网页，会删除全部文章修订版本。 
      $wpdb->query( "
DELETE FROM $wpdb->posts WHERE post_type = 'revision'
" );
      注意：如果只是定期删除修订版本，就没必要将此代码留在主题中，可以在准备清理修订版本时再加到主题中。 第二种方法：关闭或禁用WordPress文章修订版本 可以在WordPress根目录下的 wp-config.php 添加： 
      //一个版本都不保存（即 禁用自动保存功能）
define('WP_POST_REVISIONS', false);

      二、设置WordPress文章修订版本 保存版本次数

      WordPress拥有自动保存文章的功能，防止突然掉线或主机故障等丢失文章，默认情况下是 30 秒保存一次，保留最后的 5 个文章版本。 如果你想修改这些默认设置，可以在WordPress根目录下的 wp-config.php 添加： 
      //保存 10 个版本
define('WP_POST_REVISIONS', 10);

    • XYplorer(多标签文件管理器) v27.00.0500 多语便携版

      XYplorer中文版是一款多标签文件管理器及增强资源管理器的工具,XYplorer文件管理器支持多标签页栏,管理文件时跟使用Chrome之类浏览器一样,从浏览方便性,和切换滑顺程度,要比Windows系统自带的Explorer资源管理器便捷得多.可以大部分程度上替代系统自带的文件管理器.同时,有浏览器快捷键和鼠标快捷.

      XYplorer(多标签文件管理器) v26.00.0000 多语便携版

      软件功能

      双窗口浏览：支持双窗口浏览，可以同时浏览两个文件夹，方便文件的复制、移动和比较。
      高级搜索：支持高级搜索功能，可以根据文件名、大小、日期、属性等多种条件进行搜索。
      标签和书签：支持标签和书签功能，可以方便地管理和访问常用文件和文件夹。
      自定义命令：支持自定义命令功能，可以自定义快捷键和命令，方便快速访问常用功能。
      文件预览：支持文件预览功能，可以在文件管理器中直接预览图片、音频、视频等文件。
      批量重命名：支持批量重命名功能，可以根据规则批量重命名文件和文件夹。
      文件比较：支持文件比较功能，可以比较两个文件或文件夹的差异。
      自动化操作：支持自动化操作功能，可以通过脚本实现自动化操作。

      新版变化

      XYplorer - What’s New
      https://www.xyplorer.com/whatsnew.php

      下载地址

      XYplorer(多标签文件管理器) v27.00.0500 多语便携版
      夸克云：https://pan.quark.cn/s/74cd9cf8c72c
      城通盘：https://url33.ctfile.com/d/2655733-58109013-e3817f?p=2023 (访问密码: 2023)
      百度云：https://pan.baidu.com/s/1xAvQHqxz8Trb0XrfFMCAEg?pwd=k41r
      蓝奏云：https://gndown.lanzoub.com/b047selfa
      123 盘：https://www.123912.com/s/wszYTd-G1M6d

      文章来源于互联网:XYplorer(多标签文件管理器) v27.00.0500 多语便携版

    • MediaHuman YouTube to MP3 v3.9.11(0605) 多语便携版

      MediaHuman YouTube to MP3是一款功能强大的软件，可以帮助用户将YouTube视频转换为MP3音频文件并下载到本地。

      MediaHuman YouTube to MP3 v3.9.9.92(0629) 多语便携版

      软件功能

      - YouTube视频转换：支持将YouTube视频转换为高质量的MP3音频文件。
      - 批量下载：可以同时下载多个视频，并将它们一次性转换为MP3文件。
      - 自动标签添加：软件可以自动从YouTube视频中提取艺术家、标题和专辑等信息，并将其作为音频文件的标签。
      - 支持各种音质选择：提供多个音质选项，让用户选择合适的音频品质。
      - 下载和转换速度快：采用先进的技术，可以高速下载和转换视频文件。

      软件特点

      - 界面简洁友好：软件界面简单直观，易于操作。
      - 多平台支持：支持Windows、Mac和Linux等操作系统，满足不同用户的需求。
      - 转换质量高：可以保持原始视频的音频质量，并提供多个音质选项供用户选择。
      - 可定制的保存路径：用户可以自定义保存转换后的MP3文件的路径。
      - 支持批量处理：可以同时下载和转换多个视频文件，提高用户的工作效率。

      如遇无法正常使用，请填写好“偏好设置”- “网络”-“XX服务器”的地址！

      下载地址

      MediaHuman YouTube to MP3 v3.9.11(0605) 多语便携版
      夸克云：https://pan.quark.cn/s/03a36ba9f4ee
      城通盘：https://url33.ctfile.com/d/2655733-62195701-e6a667?p=2023 (访问密码: 2023)
      百度云：https://pan.baidu.com/s/1C_wq5bEuuRQGAJH79qFCfg?pwd=sn41
      蓝奏云：https://gndown.lanzoue.com/b00eeyd4fg
      123 盘：https://www.123912.com/s/wszYTd-y1M6d

      文章来源于互联网:MediaHuman YouTube to MP3 v3.9.11(0605) 多语便携版

    • MediaHuman YouTube Downloader v3.9.11(0605) 多语便携版

      MediaHuman YouTube Downloader 是一款免费的YouTube视频下载软件，可将YouTube视频下载为MP3、MP4、FLV等格式，并支持下载整个YouTube播放列表和频道。

      软件功能

      快速下载：支持同时下载多个视频，下载速度快。
      批量下载：可下载整个YouTube播放列表和频道中的所有视频。
      高质量下载：可选择下载的视频质量，包括高清和4K。
      提取音频：可将YouTube视频提取为纯音频文件，支持MP3、M4A、AAC等格式。
      自动保存历史记录：软件会自动保存下载历史记录，方便查找和管理已下载的视频。
      内置视频播放器：可预览已下载的视频，无需额外的播放器软件。

      软件特点

      界面简洁直观：操作简单，易于使用，适合不熟悉技术的用户。
      跨平台支持：可在Windows、Mac和Linux上运行。
      可定制设置：可自定义下载路径、下载速度限制、音频质量等。
      内置下载队列：可将多个视频添加到下载队列中，按顺序自动下载。

      如遇无法正常使用，请填写好“偏好设置”- “网络”-“XX服务器”的地址！

      下载地址

      MediaHuman YouTube Downloader v3.9.11(0605) 多语便携版
      夸克云：https://pan.quark.cn/s/03a36ba9f4ee
      城通盘：https://url33.ctfile.com/d/2655733-62195701-e6a667?p=2023 (访问密码: 2023)
      百度云：https://pan.baidu.com/s/1C_wq5bEuuRQGAJH79qFCfg?pwd=sn41
      蓝奏云：https://gndown.lanzoue.com/b00eeyd4fg
      123 盘：https://www.123912.com/s/wszYTd-y1M6d

      文章来源于互联网:MediaHuman YouTube Downloader v3.9.11(0605) 多语便携版

    • Wipe Pro(专业数据擦除软件) 2505 多语便携版

      Wipe 是一款专业的数据擦除软件，适用于 Windows 操作系统。它提供了多种数据擦除方法，帮助用户彻底删除硬盘上的数据，防止数据恢复和泄露。Wipe 的设计注重安全性和易用性，适合需要高效管理和销毁敏感数据的用户。

      软件功能

      数据擦除：
      文件擦除：支持彻底删除单个文件或文件夹，确保数据无法恢复。
      磁盘擦除：支持擦除整个硬盘或分区，适用于退役硬盘或重新格式化硬盘。
      自由空间擦除：支持擦除磁盘上的空闲空间，确保已删除文件的数据无法恢复。
      擦除方法：
      DoD 标准：支持（DoD）标准的擦除方法，确保数据彻底删除。
      Gutmann 方法：支持 Gutmann 方法，使用多种随机模式进行擦除，确保数据无法恢复。
      零填充：支持零填充方法，将数据覆盖为零，适用于快速擦除。
      随机数据：支持使用随机数据进行擦除，增加数据恢复的难度。
      进度监控：
      实时监控：提供实时进度监控，用户可以随时查看擦除进度。
      日志记录：记录擦除操作的日志，方便用户追踪和审计。
      调度任务：
      定时任务：支持定时任务，用户可以设置定期自动擦除任务，确保数据安全。
      触发任务：支持触发任务，用户可以设置在特定条件下自动启动擦除任务。
      系统兼容性：
      多种文件系统：支持多种文件系统，如 NTFS、FAT32、exFAT 等。
      多种存储设备：支持多种存储设备，如硬盘、SSD、U 盘、SD 卡等。

      软件特点

      用户友好：提供直观的用户界面和丰富的设置选项，适合各水平用户使用。
      多功能集成：集成了文件擦除、磁盘擦除和自由空间擦除等多种功能，用户无需在多个工具之间切换。
      高效性能：优化的数据擦除引擎，确保快速响应和高效操作。
      多种擦除方法：支持多种国际标准和自定义方法，确保数据彻底删除。
      进度监控：提供实时进度监控和日志记录，方便用户管理和审计。
      定期更新：开发团队定期发布更新，修复已知问题并增加新功能，确保软件的稳定性和兼容性。
      社区和支持：提供详细的使用指南和技术支持，帮助用户解决使用过程中遇到的问题。

      下载地址

      Wipe Pro(专业数据擦除软件) 2505 多语便携版
      夸克云：https://pan.quark.cn/s/fc6d799bd1fc
      城通盘：https://url33.ctfile.com/d/2655733-63648475-dbe46c?p=2023 (访问密码: 2023)
      百度云：https://pan.baidu.com/s/1c71OEpBqBTsxYRe9yKF6og?pwd=uwqy
      蓝奏云：https://gndown.lanzouu.com/b00ef654md
      123 盘：https://www.123912.com/s/wszYTd-XwM6d

      文章来源于互联网:Wipe Pro(专业数据擦除软件) 2505 多语便携版

    • Video Shaper(视频剪辑合并软件) v6.0 便携版

      Video Shaper是一款专业的视频转换和编辑软件，可以帮助用户将视频文件转换成多种常见的视频格式，并且可以进行视频剪辑、合并、旋转、调整亮度和对比度等操作。

      Video Shaper(视频转换和编辑软件) v5.8 英文便携版

      软件功能

      视频转换：支持将各种视频文件（如MP4、AVI、MOV等）转换成其他常见视频格式，包括但不限于MP4、AVI、MOV、WMV等。
      视频剪辑：可以选择视频的开始和结束时间进行裁剪，从而去除不需要的片段。
      视频合并：可以将多个视频文件合并成一个完整的视频文件。
      视频旋转：可以将视频顺时针或逆时针旋转90度、180度或270度。
      调整视频参数：可以调整视频的亮度、对比度、饱和度和色调，以获得更好的视觉效果。
      音频提取：可以从视频文件中提取出音频，并保存为常见的音频格式，如MP3、WAV等。

      软件特点

      界面简洁直观：软件采用直观的用户界面设计，操作简单易懂。
      转换速度快速：支持硬件加速技术，转换速度快，节省时间。
      转换质量高：软件转换过程中保持原视频质量，可以选择输出的视频参数进行优化。
      支持批量转换：可以同时转换多个视频文件，提高工作效率。
      输出格式丰富：支持多种视频格式的输入和输出，满足不同用户的需求。
      支持多种操作系统：可以在Windows和Mac等多个操作系统上使用。

      下载地址

      Video Shaper(视频剪辑合并软件) v6.0 便携版
      夸克云：https://pan.quark.cn/s/ffc8c275738e
      城通盘：https://url33.ctfile.com/d/2655733-58769476-e0cc2e?p=2023 (访问密码: 2023)
      百度云：https://pan.baidu.com/s/1WGXllSFcebHJs1VJjUalzQ?pwd=4w5u
      蓝奏云：https://gndown.lanzoub.com/b048wgm5i
      123 盘：https://www.123912.com/s/wszYTd-2wM6d

      文章来源于互联网:Video Shaper(视频剪辑合并软件) v6.0 便携版
    吐血推荐

    嘟买买虚拟资产交易平台

    tob 扁平化、简洁风、多功能配置，优秀的电脑、平板、手机支持，响应式布局，不同设备不同展示效果...

    标兵网，让商业更简单！

    tob主题 新一代主题

    tob 扁平化、简洁风、多功能配置，优秀的电脑、平板、手机支持，响应式布局，不同设备不同展示效果...

    默惠工业，轻松采购工业品

    tob主题 新一代主题

    tob 扁平化、简洁风、多功能配置，优秀的电脑、平板、手机支持，响应式布局，不同设备不同展示效果...

    热门标签

    雷都捷特人字梯WordPress小巨人梯Cloudflare小巨人梯子伸缩人字梯Littlegiant Ladder小巨人工业梯伸缩梯玻璃钢梯绝缘梯双侧伸缩梯多功能梯Stable Diffusion极致梯xTreme美标梯子destoon罗辑思维罗振宇时间的朋友跨年演讲LittleGiant折叠梯工业安全梯安全梯黑马梯人字伸缩梯

    热门推荐

    活跃用户

      最新评论

      网站统计

      • 日志总数：103
      • 标签总数：370
      • 分类总数：41
      • 用户总数：600
      • 最后更新：2025-05-15

      登录

      找回密码

      注册