如何在消费级硬件上微调 Llama 2 70B LLM
随着像Llama 70B这样的大型语言模型（LLM）的出现，人工智能世界已经有了重大飞跃。这些模式有可能彻底改变从客户服务到内容创作的各个领域。然而，挑战在于微调这些模型，特别是在消费级硬件上。本文将指导您使用消费级硬件微调Llama 70B型号的过程，这是Q Laura和Flash tension2等软件的最新创新使这一壮举成为可能。 此过程的第一步是对微...
赞 (0)阅读(615)
模型 第9页
如何使用ComfyUI与Stable Diffusion XL AI艺术生成器
如果您一直在使用稳定 AI 以Stable Diffusion 形式创建的 AI 艺术生成器，并且一直在享受 SDXL 形式的最新版本。但是希望对扩散模型有更多的控制，本指南将概述如何安装定制的图形用户界面。 ComfyUI用户界面是一个很棒的工具，允许用户使用基于图形/节点/流程图的界面设计和执行高级稳定的扩散管道。这个创新平台是由一位匿名开发人员开发的，...
赞 (0)阅读(628)
使用 NVIDIA 和 Anyscale 更快地构建大型语言模型 （LLM）
在人工智能领域的重大发展中，NVIDIA宣布与统一计算的先驱Anyscale进行战略合作。这种伙伴关系旨在加速大型语言模型（LLM）的开发，这是人工智能领域的一个关键组成部分。此次合作旨在将NVIDIA AI集成到Anyscale的开源Ray平台，Anyscale平台和Anyscale Endpoints中，这是一项旨在将LLM嵌入应用程序的新服务。 英伟达...
赞 (0)阅读(496)
如何为单个GPU微调Llama 2 7B
Meta 宣布推出其 Llama 2 预训练模型，该模型在 2 万亿个代币上进行训练，上下文长度是 Llama 1 的两倍。其微调模型已经过超过1万个人工注释的训练。如果您有兴趣学习如何微调 Meta 的 Llama 2 开源大型语言模型以在单个 GPU 上运行。你会很高兴地知道，深度学习AI YouTube频道创建了一个60分钟的教程，提供了如何实现这一目...
赞 (0)阅读(757)
Google新AI模型「Gemini」
技巨头Google 持续扩大AI 产品布局， 继今年2 月推出大型语言模型(LLM) 聊天机器人Bard 后，即将发表新一代对话式人工智慧（AI）模型「Gemini」。Google 已经向一小部分公司开放了Gemini 的早期版本，让外部开发人员能够访问这个AI 新模型，并计划未来通过旗下云端服务Google Cloud Vertex AI 平台，向企业提供...
赞 (0)阅读(534)
GitHub 开源的 AI 应用：AIdea，集成了主流大语言模型以及绘图模型
1一个在 GitHub 开源的 AI 应用：AIdea，集成了主流大语言模型以及绘图模型。 项目主要功能如下： – 支持 GPT-3.5/4 问答聊天 – 支持国产模型：通义千问，文心一言 – 文生图、图生图、超分辨率、黑白图片上色 – 集成 Stable Diffusion，支持 SDXL 1.0 GitHub...
赞 (0)阅读(621)
8 到 512 卡 LLaMA2 训练、微调、推理方案，对 700 亿参数训练加速 195%
1ChatGPT 引发的大模型热潮愈演愈烈，全球科技巨头和明星初创争相入局，打造以 AI 大模型为核心的竞争力和多样化商业使用需求。 LLaMA 系列模型，因良好的基础能力和开放生态，已积累了海量的用户和实际应用案例，成为无数开源模型后来者的模仿和竞争的标杆对象。 如何降低类 LLaMA2 大模型预训练成本，如何基于 LLaMA2 通过继续预训练和微调，低成本...
赞 (0)阅读(666)
教程：微调你自己的 Llama 2
教程：微调你自己的 Llama 2 你好呀！该目录应该为您提供如何从头到尾微调 Llama 2 模型的简要概述。我们正在训练的示例模型将从互联网上抓取的大型数据集中对食谱进行分类。我们将使用 GPT-4 为训练和测试集生成标签，然后使用axolotl库微调 Llama 2 模型。您应该按以下顺序查看此目录中的笔记本： ./1-generate-data.ip...
赞 (0)阅读(584)
Civitai：支持了图片生成功能
Civitai：支持了图片生成功能 Civitai终于上了免费的图片生成的功能，你现在可以直接在Civitai上使用站内的CKPT模型和Lora模型，C站应该是现在SD模型最多的地方了一些简单的图可以直接去试试了。 目前应该是不支持SDXL的模型，也不支持ControlNet，图像分辨率是固定的三个，重点是可以生成色图的。我也写了一个大致的使用方法介绍：ht...
赞 (0)阅读(525)
ChatGPT 替代品 AI21, Falcon 180b, Palm 2
如果您正在搜索其他 AI 模型的快速概述，这些模型提供与众所周知的 ChatGPT 变体类似的功能。本 ChatGPT 替代方案指南将概述当前值得考虑的一系列 AI 模型。许多企业正在寻找 ChatGPT 的替代品，原因多种多样，包括隐私问题、成本考虑以及对更专业模型的需求。下面由The AI Advantage精心制作的视频提供了一些最有前途的ChatGP...
赞 (0)阅读(622)
