谷动谷力

标题: AI入门第一课:把模型跑起来 [打印本页]

作者: 鸣涧    时间: 2024-4-13 18:35
标题: AI入门第一课:把模型跑起来
AI 大模型发展到现在,国内外都有在线和离线版本,那如何在自己本地部署大模型呢?本文分享了一种简单的办法,一起来看看吧。


AI入门第一课:把模型跑起来

我们经常能看到某某公司开源了一款 AI 大模型的新闻。这些模型都有着超强的能力,从生成大段的文字、逼真的图像,到理解和翻译不同语言,再到创造出令人叹为观止的音乐和艺术作品。

对于我们普通人来说,这些高科技听起来不仅遥不可及,而且似乎与我们的日常生活无关,他们像是只有那些天才和大神们才能操作和使用的。

但是这些强大的 AI 模型,并不止是大神们才能接触和使用,实际上,这些模型的使用门槛其实不高。任何对 AI 感兴趣的人都可以轻松获取和使用这些模型,就像搭乐高积木一样,将它们组合起来,创造出你心目中的应用。

这一切既不需要深厚的技术背景,也不需要复杂的编程技能。只要你有想法和一丢丢的学习,这些强大的模型就能成为你随意操作的「乐高」,搭建出你设想的样子。

下面我们一起来看下,如何把模型跑起来~

第一步:找到一个模型

首先,第一步我们得知道去哪里找到这些模型,很简单,有一个神奇的网站叫:Hugging Face(https://huggingface.co/),这个网站本质就是一个大模型的托管网站,目前这个网站托管的 AI 模型超过 57 万。一些热门的模型,比如 meta 的 Llama 系列模型,google 的 Gemini 等都托管在这个网站上,任何人都可以访问并使用它们。


AI入门第一课:把模型跑起来
假设,我们现在要找一个模型,可以实现读图的功能,就是给它一张图片,它可以告诉我这个图片里的主要内容是什么。这个模型的逻辑如下图,非常简单,输入一张图片,输出一段图片的文本描述。

这个模型本质上就是一个图片到文本的模型,我们在 Hugging Face 里选择 Image-to-Text 的分类,然后从得到的结果里看排名第一个的模型,就是下图红框圈选的:Salesforce/blip-image-captioning-large,这个就是模型的名字。

点击模型进行模型的详情页,这里有模型的详细原理介绍,以及在线试用的功能,可以在这里直接体验模型的效果。


AI入门第一课:把模型跑起来

找到了模型之后,我们接下来第二步,如何部署和使用模型。

第二步:模型的部署和使用

模型的使用涉及到模型的加载、预处理、模型推理和后处理步骤等,听起来似乎很复杂,但是不用担心,Hugging Face 还给我们提供了一套使用的工具,那就是 Transformers 库中的 pipeline 方法,pipeline 将前面提到的模型使用所有步骤封装成一个简单的函数调用。我们只需要使用这个函数方法,指定需要完成的任务类型,当然我们也可以指定特定的模型和配置来定制使用。Transformers 库是由 Hugging Face 公司开发的一个开源 Python 库,里面除了 pipeline 外,还有很多其它的方法和工具,这里就不细说了。

具体的使用其实就是几行 Python 代码就可以搞定,非常简单。这里额外说下,我们经常在使用写 python 的时候,需要安装编译器和配置环境,往往这些环境配置就已经消耗了我们的所有激情了。这里,感谢 google 大大提供的一个在线编程工具 colab,直接解决所有安装和环境问题。

Colaboratory 界面如下,就是一个可以在线写 python 代码的「笔记本」。


AI入门第一课:把模型跑起来© 由 ZAKER科技 提供

我们新建一个文件,然后输入第一行代码:

就这样一行代码,Transformers 库就安装好了。后面具体的操作,点击上传图片。

随后编写的代码和解释如下,懂一点点 python 和编程的人,应该就能写出来。写完后点击代码侧边的运行按钮即可。


AI入门第一课:把模型跑起来

输出的文案是:arafed woman sitting on the ground with a camera and a tripod. (一位戴着头巾的女性坐在地上,旁边放着相机和三脚架。)基本识别出来图片中的主要内容。

到此,我们的第一个模型的选择和使用的 demo 就完成了。

这段代码的地址如下:

三、最后

如果我们有更复杂的想法,比如我们可以用得到的图片描述,再用 LLM 模型,帮助编写一个故事脚本,再通过一个文生视频模型,变成图片或者视频,具体的流程如下图所示。


AI入门第一课:把模型跑起来

这些都是可以用一个一个模型拼接出来的。至于如何拼接,后续的文章中会继续介绍。

因此,在 AI 时代来临之际,如果你是一个有想法的产品,那么可以自己通过这些多种多样的模型实现自己的想法。分享一个我看到的有意思的模型实践,利用 codeformer 模型,去除图片的马赛克,大家可以去 huggingface 上体验下,https://huggingface.co/spaces/sczhou/CodeFormer

突然感觉这个应用可能蛮有前景!你觉得呢?哈哈哈。我也是 AI 入门学习者,对于模型的使用还有很多其它的平台和方法,我也在摸索中,欢迎大家交流讨论~

专栏作家:南村小付,微信公众号:南村小付,人人都是产品经理专栏作家。快手高级产品经理,曾任职阿里,欢聚时代,7 年互联网产品设计运营经验。

题图来自 Unsplash,基于 CC0 协议







欢迎光临 谷动谷力 (http://bbs.sunsili.com/) Powered by Discuz! X3.2