Press "Enter" to skip to content

分类: 计算机

大语言模型的涌现能力:现象与解释

注1:本文整理自我在今年3 月 11 日 “中国人工智能学会”主办的「ChatGPT 及大模型专题研讨会」上《大型语言模型的涌现能力:现象与解释》的现场分享,介绍了大语言模型中的涌现现象,以及关于涌现能力背后原因的相关猜想。感谢CSDN帮助整理的文字稿。 注2:另,有人问了,既然很多自然现象也体现出涌现能力,那么大语言模型的涌现现象需要解释吗?我个人认为是需要的。毕竟,说大语言模型的某个特殊现象属…

Leave a Comment

ChatGLM3的demo推理项目指定使用某一个GPU运行

尝试运行ChatGLM3项目的composite_demo,我的电脑有2个显卡,是一个24G显存的Tesla P40 ,一个是6G显存的NVIDIA GeForce GTX 1060 6GB。 当我尝试启动这个项目的时候,我发现2块显卡似乎都在被使用,默认的策略应该是使用多块显卡。 由于我的1060显存是不够跑这个模型的,这样的话就会报显存不足的错误。 尝试扒了下代码,看到下面的配置(compos…

Leave a Comment

类似 VMware的Unity 模式的远程桌面(远程APP)体验

推荐给大家这个工具:RemoteApp Tool,https://github.com/kimmknight/remoteapptool 通过一些简单的配置,可以让你的远程桌面上面的程序可以实现无缝的本地使用体验,类似VMware的Unity模式。 虽然 RemoteApp 远程应用是 Windows 自带的功能,但在使用前是需要做不少配置工作的,个人认为手动去配置比较麻烦,感兴趣可以自己去查教程…

Leave a Comment

让win10远程桌面支持多用户同时登录

下载软件: https://github.com/stascorp/rdpwrap/releases 我这里下载的是RDPWrap-v1.6.2.zip,下载下来解压之后会出现几个文件: 建议放到一个固定的位置,然后点右键用管理员运行install.bat 提示安装完成之后运行 RDPConf.exe,会出来个界面。 全绿色表示一切ok,可能的情况是你右边的版本号这边会提示红色不支持。 下载版本支…

Leave a Comment

The following signatures couldn’t be verified because the public key is not available: NO_PUBKEY 4AB56286D8A8E7A3

Ubuntu安装了nvidia的驱动之后,尝试用命令行执行apt操作报错: 解决方法 卸载驱动 去nvidia网站下载离线安装包: https://us.download.nvidia.com/tesla/535.129.03/nvidia-driver-local-repo-ubuntu2204-535.129.03_1.0-1_amd64.deb 手动安装: 安装好,他会提示你安装证书,就是那…

Leave a Comment

基于HFS构建一个容器上运行的简单文件服务器

一起一直在使用hfs服务来搭建简单文件服务器, https://www.rejetto.com/hfs/ hfs用起来还是比较舒服的,但是这个服务是Delphi实现的,windows上面跑比较方便,但是我现在都比较喜欢什么东西都扔到docker里面运行。 后来我找到个 https://github.com/rejetto/hfs 使用Typescript重写的,他有Linux的发行版,可以尝试打包…

Leave a Comment