游凯超 深度学习(Deep Learning)话题下的优秀答主 vLLM官方论坛来了! 很多朋友在问怎么加入vLLM的微信群。鉴于微信群难以加入、难以维护,vLLM社区将逐渐迁移到论坛 链接 上,这样讨论内容是公开的,还可以被搜索引擎搜到。目前正在公测,欢迎大家加入! 论坛鼓励实名,计划参照PyTorch论坛运转。 微信群里不再回答技术...
游凯超 深度学习(Deep Learning)话题下的优秀答主 变量类型首先介绍几种变量: global variable(全局变量) argument(函数参数) local variable(局部变量) free variable(自由变量) cell variable… 阅读全文 赞同 122 条评论 分享
在彻底解决问题之前,我们只能采取权宜之计,先强制安装一个独立于PyTorch的NCCL 2.18版本。这又让我不得不参与vLLM的CI流程、发布流程等一系列开源项目管理事务,顺便接手了 vLLM 的分布式推理,并创建了vllm.distributed子模块。 没想到,半年后,几乎相同的问题在vLLM的...
游凯超目前担任惠州凯祥工艺品实业有限公司、东莞宏烨家饰有限公司法定代表人,同时担任惠州凯祥工艺品实业有限公司董事长,东莞宏烨家饰有限公司董事长;二、游凯超投资情况:目前游凯超投资东莞宏烨家饰有限公司最终收益股份为0%;三、游凯超的商业合作伙伴:基于公开数据展示,游凯超目前有4个商业合作伙伴,包括游万得、张琴英、...
游凯超 游凯超是清华大学软件学院的三年级博士生,师从龙明盛教授。他的研究重点是机器学习中的迁移学习,特别是将深度学习中的各种形式的知识从一个来源调整到另一个来源。他的目标是在开放和动态环境中开发机器学习算法。他最近的工作包括领域自适应、模型自适应以及 model-hub 适应。游凯超曾获 2019 年清华大学特等奖...
游凯超目前担任北京优开灵信息咨询服务有限责任公司法定代表人,同时担任北京优开灵信息咨询服务有限责任公司执行董事,经理;二、游凯超投资情况:游凯超目前是北京优开灵信息咨询服务有限责任公司直接控股股东,持股比例为100%;目前游凯超投资北京优开灵信息咨询服务有限责任公司最终收益股份为100%;三、游凯超的商业合作伙伴:...
游凯超 深度学习(Deep Learning) 话题的优秀答主 python不是一个单纯的软件,最新版本不一定适合。 用python的时候,很大概率上还会安装一堆包,这些包是有依赖的。python出了最新版就更新,可能有些包就用不了。君不见,整个python圈子花了多少年从python2迁移到python3. 所以,我的建议是,不要自动更新为最新版本...
临川二中再夺中考状元..临川二中再夺中考状元!!祝贺游凯超同学!痛失状元!勇夺第2、3、5、5名……(曾奕715分,第二名;游凯超708分,第三名)
游凯超 深度学习(Deep Learning) 话题的优秀答主 如果我们只是在服务器上编译当前服务器执行的GPU程序,而且只要求能运行,不追求速度,那使用默认的 nvcc 命令就行了。如果编译后的程序要在其他机器上使用,那我们就需要考虑其生成的二进制程序对GPU型号的…阅读全文 赞同73添加评论 分享收藏...
【GOSIM CHINA 2024】卞正达:OPEN- SORA,高效低成本视频生成模型 62 0 30:12 App 【GOSIM CHINA 2024】游凯超-vLLM:简单、高效、易用的大模型推理框架 186 0 38:19 App 【GOSIM CHINA 2024】晏国淇-跨平台方案新选择:ArkUI-X 128 0 18:00 App 【GOSIM CHINA 2024】侯昌韬:SPAD图像传感器:2D与3D融合...