---
author: 硬核老王
category: 硬核观察
comments_data: []
count:
  commentnum: 0
  favtimes: 0
  likes: 0
  sharetimes: 0
  viewnum: 2856
date: '2023-01-17 19:01:21'
editorchoice: false
excerpt: "❶ PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断\r\n❷ Basecamp 因巨额账单退出云计算\r\n❸ 使用了 25
  年的笔记本内存规范 SO-DIMM 将被替换"
fromurl: ''
id: 15453
islctt: false
largepic: /images/p/202301/17/185333p3tr2rdaykykx3hn.jpg
permalink: /article-15453-1.html
pic: /images/p/202301/17/185333p3tr2rdaykykx3hn.jpg.thumb.jpg
related: []
reviewer: ''
selector: ''
summary: "❶ PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断\r\n❷ Basecamp 因巨额账单退出云计算\r\n❸ 使用了 25
  年的笔记本内存规范 SO-DIMM 将被替换"
tags:
- PyTorch
- 云计算
- 内存
thumb: false
title: '硬核观察 #884 PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断'
titlepic: true
translator: ''
updated: '2023-01-17 19:01:21'
---

![](/images/p/202301/17/185333p3tr2rdaykykx3hn.jpg)


![](/images/p/202301/17/185342wwz9s3s026gh2shz.jpg)


### PyTorch 和 Triton 正在打破英伟达 CUDA 的垄断


大部分机器学习软件开发框架严重依赖于英伟达 CUDA，并在英伟达 GPU 上表现最佳。但随着 PyTorch 2.0 和 OpenAI Triton 的到来，英伟达 CUDA 对机器学习的垄断地位正逐渐瓦解。即将到来的 PyTorch 2.0 在英伟达 A100 上的训练性能提升了 86%，在 CPU 上的推理性能提升了 26%。而且这种优势可以扩展到 AMD、英特尔、特斯拉、谷歌、亚马逊、微软等等各个公司生产的 GPU 和 AI 加速器上。而 Triton 能让高级语言达到与使用低级语言相当的性能，提高了可用性。



> 
> **[消息来源：Semi Analysis](https://www.semianalysis.com/p/nvidiaopenaitritonpytorch)**
> 
> 
> 



> 
> 老王点评：又一次证明了开源胜过闭源，无论闭源的护城河有多深。
> 
> 
> 


![](/images/p/202301/17/185359qih1na3cia5041x4.jpg)


### Basecamp 因巨额账单退出云计算


Basecamp 的 CTO，也是 Ruby On Rails 的创建者 DHH 介绍了让该公司退出云计算的巨额账单。其 2022 年的费用为 320 万美元，绝大部分都花在了 AWS 上，其中 S3 花费 90 万美元，RDS 47 万美元，OpenSearch 52 万美元，Elasticache 12 万美元。即便如此，也是经过大量工作才减少到这一费用的，该团队不但运行了成本检查计划，还就作为私人协议就长期使用达成了协议。DHH 还用戴尔服务器的三年均摊成本做了对比。



> 
> **[消息来源：The Register](https://www.theregister.com/2023/01/16/basecamp_37signals_cloud_bill/)**
> 
> 
> 



> 
> 老王点评：云计算确实有很多好处，但也可能是个让你花钱上瘾的无底洞。
> 
> 
> 


![](/images/p/202301/17/185407tzpfvicfpq7nhedd.jpg)


### 使用了 25 年的笔记本内存规范 SO-DIMM 将被替换


制定内存标准的组织 JEDEC 正在制定新规范，以取代已经使用了 25 年的 SO-DIMM 规范。新的 CAMM 标准将基于戴尔公司的设计，目标是在 2023 年下半年完成 1.0 规范，到明年推出基于 CAMM 的系统。现有的 SO-DIMM 在 DDR5/6400 时已经遇到了“困境”，CAMM 的主要吸引力在于它可以实现更高的内存密度，同时还可以扩展到更高的时钟速度。



> 
> **[消息来源：PC World](https://www.pcworld.com/article/1473126/camm-the-future-of-laptop-memory-has-arrived.html)**
> 
> 
> 



> 
> 老王点评：这是不是代表以后笔记本会需要更多内存？
> 
> 
>